(Vibiznews – Technology) – Dunia digital terus berkembang, terbukti dari pesatnya perkembangan kecerdasan buatan (AI), khususnya AI generatif (Gen AI).
AI generatif merupakan kecerdasan buatan yang berfokus pada kemampuan sistem untuk menghasilkan atau membuat data baru [dalam wujud teks, gambar, musik, audio atau video] yang memiliki karakteristik atau distribusi serupa dengan data yang telah diberikan kepadanya.
Transformasi teknologi ini yang dilakukan oleh AI generatif ini bisa bermanfaat bagi perbankan. Saat ini makin banyak lembaga keuangan yang kini menggunakan Gen AI untuk meningkatkan tata kelola mereka. Gen AI sedang mengubah industri jasa keuangan, mulai dari cara bank melayani nasabah hingga cara para eksekutif membuat keputusan.
Meskipun teknologi baru ini menawarkan banyak manfaat—termasuk otomatisasi alur kerja, peningkatan perangkat lunak, dan peningkatan produktivitas. Gen AI juga membawa risiko yang signifikan.
Apa manfaat AI Generatif dalam perbankan
AI Generatif mampu mempersonafikasi pengalaman pelanggan (nasabah) hal ini dimungkinkan karena AI generatif mampu menganalisis data pelanggan secara terperinci dan menciptakan solusi yang disesuaikan dengan kebutuhan individu.
Misalnya bank dapat menggunakan AI generatif untuk memberikan rekomendasi produk dan layanan yang lebih akurat, meningkatkan kepuasan pelanggan, dan memperkuat loyalitas.
Dari sisi operasional, AI Generatif juga mampu meningkatkan efisiensi. Dengan kemampuan Gen AI untuk mengolah dan menganalisis data secara besar-besaran, perbankan dapat mengotomatisasi proses operasional yang kompleks.
Misalnya, penggunaan chatbot pintar yang didukung oleh AI generatif dapat membantu dalam pengelolaan pertanyaan dan permintaan pelanggan dengan cepat dan efisien, mengurangi beban kerja karyawan manusia.
Selain itu, analisis risiko yang dilakulan bank menjadi lebih akurat. AI generatif dapat menganalisis data pasar dan perilaku pelanggan dalam waktu nyaris real-time. Bank-bank dapat memanfaatkan AI generatif ini untuk mengidentifikasi tren yang berpotensi membahayakan dan merancang strategi mitigasi risiko yang lebih efektif.
Hal ini tentu membantu bank dalam pengambilan keputusan yang lebih baik dan memperkuat ketahanan mereka terhadap kerugian finansial. (Sumber: Deddy H Pakpahan, Digitalbank.id, 4 Juli 2024 Bagaimana Bank Bisa Optimal Memanfaatkan GenAI?)
OJK juga menganggap penting penggunaan AI dalam tata kelola perbankan. Sehingga OJK Luncurkan Pedoman Tata Kelola Kecerdasan Artifisial (AI) Perbankan Indonesia
Kepala Eksekutif Pengawas Perbankan OJK, Dian Ediana Rae mengatakan pedoman ini bertujuan untuk memastikan agar teknologi AI dikembangkan dan diterapkan secara bertanggung jawab oleh industri perbankan.
Menurut Dian, penggunaan AI dalam kegiatan jasa perbankan akan terus meningkat. “Tidak hanya terbatas pada interaksi dan kualitas layanan nasabah, tetapi juga meliputi pengembangan produk dan penetapan harga, kepatuhan.
Manajemen risiko dan pencegahan penipuan, serta data analytics terkait pasar industri perbankan,” ucapnya dalam keterangan tertulis pada Selasa, 29 April 2025. Oleh sebab itu, menurutnya, penerapan AI di sektor perbankan perlu diimbangi dengan pengelolaan risiko (Sumber Tempo.co, 30 April 2025)
Risiko yang mungkin timbul dari penerapan AI di sektor perbankan.
Teknologi AI Generatif ini dapat membuka celah bagi lembaga keuangan seperti perbankan terhadap risiko hukum dan reputasi, serta meningkatkan kerentanan terhadap serangan siber, penipuan, dan ancaman lainnya.
Apa bedanya dengan AI Tradisional?
Sistem AI tradisional dibuat untuk mengelola tugas-tugas yang cakupannya sempit dengan menggunakan data bisnis milik sendiri.
Sebaliknya, AI generatif baru dapat membuat konten baru—sering kali dengan menggunakan data publik, tidak terstruktur, dan multimoda—melalui serangkaian proses yang rumit dan bertahap yang dapat menciptakan lebih banyak peluang untuk penyalahgunaan dan kesalahan.
Sistem tata kelola risiko AI tradisional tidak dirancang untuk mengawasi lapisan-lapisan kompleksitas tambahan ini.
Dilansir dari artikel Mc Kinsey berjudul ”How financial institutions can improve their governance”, 27 Maret 2025, lembaga keuangan perlu memperbarui kerangka tata kelola AI mereka. Hal ini dilakukan untuk memperhitungkan peningkatan kompleksitas ini dan titik paparan yang lebih besar.
Berarti diperlukan penggabungan manajemen risiko model (MRM) dan teknologi, data, serta risiko hukum baru ke dalam model risiko perusahaan mereka. Mereka perlu meninjau pengawasan mereka terhadap AI dan kemudian menilai cara terbaik untuk mengelola model khusus gen-AI di masa mendatang.
Untuk memperhitungkan Gen AI dan potensi dampaknya terhadap bisnis, para pemimpin perlu meninjau secara sistematis semua area risiko yang tersentuh oleh teknologi tersebut.
Antara lain, mereka harus mempertimbangkan sistem pengawasan, model gen AI, termasuk faktor hukum dan etika.
Sistem pengawasan
Diperlukan pengawasan khusus karena AI Generatif terdiri dari campuran berbagai model dan komponen perangkat lunak sehingga tidak cukup satu kelompok (seperti komite MRM) mengawasi semua aplikasi AI generatif.
Misalnya, chatbot bertenaga gen AI yang memberikan nasihat keuangan kepada pelanggan dapat membuat perusahaan terpapar berbagai risiko terkait teknologi, hukum, dan data.
Oleh karena itu, lembaga keuangan seperti perbankan perlu memutuskan komponen AI generatif mana yang hanya memerlukan pemeriksaan risiko model. Dan mana yang memerlukan tinjauan bersama dengan sel risiko lainnya. Koordinasi yang erat di seluruh komite risiko dapat memastikan pengawasan menyeluruh.
Pemimpin risiko di lembaga keuangan akan membutuhkan model baru untuk mengelola risiko AI generatif di seluruh perusahaan mereka. Dengan model AI gen multi tugas yang baru, bank dapat melakukan lebih dari sekadar memprediksi dan mengkategorikan.
Mereka dapat merancang dan memberikan layanan yang dipersonalisasi, meningkatkan keterlibatan pelanggan. Dan meningkatkan efisiensi operasional dengan cara yang tidak dapat mereka lakukan dengan AI tradisional.
Misalnya, model AI generatif dapat secara otomatis membuat lembar persyaratan pinjaman baru berdasarkan analisis mereka terhadap pinjaman serupa yang telah dieksekusi sebelumnya. Hal ini tidak hanya mengurangi pekerjaan manual tetapi juga dapat mempercepat proses penutupan dan meningkatkan pengalaman peminjam.
Namun, karena model AI generatif dilatih pada data publik dan privat, model tersebut dapat menghasilkan informasi atau respons yang secara faktual tidak benar. Menyesatkan, atau bahkan dibuat-buat—misalnya, menghasilkan total pendapatan yang digelembungkan.
Atau riwayat kebangkrutan yang dibayangkan untuk pelanggan yang menanyakan aplikasi AI generatif tentang kualifikasi pinjaman.
Masalah ini dapat diminimalkan menggunakan aplikasi retrieval-augmented-generation (RAG) yang menggabungkan data eksternal dan internal untuk memastikan respons yang akurat.
Aplikasi RAG dapat mencakup bahasa yang ditinjau secara hukum tentang aturan peminjaman dan dapat menegakkan pedoman percakapan yang ketat untuk membantu bank mengelola interaksi pelanggan dengan alat AI gen.
Kesimpulan
Dengan model AI gen multi tugas yang baru, bank dapat melakukan lebih banyak hal. Namun, karena model tersebut dilatih pada data publik dan privat, model tersebut dapat menghasilkan informasi atau respons yang tidak benar, menyesatkan, atau dibuat-buat.
Inilah risiko yang harus dipahami dan dimitigasi jika bank /lembaga keuangan akan menggunakan model AI gen.
Selain itu keamanan data jadi hal yang krusial karena data dapat diretas. Ketika menggunakan AI generatif, keamanan data menjadi lebih penting dari sebelumnya.
Perbankan harus meningkatkan langkah-langkah keamanan demi melindungi data pelanggan dan transaksi dari ancaman cyber. Kecerdasan buatan hanya berharga jika data yang digunakan aman dan dilindungi dengan baik
Soal transparansi dan akuntabilitas dalam penggunaan AI juga penting. Bank harus menjelaskan secara transparan bagaimana dan mengapa mereka menggunakan AI generatif dalam operasional mereka.
Menjelaskan secara jelas dan memberikan pemahaman yang baik terhadap pelanggan dan pemangku kepentingan akan membantu membangun kepercayaan dan menghindari potensi reaksi negatif yang mungkin timbul dari nasabah.
Perbankan harus menetapkan perlindungan untuk mengelola risiko ini sepanjang siklus hidup model guna memastikan kepatuhan terhadap peraturan dan standar etika yang terus berubah.
Belinda Kosasih/ Partner of Banking Business Services/Vibiz Consulting
