Tata Kelola AI dalam Perbankan dan Risiko Hukumnya: Apa yang Wajib Dipatuhi Bank?

Transformasi digital dalam sektor perbankan tidak lagi sekadar pilihan strategis, melainkan telah menjelma menjadi kebutuhan fundamental untuk menjaga daya saing dan relevansi di tengah disrupsi teknologi. Salah satu inovasi yang paling signifikan adalah pemanfaatan kecerdasan buatan (Artificial Intelligence atau Akal Imitasi/AI), yang kini digunakan dalam berbagai aspek operasional bank, mulai dari analisis kredit, deteksi fraud, hingga personalisasi layanan nasabah. Namun, di balik potensi efisiensi dan akurasi yang ditawarkan, penggunaan AI juga menghadirkan tantangan hukum baru yang lebih kompleks dan multidimensional. 

Dalam hal ini, tata kelola AI menjadi isu krusial yang tidak dapat diabaikan oleh industri perbankan. Regulator, khususnya Otoritas Jasa Keuangan (OJK), mulai merumuskan berbagai pedoman dan kerangka regulasi guna memastikan bahwa penerapan AI tetap sejalan dengan prinsip kehati-hatian, perlindungan konsumen, dan stabilitas sistem keuangan. SIP Law Firm akan membahas secara mendalam kewajiban hukum terkait tata kelola AI di perbankan Indonesia, mencakup aspek manajemen risiko, transparansi dan akuntabilitas, serta tanggung jawab hukum atas keputusan berbasis AI. 

 

Kewajiban Tata Kelola dan Pengawasan AI sebagai Bagian dari Manajemen Risiko Bank

 

Pemanfaatan AI dalam dunia perbankan tidak dapat dipisahkan dari kerangka manajemen risiko yang komprehensif. Dalam praktiknya, AI bukan hanya alat bantu operasional, tetapi telah menjadi bagian penting dari proses pengambilan keputusan yang berdampak langsung pada profil risiko bank. Oleh karena itu, pengawasan terhadap sistem AI harus diposisikan sebagai bagian dari tata kelola risiko yang melekat dalam penyelenggaraan teknologi informasi perbankan. 

Hal ini sejalan dengan ketentuan dalam Peraturan Otoritas Jasa Keuangan Nomor 11/POJK.03/2022 tentang Penyelenggaraan Teknologi Informasi Oleh Bank Umum (“POJK 11/2022”) yang mewajibkan bank untuk menerapkan prinsip manajemen risiko dalam setiap penggunaan teknologi informasi. Dalam Pasal 15 ayat (3) POJK 11/2022 menegaskan bahwa dalam menerapkan manajemen risiko, bank melakukan proses paling sedikit:

1. identifikasi risiko;
2. pengukuran risiko; 
3. pemantauan risiko; dan
4. pengendalian risiko.

Dalam penggunaan AI, kewajiban ini mencakup identifikasi, pengukuran, pemantauan, dan juga pengendalian risiko yang timbul dari penggunaan algoritma dan model pembelajaran mesin. Risiko tersebut antara lain meliputi bias algoritma, kesalahan prediksi, ketergantungan pada data yang tidak akurat, hingga potensi kegagalan sistem yang dapat berdampak secara sistemik. Oleh karena itu, bank dituntut untuk memiliki kerangka governance AI yang mencakup validasi model, audit algoritma, serta mekanisme monitoring yang berkelanjutan. 

Lebih lanjut, dalam Pasal 23 POJK 11/2022 diatur bahwa bank wajib melakukan pengujian keamanan siber berdasarkan:

1. analisis kerentanan; dan
2. skenario.

Pengujian keamanan siber berdasarkan analisis kerentanan sebagaimana dimaksud dalam Pasal 23 huruf a wajib dilaksanakan secara berkala dan bank wajib menyampaikan hasil pengujian keamanan siber berdasarkan analisis kerentanan sebagaimana dimaksud pada ayat (1) kepada Otoritas Jasa Keuangan (OJK) sebagai bagian dari laporan kondisi terkini penyelenggaraan TI Bank.

Selain itu, POJK 11/2022 melalui Pasal 4 juga menekankan pentingnya integrasi AI governance ke dalam enterprise risk management framework, yang mana berkaitan dengan peran aktif direksi, dewan komisaris, dan pejabat dalam pengawasan penggunaan tata kelola TI. Hal ini menunjukkan bahwa tanggung jawab atas penggunaan teknologi informasi seperti AI tidak hanya berada pada level operasional, melainkan juga bagian dari tanggung jawab fiduciary organ perusahaan. 

Dengan begitu, penggunaan AI di perbankan tidak boleh dipandang sebagai inovasi teknologi semata, melainkan sebagai aktivitas yang memiliki implikasi hukum dan risiko. Bank wajib memastikan bahwa setiap implementasi AI telah melalui proses governance yang ketat dan terintegrasi dengan sistem manajemen risiko yang ada. 

 

Kewajiban Transparansi, Akuntabilitas, dan Explainable AI dalam Sektor Perbankan

 

Salah satu tantangan utama dalam penggunaan AI adalah sifatnya yang sering kali bersifat “black box”, di mana proses pengambilan keputusan tidak mudah dipahami bahkan oleh pengembangnya sendiri. Di dunia perbankan, hal ini dapat menimbulkan persoalan serius terkait transparansi dan akuntabilitas, terutama ketika keputusan AI berdampak pada hak-hak nasabah, seperti penolakan kredit atau penentuan skor risiko. 

Dalam menjawab tantangan ini, OJK melalui dokumen “Tata Kelola Kecerdasan Artifisial Perbankan Indonesia” menekankan pentingnya prinsip transparansi dan explainability dalam penggunaan AI. Bank diwajibkan untuk dapat menjelaskan secara rasional dan dapat dipahami mengenai bagaimana suatu keputusan dihasilkan oleh sistem AI, khususnya dalam kasus yang berdampak langsung terhadap nasabah. Prinsip ini sejalan dengan ketentuan dalam Undang-Undang Nomor 8 Tahun 1999 tentang Perlindungan Konsumen (“UU Perlindungan Konsumen”) yang dalam Pasal 4 huruf c menyatakan bahwa konsumen berhak atas informasi yang benar, jelas, dan jujur mengenai kondisi dan jaminan barang dan/atau jasa. 

Lebih lanjut, Pasal 29 Undang-Undang Nomor 10 Tahun 1998 tentang Perubahan Atas Undang-Undang Nomor 7 Tahun 1992 tentang Perbankan (“UU Perbankan”) juga menegaskan bahwa bank wajib menjalankan prinsip kehati-hatian dalam menjalankan usahanya. Prinsip kehati-hatian ini mencakup kewajiban untuk memastikan bahwa setiap keputusan yang diambil, termasuk yang berbasis AI, dapat dipertanggungjawabkan secara hukum dan operasional. 

Konsep explainable AI (XAI) menjadi solusi penting dalam hal ini. Dengan XAI, bank dapat menyediakan penjelasan yang dapat dipahami oleh manusia mengenai output yang dihasilkan oleh sistem AI. Hal ini tak hanya meningkatkan kepercayaan nasabah, tetapi juga mempermudah proses audit dan pengawasan oleh regulator. 

Akuntabilitas juga menjadi aspek penting dalam tata kelola AI. Bank harus memiliki mekanisme yang jelas untuk menentukan siapa yang bertanggung jawab atas keputusan yang dihasilkan oleh AI. Hal ini mencakup penetapan struktur organisasi yang jelas, dokumentasi proses pengambilan keputusan, serta mekanisme pelaporan dan eskalasi apabila terjadi kesalahan atau penyimpangan. Sebab, transparansi dan akuntabilitas bukan hanya menjadi prinsip etis, tetapi juga merupakan kewajiban hukum yang harus dipenuhi oleh bank dalam menggunakan AI. Kegagalan dalam memenuhi prinsip ini dapat berujung pada sanksi administratif, gugatan hukum, hingga kerusakan reputasi yang signifikan.

Baca juga: Penerapan Green Data Center, Solusi Kurangi Emisi di Era Digital

 

Memahami Tanggung Jawab Hukum dan Risiko Liability atas Keputusan Berbasis AI

 

Penggunaan AI dalam pengambilan keputusan di perbankan menimbulkan pertanyaan mendasar, siapa yang bertanggung jawab ketika terjadi kesalahan? Apakah tanggung jawab berada pada pengembang sistem, manajemen bank, atau sistem AI itu sendiri? Dalam kerangka hukum yang berlaku saat ini, AI tidak memiliki status subjek hukum, sehingga tanggung jawab tetap berada pada manusia atau badan hukum yang mengoperasikannya.

Berkaitan dengan ini, bank sebagai institusi tetap menjadi pihak yang bertanggung jawab atas setiap keputusan yang dihasilkan oleh sistem AI yang digunakannya. Hal ini sejalan dengan prinsip liability dalam Hukum Perdata, khususnya dalam Pasal 1365 Kitab Undang-Undang Hukum Perdata (“KUHPerdata”) yang menyatakan bahwa setiap perbuatan melawan hukum yang menimbulkan kerugian kepada orang lain mewajibkan pelakunya untuk mengganti kerugian tersebut. 

Pada praktiknya, penggunaan AI dalam proses pengambilan keputusan perbankan perlu dikelola dengan kehati-hatian yang tinggi, mengingat potensi dampaknya terhadap nasabah. Dalam kondisi tertentu, seperti adanya ketidaksesuaian dalam penilaian kredit atau potensi bias algoritma, risiko hukum dapat timbul dan berimplikasi pada pertanggungjawaban bank. Panduan dari OJK menegaskan bahwa pemanfaatan AI tidak mengalihkan tanggung jawab bank terhadap nasabah.

Dari perspektif hukum administrasi, kepatuhan terhadap ketentuan terkait teknologi informasi dan perlindungan konsumen menjadi aspek yang krusial. Ketidaksesuaian dalam implementasi dapat membuka potensi pengenaan sanksi oleh regulator, sebagaimana termaktub dalam POJK 11/2022 yang memberikan kewenangan kepada OJK untuk menjatuhkan sanksi administratif.

Sejalan dengan perkembangan global, terdapat tren peningkatan perhatian terhadap pengaturan liability dalam penggunaan AI, khususnya untuk teknologi yang dikategorikan berisiko tinggi. Beberapa yurisdiksi bahkan mulai mengarah pada pendekatan yang lebih ketat. Hal ini menjadi sinyal penting bagi industri perbankan di Indonesia untuk memperkuat kerangka tata kelola dan akuntabilitas, seiring dengan meningkatnya ekspektasi regulator, termasuk dari OJK.

Untuk itu, pendekatan mitigasi risiko yang proaktif menjadi kunci. Bank disarankan untuk melakukan due diligence secara menyeluruh terhadap sistem AI yang digunakan, memastikan keselarasan dengan ketentuan regulasi yang berlaku, serta membangun mekanisme pengaduan dan remediasi yang efektif sebagai bagian dari perlindungan nasabah dan penguatan kepercayaan publik.***

Baca juga: Revolusi Marketing Kantor Hukum dengan Kekuatan Artificial Intelligence

 

Daftar Hukum:

• Peraturan Otoritas Jasa Keuangan Nomor 11/POJK.03/2022 tentang Penyelenggaraan Teknologi Informasi Oleh Bank Umum (“POJK 11/2022”).
• Undang-Undang Nomor 8 Tahun 1999 tentang Perlindungan Konsumen (“UU Perlindungan Konsumen”).
• Undang-Undang Nomor 10 Tahun 1998 tentang Perubahan Atas Undang-Undang Nomor 7 Tahun 1992 tentang Perbankan (“UU Perbankan”).
• Kitab Undang-Undang Hukum Perdata (“KUHPerdata”).

Referensi:

• Tata Kelola Kecerdasan Artifisial Perbankan Indonesia. Otoritas Jasa Keuangan (OJK). (Diakses pada 30 Maret 2026 pukul 10.43 WIB).
• AI in Banking: Dampak Penggunaan AI pada Perbankan. Binus University. (Diakses pada 30 Maret 2026 pukul 10.55 WIB).
• Risiko dan Tantangan Penggunaan AI dalam Perbankan. HukumOnline. (Diakses pada 30 Maret 2026 pukul 11.16 WIB).
• Panduan Kode Etik Kecerdasan Buatan (Artificial Intelligence/AI) yang Bertanggung Jawab dan Terpercaya di Industri Teknologi Finansial. Otoritas Jasa Keuangan (OJK). (Diakses pada 30 Maret 2026 pukul 11.32 WIB).