Risiko Hukum Penggunaan AI untuk Bisnis di Indonesia

Artificial Intelligence (AI) telah menjadi bagian penting dalam strategi bisnis modern. Perusahaan memanfaatkannya untuk meningkatkan efisiensi operasional, mengotomatisasi layanan pelanggan, menganalisis data, hingga menghasilkan konten secara cepat. Namun, di balik manfaat tersebut, penggunaan AI juga membawa konsekuensi hukum yang tidak dapat diabaikan.

Kesalahan penggunaan AI dapat memicu sengketa mengenai data pribadi, hak kekayaan intelektual, hingga pertanggungjawaban atas kerugian yang dialami pihak lain. Oleh karena itu, setiap perusahaan perlu memahami aspek hukum sebelum mengintegrasikan AI ke dalam proses bisnisnya. Layanan hukum teknologi, media, dan telekomunikasi dari SIP Law Firm dapat membantu perusahaan menavigasi kompleksitas regulasi AI di Indonesia.

Penggunaan AI Tidak Bebas dari Tanggung Jawab Hukum

Pemanfaatan AI sering dipersepsikan sebagai proses otomatis yang mampu menggantikan berbagai aktivitas manusia. Namun, secara hukum, penggunaan AI tidak menghilangkan tanggung jawab pihak yang mengoperasikan atau memanfaatkannya.

Dalam hukum Indonesia, penyelenggara sistem elektronik tetap bertanggung jawab atas penyelenggaraan sistem yang digunakan kepada publik. Ketentuan tersebut diatur dalam Pasal 15 Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik sebagaimana telah diubah terakhir dengan Undang-Undang Nomor 1 Tahun 2024 (“UU ITE”), yang mewajibkan penyelenggara sistem elektronik menyelenggarakan sistem secara andal, aman, dan bertanggung jawab.

Pasal 15 UU ITE mewajibkan penyelenggara sistem elektronik menyelenggarakan sistem secara andal, aman, dan bertanggung jawab terhadap beroperasinya sistem elektronik sebagaimana mestinya.

Prinsip tersebut semakin diperkuat melalui Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (“SE Menkominfo 9/2023”). Surat edaran tersebut menegaskan bahwa pengembangan dan penggunaan AI harus memperhatikan prinsip etika, transparansi, akuntabilitas, keamanan, serta perlindungan hak asasi manusia.

Dengan begitu, apabila AI menghasilkan keputusan yang merugikan konsumen, menyebarkan informasi yang tidak akurat, atau menimbulkan kerugian hukum lainnya, perusahaan tidak dapat beralasan bahwa kesalahan tersebut sepenuhnya berasal dari sistem AI. AI dipandang sebagai alat yang digunakan manusia sehingga pertanggungjawaban hukum tetap berada pada pihak yang mengembangkan, mengoperasikan, atau memanfaatkannya. Pendampingan hukum korporasi dan niaga yang tepat dapat membantu perusahaan mengidentifikasi dan mengelola risiko tanggung gugat tersebut sejak tahap perencanaan.

Selain itu, hingga saat ini Indonesia belum memiliki Undang-Undang khusus yang mengatur mengenai AI. Oleh karena itu, penyelesaian berbagai persoalan hukum AI masih menggunakan pendekatan melalui UU ITE, Undang-Undang Perlindungan Data Pribadi, Undang-Undang Hak Cipta, serta ketentuan hukum perdata maupun pidana yang relevan.

Risiko Terbesar: Pelanggaran Data Pribadi dan Hak Kekayaan Intelektual

Salah satu risiko hukum terbesar dalam penggunaan AI adalah pemrosesan data pribadi. Banyak aplikasi AI memerlukan data dalam jumlah besar untuk meningkatkan akurasi modelnya. Apabila perusahaan memasukkan data pelanggan tanpa dasar hukum yang sah, maka risiko pelanggaran terhadap perlindungan data pribadi menjadi sangat tinggi.

Pasal 20 Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (“UU PDP”) mengatur bahwa pemrosesan data pribadi harus memiliki dasar yang sah, termasuk persetujuan subjek data atau dasar hukum lainnya sebagaimana ditentukan Undang-Undang.

Dengan demikian, perusahaan tidak dapat menggunakan data pelanggan secara bebas hanya karena data tersebut tersedia dalam sistem internal. Layanan hukum Hak Kekayaan Intelektual dari SIP Law Firm mencakup pendampingan dalam memastikan kepatuhan terhadap aspek perlindungan data dan HKI dalam implementasi teknologi AI.

Selain aspek data pribadi, AI juga berpotensi menimbulkan pelanggaran hak kekayaan intelektual. Banyak sistem AI menghasilkan gambar, tulisan, musik, atau desain berdasarkan data pelatihan yang berasal dari berbagai sumber. Apabila data tersebut mengandung karya berhak cipta tanpa izin, maka muncul potensi sengketa mengenai penggunaan karya tersebut.

Pasal 9 Undang-Undang Nomor 28 Tahun 2014 tentang Hak Cipta (“UU Hak Cipta”) memberikan hak eksklusif kepada pencipta untuk memperbanyak, mengumumkan, maupun mengeksploitasi ciptaannya secara ekonomi. Penggunaan karya berhak cipta sebagai bahan pelatihan AI tanpa izin dapat menimbulkan perdebatan mengenai pelanggaran hak ekonomi pencipta.

Selain itu, Pasal 40 UU Hak Cipta menetapkan berbagai jenis ciptaan yang memperoleh perlindungan hukum, termasuk karya tulis, fotografi, program komputer, karya seni, dan bentuk ciptaan lainnya. Hal ini berarti perusahaan harus memastikan bahwa konten yang digunakan dalam proses pengembangan maupun penggunaan AI tidak melanggar hak pihak lain.

Laporan Direktorat Jenderal Kekayaan Intelektual juga menyoroti bahwa perkembangan AI menghadirkan tantangan baru terhadap rezim hak cipta, khususnya terkait kepemilikan hasil karya AI, penggunaan data pelatihan, dan perlindungan hak ekonomi pencipta. Oleh karena itu, perusahaan sebaiknya melakukan audit terhadap sumber data yang digunakan dalam implementasi AI. Konsultan HKI di SIP-R Consultant dapat membantu perusahaan melakukan audit kepatuhan HKI atas penggunaan teknologi AI dalam operasional bisnis.

Bagaimana Perusahaan Dapat Mengelola Risiko Hukum dalam Implementasi AI?

Pengelolaan risiko hukum AI sebaiknya dimulai sebelum teknologi tersebut diimplementasikan. Perusahaan perlu membangun tata kelola AI (AI Governance) yang mengintegrasikan aspek hukum, keamanan informasi, perlindungan data pribadi, dan kepatuhan perizinan.

Dari perspektif UU ITE, Pasal 16 mengatur bahwa penyelenggara sistem elektronik wajib memenuhi persyaratan minimum dalam penyelenggaraan sistem elektronik, termasuk melindungi ketersediaan, keutuhan, keotentikan, kerahasiaan, dan keteraksesan Informasi Elektronik dan/atau Dokumen Elektronik. Ketentuan tersebut menjadi landasan hukum bagi perusahaan untuk menerapkan tata kelola dan pengendalian yang memadai, termasuk ketika menggunakan sistem berbasis AI.

Pasal 35 UU PDP mengatur kewajiban pengendali data pribadi untuk melindungi dan memastikan keamanan data pribadi melalui langkah teknis maupun organisatoris yang sesuai.

Artinya, perusahaan tidak hanya wajib mengamankan data dari serangan siber, tetapi juga mengendalikan bagaimana AI mengakses, memproses, dan menggunakan data tersebut.

Dalam praktiknya, terdapat beberapa langkah yang dapat diterapkan perusahaan:

Menyusun kebijakan internal mengenai penggunaan AI;
Melakukan legal review terhadap vendor AI;
Memastikan adanya dasar hukum pemrosesan data pribadi;
Melakukan audit terhadap dataset pelatihan AI;
Melibatkan divisi hukum dan kepatuhan dalam setiap implementasi AI; serta
Menyusun mekanisme evaluasi berkala terhadap risiko hukum AI.

Organisasi internasional seperti Organization for Economic Co-operation and Development (OECD) juga merekomendasikan agar implementasi AI dilakukan berdasarkan prinsip transparansi, akuntabilitas, keamanan, dan pengawasan manusia (human oversight). Pendekatan tersebut semakin relevan karena berbagai regulator di dunia mulai memperketat tata kelola AI dalam sektor bisnis.

Penutup

AI menawarkan peluang besar bagi perusahaan untuk meningkatkan daya saing. Namun, teknologi tersebut juga membawa risiko hukum yang tidak dapat dipandang sebagai persoalan teknis semata. Implementasi AI yang bertanggung jawab memerlukan kepatuhan terhadap ketentuan mengenai sistem elektronik, perlindungan data pribadi, dan hak kekayaan intelektual.

Oleh karena itu, perusahaan perlu memastikan bahwa setiap implementasi AI didukung oleh tata kelola yang baik dan strategi kepatuhan yang tepat. Pendampingan hukum sejak tahap perencanaan hingga implementasi dapat membantu mengidentifikasi potensi risiko, menyusun kebijakan internal, serta memastikan penggunaan AI tetap sejalan dengan peraturan yang berlaku. Dengan demikian, perusahaan dapat memanfaatkan AI secara optimal sekaligus menjaga kepastian hukum dan kepercayaan para pemangku kepentingan.

Dasar Hukum

Referensi

Pertanyaan yang Sering Diajukan

Apa risiko hukum utama dalam penggunaan AI untuk bisnis?

Risiko hukum utama meliputi pelanggaran data pribadi akibat pemrosesan data tanpa dasar hukum yang sah, pelanggaran hak cipta atas karya yang digunakan sebagai data pelatihan AI, serta pertanggungjawaban hukum atas keputusan atau output yang dihasilkan oleh sistem AI yang merugikan konsumen atau pihak ketiga.

Apakah Indonesia memiliki undang-undang khusus yang mengatur AI?

Hingga saat ini Indonesia belum memiliki undang-undang khusus yang secara spesifik mengatur AI. Regulasi yang berlaku masih menggunakan pendekatan melalui UU ITE, UU PDP, UU Hak Cipta, serta Surat Edaran Menkominfo 9/2023 tentang Etika Kecerdasan Artifisial sebagai pedoman etika dalam pengembangan dan penggunaan AI.

Siapa yang bertanggung jawab jika AI menyebabkan kerugian?

Berdasarkan Pasal 15 UU ITE, penyelenggara sistem elektronik tetap bertanggung jawab atas penyelenggaraan sistemnya. AI dipandang sebagai alat yang digunakan manusia, sehingga pertanggungjawaban hukum tetap berada pada pihak yang mengembangkan, mengoperasikan, atau memanfaatkan AI tersebut.

Bagaimana cara perusahaan memastikan kepatuhan AI terhadap UU PDP?

Perusahaan wajib memastikan adanya dasar pemrosesan data yang sah sesuai Pasal 20 UU PDP, menerapkan langkah teknis dan organisatoris untuk mengamankan data pribadi, serta melakukan audit terhadap dataset yang digunakan dalam sistem AI untuk memastikan data diperoleh secara sah dan tidak melanggar hak pihak ketiga.

Apa yang dimaksud dengan AI Governance?

AI Governance adalah kerangka tata kelola yang mengintegrasikan aspek hukum, keamanan informasi, perlindungan data pribadi, dan kepatuhan dalam pengembangan serta implementasi AI. Cakupannya meliputi kebijakan internal, legal review terhadap vendor AI, audit dataset, dan mekanisme evaluasi berkala terhadap risiko hukum.

Tim Technology, Media & Telecommunication SIP Law Firm dapat membantu perusahaan dalam menyusun tata kelola AI yang sesuai dengan ketentuan hukum Indonesia, melakukan legal review terhadap implementasi AI, serta memastikan kepatuhan terhadap UU ITE, UU PDP, dan regulasi terkait lainnya. Konsultasikan kebutuhan kepatuhan AI perusahaan Anda dengan SIP Law Firm. Respon Cepat WhatsApp

Menggunakan AI untuk Bisnis, Apa Risiko Hukumnya bagi Perusahaan?