Perkembangan generative artificial intelligence (Generatif AI/GenAI) telah mendorong perubahan besar dalam dunia bisnis di Indonesia, mulai dari pemasaran digital, layanan pelanggan, hingga analisis data skala besar. Lonjakan penggunaan teknologi tersebut tidak hanya membuka peluang efisiensi, tetapi juga menghadirkan risiko hukum yang semakin kompleks.
Kini, pelaku usaha dituntut untuk memahami etika penggunaan AI, perlindungan data pribadi, serta standar kepatuhan terhadap regulasi teknologi. Hal ini pun dapat diberlakukan kepada investor yang ingin menanamkan modal di suatu perusahaan. Ia perlu melakukan kajian lebih dalam, khususnya mengenai etika dan risiko AI menjadi hal yang penting agar transformasi digital tetap sejalan dengan prinsip tata kelola yang baik.
Pengertian Generatif AI
Generatif AI merupakan sistem kecerdasan buatan yang mampu menghasilkan konten baru, seperti teks, gambar, suara, hingga kode yang didasari atas prompt yang diberikan oleh manusia. Dalam ranah bisnis, AI pada umumnya digunakan untuk menciptakan materi pemasaran, menjawab pertanyaan konsumen, menyusun kerangka dokumen kontrak secara otomatis, hingga menganalisis tren pasar. Meskipun hingga saat ini Negara Indonesia belum mengatur secara khusus mengenai keberadaan GenAI, namun regulasi terkait GenAI masih dapat dipahami berdasarkan regulasi yang tersedia, seperti Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU ITE”) beserta peraturan perubahannya, serta Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (“UU PDP”).
Dalam konteks hukum bisnis, GenAI dikategorikan sebagai teknologi pemrosesan data yang dapat menimbulkan “risiko tinggi”, terutama ketika bersinggungan dengan data pribadi, data konsumen, hingga informasi rahasia perusahaan. Oleh karena itu, mekanisme pengawasan internal perusahaan merupakan suatu hal pokok penting harus dilaksanakan untuk memastikan agar AI yang digunakan tidak menghasilkan output yang berisiko menimbulkan kerugian hukum.
Lonjakan Penggunaan Generatif AI
Kecerdasan buatan (Artificial Intelligence/AI) semakin marak digunakan oleh masyarakat Indonesia. Bahkan, berdasarkan riset yang dilakukan oleh Kantar ditemukan sebesar 59% masyarakat Indonesia yang setidaknya pernah menggunakan AI pada beberapa tahun terakhir. Ummu Hani selaku Direktur Kantor Indonesia menyatakan bahwa penggunaan AI mayoritas digunakan oleh masyarakat Indonesia dengan tujuan untuk memperoleh hiburan, melaksanakan hal-hal produktif, belajar, serta mengembangkan karir.
Dilansir melalui laman Tempo, penggunaan AI memiliki pola secara signifikan yang terbagi atas berbagai generasi. Sebagai contohnya adalah sebanyak 74% generasi Z menggunakan AI untuk kebutuhan mengekspresikan diri, membuat konten, serta membangun personal branding. Lain halnya dengan generasi milenial dan gen x yang cenderung menggunakan AI dalam mendukung produktivitas sehari-hari maupun menjadikan AI sebagai alat untuk menunjang karier.
Lonjakan penggunaan GenAI pun didukung melalui fasilitas yang disediakan oleh berbagai Perusahaan Teknologi Multinasional yang turut memberikan fitur AI pada produk yang diciptakan, seperti Perusahaan Samsung yang meluncurkan fitur AI Live Translate Call pada produknya sejak awal tahun 2024. Peluncuran awal fitur AI Live Translate Call pada produk yang dirilis oleh Samsung menggunakan GenAI yang berfungsi untuk menerjemahkan audio dan teks secara real time, khususnya ketika pengguna sedang melakukan panggilan telepon.
Selain peluncuran fitur GenAI pada smartphone, beberapa platform sosial media pun semakin mendukung penggunaan GenAI, salah satunya adalah Instagram. Platform sosial media tersebut mengintegrasikan penggunaan AI guna menciptakan pengalaman yang istimewa bagi penggunanya. Adapun beberapa fitur GenAI yang ditawarkan adalah memberikan rekomendasi konten yang relevan dengan pengguna, otomatisasi pesan melalui chatbot berbasis AI, serta menyuguhkan optimisasi iklan.
Meskipun penggunaan AI memberikan berbagai manfaat, akan tetapi perlu diingat bahwa penggunaan AI harus tetap dilaksanakan dengan penuh rasa tanggung jawab, sehingga menuntut para pengguna AI untuk dapat mempertanggungjawabkan segala tindakannya dalam menggunakan fitur AI agar terhindar dari sanksi hukum.
Etika dan Risiko Penggunaan Generatif AI bagi Investor di Indonesia
Sebagaimana telah diketahui bahwa hingga kini Negara Indonesia belum memiliki peraturan perundang-undangan terkait AI, namun pertanggungjawaban mengenai AI dapat ditafsiri melalui UU ITE dan UU PDP. Pada Pasal 15 ayat (1) UU ITE telah berbunyi:
“Setiap Penyelenggara Sistem Elektronik harus menyelenggarakan Sistem Elektronik secara andal dan aman serta bertanggung jawab terhadap beroperasinya Sistem Elektronik sebagaimana mestinya.”
Sementara itu, pada Pasal 5 hingga Pasal 13 UU PDP memberikan hak-hak bagi subjek data pribadi yang mana jika dilanggar akan berisiko dikenakan sanksi administratif, perdata, bahkan pidana. Hak-hak subjek data pribadi menjadi suatu kewajiban yang harus dilaksanakan oleh pengendali data pribadi sebagaimana dalam Pasal 20 ayat (1) UU PDP menyatakan bahwa:
“Pengendali data pribadi wajib memiliki dasar pemrosesan data pribadi.”.
Lebih lanjut, dalam Pasal 20 ayat (2) UU PDP menegaskan bahwa dasar pemrosesan data pribadi terdiri atas persetujuan sah atas penggunaan data dari subjek data pribadi, pemenuhan kewajiban sesuai perjanjian, pemenuhan kewajiban hukum, pemenuhan pelindungan kepentingan, serta sebagai pelaksanaan tugas demi kepentingan umum.
Selain itu, pedoman penyelenggaraannya dapat dipahami melalui keberadaan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (“SE Menkominfo 9/2023”). Adapun isi pedoman tersebut mencakup prinsip-prinsip nilai etika yang harus diemban dalam menggunakan AI, yakni: inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, pelindungan data pribadi, pembangunan dan lingkungan berkelanjutan, serta kekayaan intelektual.
Salah satu risiko utama terhadap penggunaan GenAI adalah mengenai privasi dan penggunaan data yang digunakan. Pada hakikatnya, GenAI dilatih melalui big data, umumnya mencakup data pribadi ataupun data yang tersebar di internet. Hal tersebut tentu berpotensi melanggar ketentuan prinsip pelindungan data pribadi apabila data yang digunakan bersifat sensitif ataupun tidak mendapatkan izin dari pemilik data yang bersangkutan. Selain itu, sistem AI seringkali black-box yang mana hal tersebut berisiko terjadi bias yang sulit diverifikasi, sehingga kurangnya transparansi dalam keputusan ataupun output AI. Sebagai langkah preventif, investor perlu menilai apakah perusahaan yang akan diberikan investasi telah memenuhi kebijakan pengelolaan data sesuai dengan UU PDP, serta mengidentifikasi hal-hal yang dapat menyebabkan terjadinya pelanggaran.
Risiko selanjutnya adalah mengenai pelanggaran Hak Kekayaan Intelektual (HKI). Pada Undang-Undang Nomor 28 Tahun 2014 tentang Hak Cipta (“UU Hak Cipta”) hanya mengakui manusia atau entitas hukum sebagai pencipta. Berdasarkan ketentuan tersebut, maka dapat diketahui bahwa UU Hak Cipta tidak mengakui AI sebagai pencipta, sehingga output karya yang dibuat oleh GenAI tidak memiliki status hukum yang jelas, serta penggunaan atau publikasinya berisiko memicu sengketa. Selain itu, pada sisi etika konten yang dibuat oleh AI dapat dianggap tidak autentik dan dalam ranah bisnis dapat berpotensi merusak kepercayaan pelanggan terhadap merek. Tentu saja ketentuan hal tersebut tidak dapat diabaikan oleh investor karena sangat berisiko apabila menanamkan modal pada perusahaan dengan eksposur sengketa HKI yang tinggi.
Di satu sisi, GenAI dapat menghasilkan konten yang tampak meyakinkan, namun di sisi lain justru konten yang dihasilkan bisa saja keliru atau menyesatkan. Dalam ranah bisnis, apabila konten yang dihasilkan oleh AI dapat meyakinkan publik, maka tentu dapat memberikan keuntungan bagi pemilik bisnis. Begitu pula sebaliknya, yang mana apabila konten yang keliru digunakan untuk iklan atau komunikasi publik, maka akan berisiko terjadinya misinformasi, merusak reputasi, atau bahkan menciptakan tanggung jawab hukum, sehingga justru memberi kerugian kepada pemilik bisnis. Maka dari itu, sebelum konten disebarluaskan, akan lebih baik jika investor memastikan terlebih dahulu bahwa konten yang dihasilkan oleh GenAI tidak memberikan informasi yang menyesatkan guna mencegah kesalahan yang fatal.
Agar bisnis dapat terus memanfaatkan GenAI secara bertanggung jawab, maka perlu mengkombinasikan dengan tata kelola internal yang jelas, yakni: kebijakan perusahaan terkait data & etika, pemeriksaan konten sebelum dipublikasikan, transparansi bahwa konten dibuat dengan AI (jika relevan), serta tetap mempertahankan peran manusia pada setiap keputusan penting. Hal tersebut sejalan dengan panduan etika AI di Indonesia dan praktik global yang mengamanatkan bahwa AI hanya dijadikan sebagai alat bantu, bukan pengganti manusia.
Lonjakan penggunaan GenAI dalam bisnis menghadirkan peluang besar sekaligus risiko hukum yang tidak dapat diabaikan. Meskipun teknologi AI mampu meningkatkan produktivitas, namun pelaku usaha wajib memahami batasan etika, potensi pelanggaran hak cipta, ancaman penyalahgunaan data pribadi, serta kewajiban menjaga akurasi informasi kepada konsumen. Kerangka regulasi Indonesia melalui UU Hak Cipta, UU ITE, dan UU PDP, serta SE Menkominfo 9/2023 yang dapat dijadikan sebagai pedoman memberikan dasar hukum yang jelas untuk memastikan penggunaan AI tetap berada dalam batasan yang sah. Pada konteks investasi, pemahaman terkait etika dan risiko penggunaan GenAI merupakan bagian penting dari tindakan pengawasan untuk memastikan bahwa perusahaan target investasi beroperasi dalam koridor hukum Indonesia dan menerapkan tata kelola teknologi yang bertanggung jawab. Dengan demikian, penggunaan GenAI harus ditempatkan sebagai alat yang mendukung inovasi bisnis, namun tetap memperhatikan kepatuhan hukum dan prinsip etika agar terhindar dari konsekuensi yang merugikan perusahaan di masa mendatang.***
Baca juga: Apa yang Perlu Dipahami Investor saat Menanam Modal di Perusahaan Startup berbasis AI?
Daftar Hukum:
- Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (“UU PDP”).
- Undang-Undang Nomor 28 Tahun 2014 tentang Hak Cipta (“UU Hak Cipta”)
- Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU ITE”)
- Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (“SE Menkominfo 9/2023”).
Referensi:
- Pengguna AI di Indonesia Capai 59 Persen, Industri Catat Peningkatan Aktivitas. Tempo. (Diakses pada 9 Desember 2025 Pukul 09.20 WIB).
- Kilas Balik Inovasi Revolusioner Samsung Hingga Kini Memulai Era Mobile AI. Samsung. (Diakses pada 9 Desember 2025 Pukul 09.45 WIB).
- Fitur dan Manfaat Meta AI di Instagram dan WhatsApp. Cloud Computing. (Diakses pada 9 Desember 2025 Pukul 10.37 WIB).