Kemajuan teknologi kecerdasan buatan (artificial intelligence/AI) telah membawa dampak nyata dalam berbagai aspek kehidupan, termasuk dalam bidang komunikasi digital. Salah satu inovasi yang kini menjadi sorotan adalah teknologi deepfake, yaitu konten gambar, audio, atau video yang diproduksi secara artifisial untuk meniru suara atau wajah seseorang. Konten deepake memanipulasi citra dan suara yang sangat realistis sehingga sulit dibedakan dari konten asli. Meski memiliki potensi positif dalam industri kreatif dan pendidikan, seperti penggunaan deepfake pidato-pidato bersejarah untuk menawarkan pelajaran di ruang kelas menjadi lebih menarik, nyatanya teknologi ini turut membuka celah besar bagi penyalahgunaan, terutama dalam bentuk konten pornografi, penipuan, atau pun pencemaran nama baik.
Di Indonesia, penyebaran konten deepfake yang bermuatan asusila atau menyesatkan telah menimbulkan keresahan publik dan memunculkan tantangan baru dalam penegakan hukum pidana. Ketika teknologi melampaui regulasi yang ada, maka dibutuhkan pendekatan hukum yang tepat untuk melindungi hak-hak korban, serta menjaga ketertiban digital. Melalui artikel ini, SIP Law Firm akan menguraikan secara mendalam regulasi yang sudah ada, ancaman pidana, hingga peran pemerintah dalam menghadapi tantangan hukum di era AI.
Regulasi Konten Deepfake sebagai Penyalahgunaan Teknologi AI
Teknologi deepfake, khususnya dalam bentuk deepfake porn, pencemaran nama baik, atau pun penipuan dapat dikategorikan sebagai pelanggaran hukum di Indonesia, meskipun belum ada regulasi khusus yang secara eksplisit menyebutkan istilah “deepfake”. Akan tetapi, pelaku dapat dijerat melalui beberapa pasal dalam Undang-Undang Informasi dan Transaksi Elektronik (UU ITE).
- Deepfake Bermuatan Kesusilaan
Dalam Pasal 27 ayat (1) Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua Atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU ITE”) ditegaskan bahwa:
“Setiap Orang dengan sengaja dan tanpa hak menyiarkan, mempertunjukkan, mendistribusikan, mentransmisikan, dan/atau membuat dapat diaksesnya Informasi Elektronik dan/atau Dokumen Elektronik yang memiliki muatan yang melanggar kesusilaan untuk diketahui umum.”
Jika teknologi deepfake digunakan untuk membuat konten pornografi atau tidak senonoh, maka tindakan menyebarkan konten tersebut dapat dijerat berdasarkan ketentuan ini. Pasal ini menjadi dasar utama untuk menjerat pelaku penyebaran deepfake yang bermuatan melanggar norma kesusilaan.
- Pelanggaran Nama Baik
Pasal 27A UU ITE mengatur:
“Setiap Orang dengan sengaja menyerang kehormatan atau nama baik orang lain dengan cara menuduhkan suatu hal, dengan maksud supaya hal tersebut diketahui umum dalam bentuk Informasi Elektronik dan/atau Dokumen Elektronik yang dilakukan melalui Sistem Elektronik.”
Pasal tersebut mengatur mengenai tindakan pencemaran nama baik yang dilakukan secara sengaja melalui media digital. Dengan penggunaan deepfake atau manipulasi digital lainnya, maka Pasal tersebut dapat diinterpretasikan sebagai landasan hukum untuk menjerat pelaku yang menggunakan teknologi AI untuk menyerang kehormatan atau nama baik seseorang.
Misalnya, apabila seseorang membuat video deepfake yang menampilkan individu dalam situasi memalukan atau kriminal yang sebetulnya tidak pernah terjadi, lalu menyebarkannya melalui media sosial dengan maksud agar publik percaya dan reputasi korban rusak, maka tindakan tersebut memenuhi unsur “menuduhkan suatu hal supaya diketahui oleh umum”.
- Penipuan
Pasal 492 Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (“KUHP”) yang akan diberlakukan pada Januari 2026 menegaskan bahwa:
“Setiap Orang yang dengan maksud menguntungkan diri sendiri atau orang lain secara melawan hukum dengan memakai nama palsu atau kedudukan palsu, menggunakan tipu muslihat atau rangkaian kata bohong, menggerakkan orang supaya menyerahkan suatu Barang, memberi utang, membuat pengakuan utang, atau menghapus piutang, dipidana karena penipuan, dengan pidana penjara paling lama 4 (empat) tahun atau pidana denda paling banyak kategori V.”
Pasal 492 KUHP mengatur tentang tindak pidana penipuan yang dilakukan dengan maksud menguntungkan diri sendiri atau orang lain secara melawan hukum. Penipuan ini dilakukan melalui penggunaan nama palsu, kedudukan palsu, tipu muslihat, atau rangkaian kata bohong untuk menggerakkan orang agar menyerahkan barang, memberi utang, membuat pengakuan utang, atau menghapus piutang. Jika dalam teknologi deepfake, pasal ini dapat diinterpretasikan sebagai dasar hukum untuk menjerat pelaku penipuan digital yang menggunakan kecerdasan buatan untuk menciptakan identitas palsu atau manipulasi visual/audio yang meyakinkan.
Dalam praktiknya, pelaku dapat membuat video deepfake yang menampilkan seseorang seolah-olah memberikan persetujuan terhadap transaksi keuangan, atau menyamar sebagai tokoh berpengaruh untuk meyakinkan korban agar menyerahkan uang atau barang. Tipu muslihat yang dilakukan melalui deepfake memenuhi unsur “nama palsu” atau “kedudukan palsu” karena pelaku menciptakan representasi digital yang tidak sesuai dengan kenyataan. Selain itu, rangkaian kata bohong dalam bentuk narasi manipulatif yang menyertai konten deepfake juga dapat menjadi alat untuk menggerakkan korban melakukan tindakan yang merugikan dirinya sendiri.
Seperti contohnya kasus penipuan teknologi AI deepfake berwajah Presiden Prabowo Subianto. Dengan teknologi deepfake, beredar video yang memanfaatkan wajah dan suara Prabowo yang menawarkan bantuan pemerintah untuk masyarakat yang membutuhkan. Pelaku pun menyertakan nomor kontak yang bisa dihubungi korban untuk diarahkan dengan pengisi pendaftaran penerima bantuan dan korban diminta mentransfer sejumlah uang yang diklaim sebagai biaya administrasi.
Penipuan berbasis deepfake ini merupakan bentuk kejahatan siber yang semakin kompleks dan sulit dideteksi, sehingga Pasal 492 KUHP menjadi relevan sebagai instrumen hukum untuk menindak pelaku. Namun, sebagaimana dikritisi oleh sejumlah ahli hukum, KUHP baru masih belum secara eksplisit mengatur modus operandi digital seperti deepfake, sehingga diperlukan penguatan regulasi tambahan untuk mengakomodasi perkembangan teknologi.
Ancaman Hukuman bagi Pelaku Menurut UU ITE dan KUHP
- Sanksi UU ITE
- Diatur dalam Pasal 45 ayat (1) UU ITE, bahwa hukuman pidana penjara paling lama 6 (enam) tahun dan/atau denda maksimal Rp1 miliar atas pendistribusian informasi elektronik bermuatan asusila.
- Kemudian dalam Pasal 45 ayat (4) UU ITE bahwa para pelaku tindakan pencemaran nama baik akan terancam hukuman 2 (dua) tahun atau/atau denda paling banyak Rp400 juta.
- Sementara itu, terkait dengan informasi yang menyesatkan dan mengakibatkan kerugian materiil bagi seseorang akan terancam pidana penjara paling lama 6 (enam) tahun dan/atau denda paling banyak Rp1 miliar.
- Sanksi KUHP
- Pasal 492 mengatur penipuan digital dengan ancaman pidana penjara hingga 4 tahun atau denda maksimal Rp500 juta (kategori V).
Baca juga: Hukum Di Tengah Perkembangan Teknologi Informasi
Peran Pemerintah dalam Mengatasi Kejahatan Siber di Era AI
Dalam menghadapi maraknya penyalahgunaan teknologi deepfake di ruang digital, pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) terus berupaya menegakkan hukum dengan mengacu pada peraturan yang berlaku, seperti UU ITE dan KUHP. Keberadaan deepfake menuntut kita untuk memikirkan ulang bagaimana hukum, teknologi, dan kemanusiaan berinteraksi dalam lanskap yang terus berubah.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Brigjen Pol Alexander, menjelaskan bahwa Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) masih menjadi dasar hukum yang digunakan untuk menangani kasus kejahatan deepfake. Hal ini disebabkan oleh belum selesainya pembahasan mengenai regulasi yang secara khusus mengatur etika dan penggunaan kecerdasan buatan (AI). Karena aturan yang lebih rinci terkait AI masih dalam tahap kajian, UU ITE tetap menjadi acuan utama dalam penegakan hukum terhadap penyalahgunaan teknologi digital.
Di samping pendekatan berbasis regulasi eksisting, pemerintah juga tengah mengambil langkah strategis jangka panjang. Menurut laporan Katadata, pemerintah melalui Komdigi sedang menyusun peta jalan (roadmap) regulasi kecerdasan buatan yang akan mencakup strategi pengendalian dan mitigasi risiko penyalahgunaan teknologi seperti deepfake yang rencananya akan diterbitkan pada September mendatang. Penyusunan roadmap ini merupakan bentuk komitmen untuk menyesuaikan regulasi dengan perkembangan teknologi yang sangat cepat dan dinamis.***
Baca juga: Regulasi Teknologi di Indonesia Serta Prospek dan Tantangannya
Daftar Hukum:
- Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua Atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU ITE”).
- Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (“KUHP”).
Referensi:
- Mengenal Teknologi Deepfake, Berikut Manfaat dan Dampak Negatif yang dapat Ditimbulkan. Kompas.com. (Diakses pada 7 Agustus 2025 pukul 11.02 WIB).
- Penipuan dengan AI Deepfake Wajah Prabowo, Warga Tertipu Tawaran Bantuan Pemerintah. Media Indonesia. (Diakses pada 7 Agustus 2025 pukul 11.31 WIB).
- Kejahatan Siber Deepfake di Era Kecerdasan Buatan. Marinews Mahkamah Agung. (Diakses pada 7 Agustus 2025 pukul 12.58 WIB).
- Kementerian Komdigi Andalkan UU ITE untuk Menangani Kasus Deepfake. Harian Jogja. (Diakses pada 7 Agustus 2025 pukul 13.17 WIB).
- Komdigi akan Terbitkan 2 Aturan AI pada September, Ini Bocoran Isinya. Katadata. (Diakses pada 7 Agustus 2025 pukul 13.22 WIB).