Celah Hukum dan Tantangan Penegakan Pidana di Indonesia terhadap Fenomena Penipuan Digital berupa Voice Cloning berbasis AI

Des 5, 2025 | News

Voice Cloning berbasis AI

Keberadaan teknologi kecerdasan buatan (Artificial Intelligence/AI) memberikan dampak positif dalam berbagai bidang, akan tetapi disisi lain AI pun melahirkan peluang kejahatan digital yang baru. Salah satu fenomena yang saat ini bermunculan adalah voice cloning berbasis AI, yakni modus penipuan digital dengan merekayasa suara seseorang yang dikenal oleh korban untuk mengelabui korban.

Kejahatan tersebut tidak hanya merugikan seseorang dalam bentuk finansial, namun juga menimbulkan  tantangan baru bagi penegakan hukum karena teknologi yang digunakan membutuhkan sampel suara manusia, sehingga akan sulit bagi aparat penegak hukum untuk membedakan mana suara asli dan suara tiruan hasil bantuan AI.

 

Voice Cloning berbasis AI sebagai Kejahatan Digital Terbaru

 

Penipuan digital berupa voice cloning berbasis AI merupakan tindak kejahatan digital yang dilakukan dengan cara menipu seseorang melalui peniruan suara yang dikenal oleh korban untuk melakukan suatu tindakan. Menurut Hudiyanti selaku Sekretariat Satgas PASTI, teknologi voice cloning bisa dengan mudah meniru intonasi, cara bicara, hingga karakter suara seseorang hanya dari sampel suara yang dapat diperoleh di ruang digital, seperti media sosial atau rekaman percakapan.

Umumnya suara yang ditiru adalah suara yang berasal dari anggota keluarga, pasangan, rekan kerja,  atau kerabat dari korban. Tujuan dari penipuan jenis ini biasanya adalah untuk memeras keuangan korban, memaksa korban memberikan informasi sensitif, serta mengakses sistem perusahaan korban.

Pada umumnya, modus operandi yang digunakan oleh pelaku adalah dengan berpura-pura menjadi anggota keluarga, pasangan, rekan kerja, ataupun kerabat korban dan mengaitkannya dengan tindakan urgensi, seperti: menyamar sebagai anggota keluarga yang mengalami kecelakaan sehingga membutuhkan dana darurat, memalsukan jati diri sebagai direktur yang mendesak karyawan untuk memberikan dokumen rahasia perusahaan, ataupun berpura-pura sebagai tim it dari anak perusahaan yang meminta akses login dengan dalih pemeliharaan sistem mendesak untuk dapat masuk ke sistem internal perusahaan korban.

Adapun cara kerja dari voice cloning berbasis AI adalah melalui pengumpulan sampel suara anggota keluarga, pasangan, rekan kerja, atau kerabat calon korban yang dengan mudah didapatkan dari konten video di media sosial, lalu menggunakan software AI untuk melakukan cloning voice guna mendapatkan hasil suara yang identik, selanjutnya melakukan panggilan palsu kepada calon korban dengan mengaitkannya dengan tindakan urgensi, serta mengelabui korban untuk segera mengirim OTP/password, transfer dana, ataupun data pribadi. 

Kasus voice cloning berbasis AI kian hari semakin meningkat, sehingga menurut Hudiyanto saat ini masyarakat harus lebih berhati-hati memberikan data pribadi dan memiliki kapasitas untuk mampu melakukan verifikasi silang jika ditelepon oleh nomor yang tidak dikenal. Tidak hanya masyarakat yang memiliki peran dalam memberantas penipuan voice cloning berbasis AI, tetapi Satgas PASTI pun turut berperan dalam mengatasi kasus penipuan tersebut. Sebagai upaya melindungi masyarakat, Satgas PASTI berkomitmen memperluas pemberian edukasi kepada publik terkait pola penipuan berbasis AI, serta melakukan update terhadap mekanisme pengawasan pada aktivitas layanan keuangan ilegal. 

 

Dasar Hukum Pidana

 

Hingga saat ini, Negara Indonesia belum memiliki regulasi khusus yang mengatur mengenai tindak pidana berupa penipuan berbasis AI. Maka dari itu, penetapan hukuman pidana bisa ditafsirkan melalui ketentuan sebagaimana tercantum dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (“KUHP”), Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU ITE”), serta Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (“UU PDP”). 

Mengingat pada tahun 2026 Negara Indonesia akan memberlakukan ketentuan KUHP yang telah diundangkan sejak 2023, maka dalam penulisan ini penulis akan menggunakan ketentuan sebagaimana tercantum dalam KUHP terbaru, bukan KUHP lama peninggalan Belanda (Wetboek van Strafrecht (W.v.S.).

Tindakan penipuan berupa voice cloning berbasis AI termasuk ke dalam tindakan pidana yang telah diatur dalam Pasal 492 KUHP yang berbunyi:

“Setiap orang yang dengan maksud menguntungkan diri sendiri atau orang lain secara melawan hukum dengan memakai nama palsu atau kedudukan palsu, menggunakan tipu muslihat atau rangkaian kata bohong, menggerakkan orang supaya menyerahkan suatu barang, memberi utang, membuat pengakuan utang, atau menghapus piutang, dipidana karena penipuan, dengan pidana penjara paling lama 4 (empat) tahun atau pidana denda paling banyak kategori V”

Berdasarkan pasal di atas, tindak pidana penipuan dapat dikenakan sanksi pidana denda penjara maksimal 4 tahun dan denda maksimal berada di kategori V. Dalam hal ini, menurut Pasal 79 ayat (1) KUHP pidana denda pada kategori V yang dimaksud adalah sebesar Rp500.000.000,00 (lima ratus juta rupiah).

Tindakan voice cloning berbasis AI termasuk tindakan yang menyerupai suara milik orang lain dengan bantuan AI. Maka dari itu, selain dapat dikenakan hukuman pidana berdasarkan KUHP, pelaku tindak pidana berupa voice cloning berbasis penyalahgunaan AI juga dapat dikenakan pasal berlapis sebagaimana hal tersebut telah diatur dalam Pasal 32 ayat (1) UU ITE yang menyatakan bahwa:

“Setiap orang dengan sengaja dan tanpa hak atau melawan hukum dengan cara apa pun mengubah, memindahkan, menyembunyikan suatu informasi elektronik dan/atau dokumen elektronik milik orang lain atau milik pribadi.”

Adapun tindak pidana yang dapat dikenakan terhadap pelaku pidana voice cloning berbasis AI adalah pidana penjara paling lama 8 (delapan) tahun dan/atau denda maksimal sebanyak Rp2.000.000.000,00 (dua miliar rupiah) sebagaimana ketentuan pidana tersebut telah ditetapkan dalam Pasal 48 ayat (1) UU ITE.

Selain sanksi pidana yang ditetapkan dalam KUHP maupun UU ITE, tindakan mengumpulkan sampel suara secara ilegal merupakan suatu tindakan pelanggaran terhadap Pasal 67 ayat (1) Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (“UU PDP”) yang mana pasal tersebut melarang setiap orang untuk mengumpulkan data pribadi milik orang lain secara ilegal dengan tujuan menguntungkan diri sendiri hingga mengakibatkan kerugian bagi subjek data pribadi. Atas pelanggaran tersebut, pelaku berisiko akan dikenakan sanksi pidana berupa pidana penjara maksimal 5 (lima) tahun dan/atau pidana denda maksimal Rp5.000.000.0000,00 (lima miliar rupiah).

Baca juga: Pidana atas Konten Deepfake, Tantangan Baru Penegakan Hukum di Era AI

 

Tantangan Pembuktian Digital

 

Upaya penegakan terhadap tindak pidana penipuan berupa voice cloning berbasis AI terletak pada aspek pembuktian. Dalam Pasal 5 ayat (1) Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU 1/2024”) telah menyatakan bahwa:

“Informasi elektronik dan/atau dokumen elektronik dan/atau hasil cetaknya merupakan alat bukti hukum yang sah.”

Berdasarkan ketentuan pasal di atas, maka dapat diketahui bahwa rekaman suara digital dapat dijadikan sebagai alat bukti hukum yang sah di hadapan Pengadilan. Meskipun demikian, melalui bantuan teknologi yang semakin canggih melalui software AI yang dijadikan sebagai alat untuk menciptakan suara tiruan yang hampir mirip, bahkan identik dengan suara asli seseorang, alat bukti berupa rekaman suara digital atas kejahatan digital berupa voice cloning berbasis AI akan semakin sulit untuk dideteksi mengenai keaslian ataupun hasil AI. 

Pada sistem peradilan pidana, tahap pembuktian pada perkara voice cloning berbasis Ai menimbulkan persoalan dalam memenuhi standar tingkat pembuktian yang sangat kuat tanpa keraguan (beyond reasonable doubt). Tingkat pembuktian tersebut menciptakan tantangan pembuktian digital yang signifikan karena rekaman suara yang dihasilkan oleh AI dapat menyerupai suara manusia secara presisi, sehingga akan sulit bagi aparat penegak hukum (APH) untuk membedakan dan menentukan antara suara asli atau tiruan oleh AI, terutama jika suara tersebut hanya didengar melalui pendengaran manusia. Maka dari itu, pada tahap pembuktian membutuhkan bantuan ahli forensik digital.

Tantangan selanjutnya yang perlu dihadapi adalah terbatasnya Laboratorium Digital Forensik dan sumber daya manusia (SDM) yang mumpuni. Saat ini, Laboratorium Digital Forensik hanya ada di Dittipidsiber Mabes Polri dan Polda Metro Jaya, sehingga kapasitas penanganan barang bukti digital masih sangat terbatas. Selain itu, keterbatasan lab tersebut pun diiringi dengan kurangnya ahli forensik, khususnya ahli yang memahami algoritma AI generatif dikarenakan minat masyarakat masih sedikit terhadap bidang tersebut dan untuk menduduki jabatan ahli forensik membutuhkan kemampuan dan keahlian khusus. 

Tantangan terakhir adalah mengenai jejak digital. Pada umumnya, pelaku pidana seringkali menggunakan Virtual Private Network (VPN), nomor telepon sementara, ataupun aplikasi/situs anonim, sehingga akan mempersulit pelacakan asal panggilan. Tak hanya itu, bahkan pelaku pun bisa saja berasal dari luar wilayah Negara Indonesia, sehingga akan mempersulit proses penegakan hukum karena terhalang yurisdiksi.

Voice cloning berbasis AI merupakan tindak kejahatan digital yang dapat menyerang psikologis korban untuk melaksanakan tindakan yang diperintah oleh pelaku. Modus tersebut dapat berkembang dengan cepat dan merugikan masyarakat karena suara yang dihasilkan dapat menyerupai, bahkan identik dengan seseorang yang dikenal oleh korban. Meskipun saat ini Indonesia belum memiliki regulasi khusus terkait pelanggaran penipuan berbasis AI, namun sanksi atas tindak pidana tersebut dapat ditafsirkan sesuai dengan ketentuan KUHP, UU ITE, serta UU PDP. Selain adanya kekosongan hukum, penegakan hukum dalam menghadapi tindak pidana tersebut mengalami tantangan yang signifikan, khususnya dalam aspek pembuktian, keterbatasan lab dan ahli forensik, serta terhalang yurisdiksi. Oleh karena itu, ke depannya Pemerintah Indonesia perlu memperkuat regulasi dan pedoman teknis mengenai penggunaan dan penyalahgunaan AI, serta masyarakat juga harus meningkatkan literasi digital sebagai langkah untuk menghindari dan mengantisipasi dalam mengenali modus voice cloning berbasis AI.***

Baca juga: Deepfake Crimes in Indonesia: Legal Challenges and Criminal Liability in the AI Era

 

Daftar Hukum:

  • Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU 1/2024”) 
  • Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (“KUHP”) 
  • Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (“UU ITE”)

Referensi: