Kecerdasan buatan atau Artificial Intelligence (AI) mampu memproses data untuk menghasilkan prediksi, rekomendasi, atau keputusan. Dalam layanan kesehatan, AI membantu diagnosis, membaca citra medis, memantau pasien, dan mendukung keputusan klinis. Perkembangan itu menawarkan efisiensi dan akurasi lebih tinggi. Namun, penggunaan AI menimbulkan pertanyaan hukum ketika teknologi tersebut salah diagnosis atau merugikan pasien. Siapa yang bertanggung jawab dan bagaimana hukum mengatur penggunaan AI dalam layanan kesehatan?
Legalitas Alat Kesehatan Berbasis AI
Tidak semua software AI otomatis dikategorikan sebagai alat kesehatan. Status hukumnya bergantung pada fungsi, tujuan penggunaan, dan karakteristik teknologi. Undang-Undang Nomor 17 Tahun 2023 tentang Kesehatan (“UU Kesehatan”) memasukkan perangkat lunak sebagai bagian dari definisi alat kesehatan pada Pasal 1 angka 13. Ketentuan itu berlaku apabila perangkat lunak digunakan pada manusia untuk tujuan medis. Dengan demikian, software AI untuk diagnosis, analisis citra medis, atau pemantauan pasien masuk regulasi alat kesehatan.
Peraturan Menteri Kesehatan Nomor 5 Tahun 2026 tentang Perbekalan Kesehatan (“Permenkes 5/2026”) juga menegaskan perangkat lunak sebagai salah satu bentuk alat kesehatan. Konsekuensinya, pengembang software dan pelaku usaha tidak dapat hanya memandang AI sebagai produk teknologi. Jika software memenuhi karakteristik alat kesehatan, aspek keamanan, mutu, kemanfaatan, dan perizinannya harus dipenuhi. UU Kesehatan mewajibkan alat kesehatan memenuhi standar keamanan, kemanfaatan, dan mutu. Pertanyaan penting bukan sekadar “apakah AI membutuhkan izin edar?”, melainkan apakah software tersebut memenuhi kualifikasi sebagai alat kesehatan dan diedarkan untuk tujuan medis. Klasifikasi itu menentukan kewajiban regulasi sebelum teknologi digunakan secara luas. Tim Hukum Kesehatan SIP Law Firm membantu meninjau klasifikasi dan kepatuhan perizinan software AI. Untuk memahami urgensi regulasi AI di bidang kesehatan, baca juga urgensi regulasi AI di bidang kesehatan.
Tanggung Jawab Hukum Kesalahan AI dalam Diagnosis
Kesalahan AI dalam layanan kesehatan menciptakan persoalan pertanggungjawaban yang kompleks. Keputusan medis melibatkan pengembang, fasilitas kesehatan, tenaga medis, dan sistem AI secara bersamaan. Di klinik swasta Jakarta pada 2023, sistem software citra medis diduga menghasilkan false negative pada pasien infeksi parasit. Akibatnya penanganan tertunda dan kondisi pasien memburuk. Kasus itu menunjukkan kesalahan sistem AI berdampak langsung pada keselamatan pasien.
Melalui kasus tersebut, setidaknya ada tiga persoalan hukum: pengawasan pre-market approval terhadap Software as a Medical Device (SaMD), standar akurasi software sebelum digunakan, dan pembagian tanggung jawab antara pengembang, fasilitas kesehatan, dan dokter. Stanford Human-Centered Artificial Intelligence menyoroti ketidakjelasan pihak yang bertanggung jawab ketika AI gagal. Penentuan tanggung jawab mempertimbangkan desain AI, penggunaan, pengawasan, dan proses keputusan klinis. Pengembang menghadapi risiko jika kesalahan berasal dari cacat sistem, algoritma, data pelatihan, atau informasi penggunaan. Faskes wajib memastikan teknologi memenuhi persyaratan dan diterapkan sesuai prosedur. Dokter wajib menilai klinis keluaran AI, tidak menggunakannya sebagai pengganti pertimbangan profesional. Kontrak antara pengembang dan fasilitas kesehatan perlu mengatur tanggung jawab, standar performa, pembaruan sistem, pelaporan insiden, audit, keamanan data, dan mekanisme kerugian pasien. Untuk memahami AI dalam diagnostik medis, baca juga kecerdasan buatan dalam diagnostik medis.
Perlindungan Data Pasien dalam AI Medis
AI medis membutuhkan data besar untuk analisis dan prediksi. Data berasal dari rekam medis, hasil lab, citra medis, data biometrik, dan informasi kesehatan lainnya. Dalam Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (“UU PDP”), data dan informasi kesehatan termasuk data pribadi spesifik. Penggunaan data pasien untuk melatih, menguji, atau menjalankan sistem AI harus memperhatikan prinsip perlindungan data pribadi. Risiko hukum muncul tidak hanya saat kebocoran data. Pemrosesan tanpa dasar, penggunaan di luar tujuan, akses tidak seharusnya, atau transfer data juga berisiko. Fasilitas kesehatan wajib menjaga keamanan, keutuhan, kerahasiaan, dan ketersediaan data rekam medis (UU Kesehatan). Kewajiban itu semakin penting ketika data terhubung dengan sistem AI pihak ketiga. Rumah sakit butuh pengaturan kontraktual soal akses, keamanan, penyimpanan, penggunaan ulang, dan penghapusan data. Kementerian Kesehatan menerbitkan Kepmenkes 721/2026 tentang Pedoman Pelindungan Data Pribadi di Lingkungan Kementerian Kesehatan. Pedoman menekankan tata kelola data aman, transparan, akuntabel. Penerapan AI medis tidak hanya dinilai kemampuan teknologinya. Aspek data governance, keamanan siber, privasi, dan akuntabilitas harus bagian dari desain sistem. Untuk memahami perlindungan data di Indonesia, baca juga perlindungan data pribadi di Indonesia.
Penutup
Penggunaan AI dalam layanan kesehatan menawarkan manfaat besar, tetapi menghadirkan risiko hukum: legalitas alat kesehatan, kesalahan diagnosis, pertanggungjawaban profesional, hingga perlindungan data pasien. Kepatuhan dibangun sejak tahap perancangan dan implementasi teknologi. Konsultasikan kebutuhan hukum bisnis Anda dengan SIP Law Firm untuk pendampingan aspek hukum dan kepatuhan penggunaan AI di bidang kesehatan.
Dasar Hukum
- Undang-Undang Nomor 17 Tahun 2023 tentang Kesehatan
- Peraturan Menteri Kesehatan Nomor 5 Tahun 2026 tentang Perbekalan Kesehatan
- Keputusan Menteri Kesehatan Nomor HK.01.07/MENKES/721/2026 tentang Pedoman Pelindungan Data Pribadi di Lingkungan Kementerian Kesehatan
- Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi
Referensi
- Muhafid, dkk. Pertanggungjawaban Pidana Atas Penyalahgunaan Teknologi Kecerdasan Buatan dalam Diagnosis dan Perawatan Kesehatan. Jurnal Kesehatan Tambusai, Vol. 7(1), 2026.
- Kementerian Kesehatan. Pedoman Pelindungan Data Pribadi di Lingkungan Kementerian Kesehatan. 2026. csirt.kemkes.go.id
- Stanford Human-Centered Artificial Intelligence. Who’s at Fault when AI Fails in Health Care? 2024. hai.stanford.edu
Pertanyaan yang Sering Diajukan
Apakah software AI wajib memiliki izin edar alat kesehatan?
Ya, jika software AI digunakan pada manusia untuk tujuan medis dan memenuhi definisi alat kesehatan menurut UU Kesehatan Pasal 1 angka 13 serta Permenkes 5/2026.
Siapa yang bertanggung jawab jika AI salah diagnosis?
Tergantung sumber kesalahan: pengembang (cacat sistem/algoritma/data), fasilitas kesehatan (penggunaan tidak sesuai prosedur), atau dokter (keputusan klinis tanpa verifikasi). Kontrak antar pihak mengatur pembagian tanggung jawab.
Apakah data pasien untuk AI wajib memenuhi UU PDP?
Ya. Data kesehatan adalah data pribadi spesifik menurut UU PDP. Penggunaan untuk melatih atau menjalankan AI wajib memenuhi prinsip perlindungan data pribadi.
Apakah rumah sakit wajib membuat kontrak dengan pengembang AI?
Sangat disarankan. Kontrak mengatur tanggung jawab, standar performa, audit, keamanan data, pelaporan insiden, dan mekanisme ganti rugi pasien.
Mengapa aspek data governance penting dalam AI medis?
Data AI bersifat sensitif. Tanpa tata kelola aman, transparan, dan akuntabel, risiko kebocoran, penyalahgunaan, dan pelanggaran UU PDP meningkat.