HARIAN NEGERI - Pemanfaatan teknologi kecerdasan buatan (AI) di sektor kesehatan memerlukan perhatian serius, terutama terkait dengan regulasi dan pengawasan.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, menekankan pentingnya pengembangan dan pengawasan AI kesehatan melalui pendekatan sandboxing. Sebelum teknologi AI diterapkan secara luas, sistem tersebut harus menjalani uji coba dalam lingkungan terbatas untuk memastikan kepatuhan terhadap regulasi, mitigasi risiko, dan kesesuaian dengan kasus penggunaan yang diusulkan.

“Sangat penting untuk memastikan AI melalui proses ini. Di sini kita dapat menilai bagaimana sistem tersebut memenuhi regulasi, mengurangi risiko, dan apakah sesuai dengan trial yang dilakukan,” ujar Nezar Patria dalam pertemuan dengan perwakilan Kelompok Kerja Komunikasi Risiko dan Pelibatan Masyarakat (RCCE+) di Kantor Kementerian Komdigi, Jakarta Pusat, Jumat (02/05/2025).

Nezar menambahkan, proses sandboxing memungkinkan para pemangku kepentingan menilai berbagai aspek teknis dan etis, termasuk kesiapan operasional serta dampak sosialnya. Ia memberikan contoh China yang telah sukses dengan teknologi AI tingkat lanjut melalui proses sandboxing di pasar domestik sebelum memasuki pasar global.

“China sudah pada level AI yang lebih maju, dengan banyak robot yang diciptakan untuk tugas-tugas tertentu. Sebelum dipasarkan secara global, mereka melakukan sandboxing di dalam negeri terlebih dahulu,” tuturnya.

Nezar juga mengingatkan tentang tantangan penerapan model Agentic AI yang dapat membuat keputusan secara mandiri. Di sektor kesehatan, risiko yang dihadapi bukan hanya teknis, tetapi juga sosial dan etis.

“Jika masih membutuhkan campur tangan manusia, kita perlu kebijakan terkait human in the loop. AI dalam kesehatan memiliki tantangan besar, seperti disinformasi. Sektor kesehatan adalah yang kedua paling tinggi dalam hal disinformasi, setelah politik. Belum lagi ada potensi bias terkait kepentingan komersial, yang bisa mengarah pada rekomendasi medis yang tidak pernah diuji secara klinis,” jelasnya.

Karena itu, Nezar menekankan pentingnya mengembangkan AI kesehatan berdasarkan data nasional yang telah divalidasi oleh para ahli di dalam negeri.

“Dengan pendekatan ini, Indonesia dapat menciptakan sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan selaras dengan nilai-nilai Pancasila,” tegas Nezar.