HARIAN MERAPI - Kecerdasan buatan atau AI kini sudah dimanfaatkan hampir di semua sektor, termasuk sektor kesehatan.
Terkait hal itu, Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan pentingnya pengawasan pengguanaan AI di sektor kesehatan.
Menurut Nezar Patria, perlu perhatian khusus dalam pemanfaatan teknologi kecerdasan artifisial (AI) di sektor kesehatan dalam proses pengembangan dan pengawasan melalui pendekatan sandboxing.
Baca Juga: Larangan mandi di laut, ini daerah Pantai Selatan yang membahayakan
“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” kata Nezar Patria melalui keterangan resminya di Jakarta, Sabtu.
Dia melanjutkan bahwa memang sudah sejatinya sebuah sistem AI diimplementasikan secara luas dan pentingnya untuk melewati tahapan pengujian dalam lingkungan terbatas dan terkontrol sebelum terintegrasi ke sistem yang lebih besar.
Menurut dia, para pemangku kepentingan ikut hadir dan terlibat dalam proses sandoxing agar dapat menilai berbagai aspek teknis dan etis serta kesiapan operasional dan potensi dampak bagi masyarakat itu sendiri.
Hal tersebut sudah dilaksanakan terlebih dahulu di China, yang menjadi contoh positif sehingga sudah bisa mengungguli negara-negara maju lain karena melakukan sandboxing terlebih dahulu di level domestik.
Baca Juga: Ramalan zodiak Aries besok Senin 5 Mei 2025, lamaran pernikahan sudah di depan mata
“China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxingnya sudah berlangsung di negara mereka lebih dulu,” ucap dia.
Meski begitu, terdapat beberapa tantangan yang juga harus diatasi dalam penerapan model Agentic AI, yang diyakini mampu membuat keputusannya sendiri. Menurutnya, risiko adalah hal yang tidak bisa dihindari dalam pengembangan teknologi mutakhir.
Khususnya dalam konteks kesehatan, risiko AI bukan hanya teknis, tetapi juga sosial dan etis.
"AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” jelas dia.
Baca Juga: Ini yang harus dilakukan orang tua agar anak tidak dimanjakan AI
Dengan pendekatan melalui basis pada data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri. Indonesia diyakini dapat membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila.*
