Studi pada tikus yang terbit pada 2025 menemukan Rap1 di otak berperan dalam respons glukosa terhadap metformin dosis rendah pada rancangan eksperimen tertentu. Temuan itu tidak menetapkan mekanisme yang sama pada manusia dan tidak menutup jalur kerja lain. Perbedaan tersebut memberi perbandingan yang berguna bagi kecerdasan artifisial (artificial intelligence/AI) medis. Keluaran yang akurat belum menjelaskan sebab atau batas penerapannya, sehingga kepercayaan klinis membutuhkan rangkaian bukti yang lebih panjang.

Rap1 menambah satu jalur, bukan menutup perdebatan

Tim Hsiao-Yun Lin melaporkan bahwa tikus tanpa Rap1 pada otak depan menunjukkan respons yang melemah terhadap metformin dosis rendah. Respons terhadap beberapa obat penurun glukosa lain tetap terlihat pada model yang sama. Pemberian metformin ke sistem saraf pusat menekan aktivitas Rap1, sedangkan aktivasi paksa Rap1 menghapus respons glukosa tersebut. Tim juga mengaitkan jalur itu dengan neuron SF1 di hipotalamus ventromedial.

Rancangan itu memakai tikus dengan diet tinggi lemak, modifikasi genetik, dan beberapa rute pemberian. Hasilnya membangun alasan biologis untuk meneliti Rap1, tetapi belum mengukur peran jalur tersebut pada pengobatan rutin manusia. Tinjauan Jürgen Drewe dan rekan pada 2026 menggambarkan efek penurunan glukosa metformin sebagai proses multifaktor pada usus, hati, dan otot rangka. Tinjauan itu juga mencatat bahwa sebagian eksperimen memakai paparan lebih tinggi daripada yang lazim pada manusia.

Bukti mengenai hasil, mekanisme, dan cakupan penggunaan menjawab pertanyaan berbeda. Efek yang berulang tidak otomatis mengungkap seluruh jalur biologisnya. Sebaliknya, satu jalur baru pada hewan tidak menetapkan bobot klinisnya pada manusia. Pemisahan tingkat bukti ini menjadi dasar untuk membaca klaim kepercayaan pada AI medis.

Analogi dengan AI berlaku pada tingkat bukti

AI yang dapat dijelaskan (explainable artificial intelligence/XAI) berusaha menerangkan dasar keluaran sebuah model. Penjelasan itu membahas perilaku komputasional, bukan mekanisme biologis seperti Rap1. Model bisa meraih skor tinggi dengan memanfaatkan pola yang khas pada perangkat, populasi, atau alur kerja pengembang. Kinerja tersebut perlu diuji lagi ketika konteks penggunaan berubah.

Ada tiga lapisan yang perlu dipisahkan: hasil yang bisa diulang, kesetiaan penjelasan, dan batas penerapan. Pada riset obat, lapisan itu mencakup respons, jalur organ atau molekul, serta populasi yang diteliti. Pada AI, padanannya adalah data uji independen, dasar keputusan model, dan kinerja pada fasilitas lain. Perbandingan ini tidak menyamakan biologi dengan algoritme; keduanya hanya menghadapi risiko lompatan kesimpulan.

Penjelasan yang mudah dibaca belum tentu setia

Tinjauan sistematis Heliyon pada 2023 hanya memasukkan 6 dari 882 artikel yang disaring. Enam studi itu menilai mutu penjelasan melalui kesetiaan, daya jelas, keterpahaman, dan kemasukakalan. Kepuasan pengguna menjadi ukuran efektivitas yang paling sering dipakai, sedangkan metode penilaiannya berbeda-beda. Temuan tersebut memisahkan penjelasan yang terasa meyakinkan dari penjelasan yang benar-benar mengikuti proses model.

Tinjauan JMIR AI pada 2024 menyaring 778 artikel dan memasukkan 10 studi tentang XAI serta kepercayaan klinisi. Lima studi melaporkan kenaikan kepercayaan, tiga tidak menemukan pengaruh bermakna, dan dua menemukan arah yang bergantung pada bentuk penjelasan. Seluruh studi dinilai memiliki risiko bias sedang atau sedang-tinggi. Kepercayaan subjektif karena itu tidak menggantikan ukuran kesalahan, dampak alur kerja, atau hasil pasien.

Bukti klinis AI dibangun sepanjang siklus hidup

Konsorsium FUTURE-AI menyusun 30 rekomendasi melalui konsensus 117 ahli dari 50 negara. Kerangkanya memakai enam prinsip: keadilan, universalitas, keterlacakan, kegunaan, ketahanan, dan keterjelasan. Rekomendasi itu mencakup desain, pengembangan, validasi, regulasi, penerapan, serta pemantauan. Akurasi berada di dalam rangkaian tersebut, bukan di atasnya.

Lapisan pertama adalah data yang mewakili populasi, perangkat, dan situasi tujuan. Lapisan berikutnya menguji model pada data eksternal serta kelompok yang mungkin memiliki pola berbeda. Evaluasi prospektif kemudian menilai pengaruh AI terhadap kesalahan, beban kerja, keputusan manusia, dan hasil pasien. Pengawasan manusia serta pemantauan setelah penerapan menjaga hubungan antara hasil uji dan versi yang sedang dipakai.

Perubahan pencitraan, pencatatan, atau pola pasien bisa menggeser distribusi data. Model yang lolos validasi awal belum tentu mempertahankan kinerja setelah perubahan tersebut. Catatan versi perlu menghubungkan masukan, keluaran, koreksi manusia, insiden, dan pembaruan perangkat lunak. Tanpa jejak itu, penurunan kinerja sulit dibedakan dari perubahan layanan sehari-hari.

Aturan Indonesia memisahkan izin, data, dan pemantauan

Permenkes No. 5 Tahun 2026 memasukkan perangkat lunak yang digunakan pada manusia untuk tujuan medis dalam definisi alat kesehatan. Definisi itu tidak otomatis mencakup setiap aplikasi AI yang dipakai rumah sakit. Tujuan penggunaan dan fungsi produk tetap menentukan jalur penilaiannya. Kementerian Kesehatan Republik Indonesia (Kemenkes) mengatur persyaratan usaha serta produk melalui aturan yang lebih khusus.

Permenkes No. 11 Tahun 2025 meminta hasil pengujian perangkat lunak medis dan aplikasi AI, bukti klinis, validasi desain, serta analisis risiko. Pemegang izin perangkat lunak AI juga wajib mengikuti praktik pembelajaran mesin yang baik (Good Machine Learning Practice/GMLP). Kewajibannya mencakup keamanan, privasi, transparansi, minimisasi data, kebijakan pelaporan insiden, dan mitigasi ancaman siber. Dokumen izin tetap tidak membuktikan kinerja model pada setiap fasilitas yang akan menggunakannya.

UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi menggolongkan data dan informasi kesehatan sebagai data pribadi spesifik. Kewajiban pelindungan berlaku pada pengumpulan, penyimpanan, akses, dan pemrosesan data untuk AI. Kepatuhan data menjawab soal hak serta tata kelola, bukan akurasi klinis. Dua pemeriksaan itu harus berdiri sendiri agar satu dokumen tidak dianggap mewakili seluruh bukti.

Permenkes No. 5 Tahun 2026 mendefinisikan vigilans sebagai kegiatan mendeteksi, menilai, memahami, mengendalikan, dan mencegah masalah terkait alat kesehatan. Pemilik izin edar wajib menjalankan vigilans dan melaporkannya kepada otoritas sesuai kewenangan. Bagi AI, pemantauan baru bermakna jika laporan menyebut tujuan, versi model, konteks penggunaan, dan dampak kejadian. Angka ketersediaan sistem tidak menggantikan catatan kesalahan klinis.

Kesenjangan data Indonesia masih terbuka

Kemenkes pada 8–9 Juni 2026 membahas regulasi AI kesehatan, tata kelola data medis, keamanan siber, dan telaah etik dalam sebuah forum nasional. Pertemuan itu juga diarahkan untuk menghasilkan rekomendasi kebijakan dan pedoman nasional. Dokumen Kemenkes tersebut menempatkan keselamatan pasien, bias algoritma, diagnosis berlebih, dan pelindungan data sebagai risiko yang perlu dikelola. Agenda itu menunjukkan bahwa tata kelola nasional yang lebih luas masih sedang diperkuat.

Sampai artikel ini disusun, kami belum menemukan statistik nasional terbuka yang membandingkan validasi eksternal, pergeseran model, koreksi tenaga kesehatan, atau insiden AI antarfasilitas di Indonesia. Kesenjangan tersebut tidak membuktikan bahwa fasilitas kesehatan belum melakukan pengujian internal. Namun, kinerja nasional tidak bisa disimpulkan dari studi luar negeri atau izin satu produk. Pelaporan menurut tujuan penggunaan, versi model, dan jenis fasilitas diperlukan untuk menilai hasil penerapan secara terbuka.

Hasil, penjelasan, dan cakupan harus tetap terpisah

Kasus metformin menunjukkan bahwa bukti hasil dan penjelasan mekanisme bisa berkembang dengan kecepatan berbeda. Temuan Rap1 memperluas hipotesis biologis tanpa menghapus jalur lain atau membuktikan bobotnya pada manusia. AI medis menghadapi pemisahan serupa pada tingkat bukti, bukan pada proses biologis. Skor akurasi menjelaskan kinerja pada data tertentu, sedangkan penjelasan model dan manfaat klinis memerlukan pengujian tersendiri.

Indonesia sudah memiliki dasar untuk izin perangkat lunak medis, tata kelola data, keamanan siber, serta vigilans alat kesehatan. Dasar tersebut perlu bertemu dengan validasi eksternal, evaluasi prospektif, pengawasan manusia, dan catatan versi di fasilitas pengguna. Data nasional terbuka mengenai pelaksanaan lapangan masih terbatas. Tanpa rangkaian bukti itu, angka akurasi dan visual penjelasan tetap menjadi bukti parsial, bukan dasar tunggal bagi penerapan klinis.