Apa saja yang perlu dicatat dalam jejak audit AI kesehatan?

Catatan tersebut perlu menjawab empat pertanyaan: bukti apa yang masuk ke alur kerja, apa yang dihasilkan AI, tindakan apa yang dilakukan pihak berwenang, dan apa yang akhirnya diterbitkan atau ditulis ke sistem lain. Untuk setiap kejadian yang bermakna secara klinis, simpan rujukan dan versi sumber atau rekam; versi alur, aturan, prompt, dan model yang aktif; keluaran AI; perubahan penting; identitas serta peran pengulas; persetujuan, penolakan, eskalasi, atau pengesampingan; stempel waktu; dan hasil ekspor atau tulis-balik. Upaya yang gagal dan pengecualian perlu dicatat bersama tindakan yang berhasil agar institusi dapat menelusuri proses terbentuknya rekam final.

Jejak audit bukan alasan untuk menggandakan semua data pasien. Institusi perlu meminimalkan data yang dicatat, membatasi akses berdasarkan peran, melindungi integritas, menetapkan retensi, dan menguji apakah pengulas berwenang dapat mengambil bukti saat diperlukan. Log harus membedakan draf AI dari rekam yang sudah disetujui manusia dan tidak boleh membiarkan sistem yang menghasilkan keluaran menilai sendiri kebenarannya. Jejak audit mendukung investigasi dan akuntabilitas, tetapi tidak dengan sendirinya membuktikan bahwa hasil klinis sudah benar atau aman.