Apa yang Diatur Rancangan Pedoman Etika AI tentang Penyedia Sistem AI?

Rancangan Konsep Pedoman Etika Kecerdasan Artifisial (AI) yang dirilis Kementerian Komunikasi. Selain itu, Digital untuk konsultasi publik pada Agustus 2025 mendefinisikan penyedia sistem AI dan memasukkannya ke dalam kelompok Pelaku Sektor. Rancangan ini tidak memuat daftar pasal tersendiri, melainkan membebankan empat tanggung jawab pokok kepada Pelaku Sektor secara bersama. Tugas tersebut meliputi manajemen risiko siklus hidup, transparansi dan akuntabilitas sistem, pengawasan manusia (human oversight), serta penyediaan kanal keluhan dan insiden. Status dokumen ini adalah draf konsultasi publik yang belum berlaku sebagai peraturan mengikat.

Siapa yang disebut penyedia sistem AI

Rancangan membagi Pelaku Sektor menjadi empat peran: penyedia data, pengembang AI, penyedia sistem AI, dan penyelenggara sistem AI (Definisi angka 3). Menurut Definisi angka 7, penyedia sistem AI adalah pihak yang menyediakan akses ke model AI. Selain itu, Infrastruktur pendukungnya serta mengintegrasikan sistem AI ke dalam produk, layanan, atau platform tertentu.

Vendor teknologi yang menanamkan model AI ke dalam aplikasi rekam medis elektronik atau alat penunjang klinis paling dekat dengan peran penyedia sistem. Sementara itu, Klinik atau rumah sakit pemakainya lebih dekat dengan peran penyelenggara sistem AI.

Empat tanggung jawab pokok Pelaku Sektor (Bab VIII)

• Mengembangkan dan menyelenggarakan sistem AI sesuai nilai dan prinsip etika;
• Melaksanakan manajemen risiko pada setiap tahap siklus hidup AI;
• Memitigasi risiko melalui pencegahan, identifikasi dini, perbaikan, audit berkala, pengawasan berkelanjutan, dan penyempurnaan sistem. serta
• Menjamin transparansi dan akuntabilitas sistem yang disediakan atau dioperasikan.

Langkah pelindungan dan klasifikasi risiko (Tabel 1 dan Bab VII)

Tabel 1 merinci langkah pelindungan (safeguards) yang relevan bagi penyedia sistem:

• Dokumentasi teknis: Menyediakan penjelasan terbuka mengenai cara kerja algoritma, data yang digunakan, dan batasan teknis sistem.
• Kanal pelaporan dan tombol darurat: Menyiapkan jalur pelaporan keluhan/insiden serta prosedur darurat untuk menghentikan operasional sistem secara cepat dan aman (kill switch).
• *Kendali manusia (Human-in-the-loop):* Sistem AI wajib berada dalam kendali manusia. Selain itu, Dilarang mengambil keputusan akhir secara otomatis untuk hal yang berdampak besar pada hak, keselamatan, atau kesehatan manusia.

Rancangan mengelompokkan risiko ke dalam tiga tingkatan: risiko tidak dapat diterima (dilarang), risiko tinggi (wajib pengawasan khusus), serta risiko minimal/rendah (mematuhi pelindungan transparansi).

Penilaian mandiri dan kanal keluhan (Bab IX)

Pemangku Kebijakan menyiapkan instrumen penilaian mandiri yang mencakup deteksi bias, akuntabilitas, penjelasan keputusan AI, pelindungan privasi, dan dampak sosial. Bila ada keluhan dari pengguna, Pemangku Kebijakan memediasi laporan dan meneruskannya ke Pelaku Sektor untuk dilacak, diperbaiki, dan dilaporkan penyelesaiannya.

Rancangan menyebut batas waktu penyesuaian dua tahun sejak peraturannya diundangkan (Bab X). Namun selama belum disahkan secara resmi, rancangan ini belum mengikat sebagai hukum positif.

Dasar hukum

• Rancangan Konsep Pedoman Etika Kecerdasan Artifisial (Kementerian Komunikasi dan Digital, konsultasi publik Agustus 2025, belum berlaku): Definisi angka 3, 7, dan 8. Bab IV. Bab V. Bab VII.2 Tabel 1. Bab VIII. Bab IX. dan Bab X.