Apa yang diatur Rancangan Pedoman Etika AI tentang penyelenggara sistem AI?

Rancangan Konsep Pedoman Etika Kecerdasan Artifisial dari Kementerian Komunikasi. Selain itu, Digital (konsultasi publik, Agustus 2025) mendefinisikan penyelenggara sistem AI sebagai pihak yang menerapkan dan mengoperasikan sistem AI dalam konteks pengguna spesifik. Rancangan ini tidak memuat daftar tanggung jawab tersendiri bagi penyelenggara, melainkan merumuskannya untuk kelompok "Pelaku Sektor". Di antara butir langkah pelindungan yang terbaca utuh, hanya satu yang menyebut penyelenggara secara langsung. Isinya belum berlaku dan dapat berubah.

Siapa yang disebut penyelenggara sistem AI

Rancangan menyebut penyelenggara sebagai pihak yang mengimplementasikan. Selain itu, Mengoperasikan sistem Kecerdasan Artifisial dalam konteks pengguna spesifik, misalnya dalam layanan publik, sektor industri, atau institusi tertentu (Definisi angka 8). Peran ini dibedakan dari pengembang yang melatih model (angka 6) dan penyedia sistem yang mengintegrasikan model ke dalam aplikasi (angka 7). Bersama penyedia data, ketiga peran itu disebut Pelaku Sektor (angka 3).

Klinik atau rumah sakit yang memakai alat AI dari vendor dalam layanan kesehatannya masuk ke dalam kategori institusi tertentu selaku penyelenggara sistem AI.

Kewajiban umum dan langkah pelindungan

Bab VIII angka 2 memuat empat tugas pokok Pelaku Sektor: mengembangkan dan menjalankan sistem sesuai prinsip etika. mengelola risiko di setiap tahap siklus hidup sistem. memitigasi risiko melalui pencegahan, identifikasi dini, perbaikan, audit berkala, dan pengawasan berkelanjutan. serta menjamin transparansi dan akuntabilitas sistem.

Tabel 1 (Bab VII.2) memuat langkah pelindungan penting:

• menjelaskan cara kerja, data, dan batasan operasional sistem kepada pengguna;
• menetapkan dan mendokumentasikan penanggung jawab keputusan penerapan sistem;
• menyediakan jalur pelaporan keluhan dan insiden, baik internal maupun eksternal;
• menyiapkan prosedur darurat untuk menghentikan sistem dengan cepat dan aman. dan
• menjaga sistem tetap dalam kendali manusia, tanpa keputusan akhir otomatis untuk hal yang berdampak besar pada hak, keselamatan, atau kesehatan manusia.

Dari butir langkah pelindungan yang terbaca utuh, satu butir secara tegas menyebut penyelenggara bersama pengembang. Wajib memiliki kompetensi teknis dan etika yang memadai serta terus diperbarui.

Indikator risiko tinggi dan penanganan keluhan

Rumusan risiko tinggi menyebut dampak negatif pada keamanan, keselamatan, kesehatan, atau hak asasi manusia. Dengan penanda antara lain penggunaan data biometri, informasi spesifik pengguna (Personal Identifiable Information). Selain itu, Dampak langsung dari penggunaan sistem oleh publik atau masyarakat umum.

Pelaku Sektor menjalankan penilaian mandiri yang disiapkan Pemangku Kebijakan (Bab IX.1). Jika timbul keluhan dari pengguna, Pemangku Kebijakan memediasi laporan tersebut. Pelaku Sektor melacak masalahnya, memperbaiki sistem bila masalahnya meluas atau melakukan perbaikan sesuai keluhan bila keluhan itu bersifat perorangan, lalu mendokumentasikan. Selain itu, Melaporkan penyelesaiannya kepada Pemangku Kebijakan (Bab IX.2).

Rancangan menyebut batas waktu penyesuaian dua tahun sejak peraturannya diundangkan (Bab X). Dokumen ini berstatus draf konsultasi publik dan belum menimbulkan kewajiban hukum yang mengikat.

Dasar hukum

• RANCANGAN Konsep Pedoman Etika Kecerdasan Artifisial, Kementerian Komunikasi dan Digital, Agustus 2025 (belum berlaku): Definisi angka 2, 3, 6, 7, dan 8. Bab I. Bab VII.2 Tabel 1. Bab VIII angka 2. Bab IX.1 dan IX.2. Bab X dan XI.