Studi Baseline
Automasi Tanpa Regulasi: Dampak Pemanfaatan Kecerdasan Artifisial di Sektor Publik Bagi Kelompok Rentan di Indonesia
Pemerintah mengandalkan teknologi kecerdasan artifisial (artificial intelligence atau “AI”) untuk mendorong proses pengambilan keputusan yang efisien dalam menyediakan layanan publik bagi masyarakat (Berryhill, dkk., 2019; Hjaltalin dan Sigurdarson, 2024). Teknologi AI mulai diperkenalkan di berbagai level pelayanan publik, mulai dari kesehatan, ketenagakerjaan, pendidikan, penegakan hukum, dan tata kelola birokrasi. Spektrum teknologi AI yang digunakan di sektor publik juga cukup beragam, seperti alat pendeteksi wajah (face recognition), teknologi analisis sentimen percakapan di media sosial, hingga fitur chatbot dalam aplikasi-aplikasi pemerintah.
Meskipun membantu proses pelayanan publik menjadi lebih efisien, penggunaan AI di sektor publik memiliki sejumlah risiko dan tantangan terutama bagi penerima manfaat layanan publik. Sebagai contoh, sebuah investigasi terhadap penggunaan sistem Samagra Vedika di India mengungkapkan bagaimana pemanfaatan AI justru dapat mendiskriminasi masyarakat. Pemerintah India membangun sistem Samagra Vedika untuk memperbaiki distribusi bantuan sosial di India dengan mengintegrasikan data penerima bantuan, namun penggunaan sistem ini justru menyebabkan terjadinya penolakan akses bantuan sosial terhadap ribuan warga di negara bagian Telangana, India (Tapasya, 2024). Di Korea Selatan, penggunaan sistem rekrutmen berbasis AI di institusi publik menuai banyak kritik karena dilakukan tanpa penilaian risiko dan kinerja yang memadai (Yeo-kyung C, dkk., 2025). Di sektor pendidikan, kasus di Prancis menunjukkan tantangan dalam sistem seleksi pendidikan tinggi berbasis algoritma. Platform publik Admission Post-Bac (APB), yang digunakan pelajar untuk pendaftaran pendidikan tinggi dinilai tidak transparan dan menciptakan inkonsistensi dalam syarat dan kondisi akses ke program sarjana di universitas (Cour Des Comptes, 2017). Hal ini menimbulkan pertanyaan mendasar mengenai keadilan, transparansi, dan akuntabilitas dalam pengambilan keputusan berbasis AI di sektor pendidikan.
Penggunaan teknologi AI dalam tata kelola administrasi layanan publik, atau disebut dengan algorithmic regulation (Smuha, 2025), memang menawarkan banyak manfaat antara lain, efisiensi dan perbaikan kualitas layanan publik. Namun, tren penerapan AI di sektor publik berpotensi menimbulkan risiko yang tinggi bagi pemenuhan kepentingan publik yang fundamental, khususnya dalam konteks masyarakat yang beragam seperti di Indonesia. Oleh karena itu, studi diagnostik ini perlu dilakukan untuk memetakan sejauh apa pemanfaatan teknologi AI dalam sektor pelayanan publik di Indonesia dan bagaimana dampaknya terhadap masyarakat, terutama penerima manfaat yang berasal dari kelompok-kelompok rentan (e.g., LGBTQI, kelompok miskin, perempuan, dan penyandang disabilitas).
Teknologi AI di sektor publik telah cukup banyak diaplikasikan dalam berbagai konteks pelayanan publik di Indonesia, meskipun kerangka regulasi dan metode akuntabilitas pemanfaatannya masih belum jelas.
Berdasarkan situasi tersebut, studi ini hendak menjawab pertanyaan mendasar tentang “bagaimana dampak (hukum, etika, dan kelembagaan) pemanfaatan teknologi AI di sektor publik terhadap kelompok masyarakat rentan di Indonesia.” Untuk menjawab pertanyaan mendasar di atas, studi ini disusun ke dalam enam bab. Pertama, Bab 1 mendiskusikan konteks umum dari pemanfaatan teknologi AI di sektor publik dan kaitannya dengan kerangka hukum, etika, dan kelembagaan. Bab ini juga memaparkan kerangka analisis yang digunakan untuk mendiskusikan permasalahan dari penggunaan AI di sektor publik serta metode pengumpulan data. Kedua, Bab 2 mengelaborasi definisi dan ruang lingkup AI dan pemanfaatannya di sektor publik, serta titik persinggungan AI dan berbagai nilai.
Ketiga, Bab 3 menguraikan situasi terkini pemanfaatan AI di sektor publik di Indonesia. Bab ini memetakan para aktor yang terlibat, jenis AI yang digunakan, sektor yang menggunakan AI, serta kerangka hukum terkait. Keempat, Bab 4 mengulas secara mendalam empat studi kasus dan bagaimana dampak pemanfaatan AI di sektor publik bagi kelompok rentan di Indonesia. Kelima, Bab 5 mendiskusikan rekomendasi dengan mempertimbangkan kesenjangan dan perbaikan yang perlu dilakukan dalam pengembangan AI di sektor publik.
Rekomendasi menyasar beberapa hal, yakni: (i) kerangka etis yang perlu diutamakan dalam pemanfaatan AI di sektor publik dan (ii) kebutuhan regulasi sebagai mekanisme akuntabilitas dan transparansi atas penggunaan AI. Terakhir, Bab 6 menyimpulkan bahwa teknologi AI telah banyak dimanfaatkan dalam berbagai level sektor pelayanan publik di Indonesia, kendati belum terdapat kejelasan mengenai kerangka regulasi, parameter tata kelola, dan kualitas sumber daya yang memadai.
Unduh Laporan Studi Baseline — Automasi Tanpa Regulasi: Dampak Pemanfaatan Kecerdasan Artifisial di Sektor Publik Bagi Kelompok Rentan di Indonesia di sini.