Kaidah Hukum

• Penggunaan teknologi yang justru merugikan manusia pada dasarnya melanggar hak untuk memperoleh manfaat dari teknologi;
• Sarana teknologi informasi adalah alat bantu, bukan substitusi (pengganti) tugas dan fungsi pejabat administrasi negara yang menjalankan tanggung jawab hukum publik dalam pendaftaran perseroan;
• Prinsip dasar negara hukum yang menyangkut pertanggungjawaban setiap pengemban kewenangan hukum akan terganggu apabila fungsi administrasi publik dibiarkan tergantikan oleh mesin kecerdasan buatan (artificial intelligence) atau sarana teknologi informasi lain, tanpa kesadaran adanya resiko kesalahan pengambilan keputusan administrasi.

Ringkasan

Putusan ini merupakan putusan Pengadilan Tata Usaha Negara Jakarta dalam perkara pendaftaran perseroan. Dalam perkara tersebut, Penggugat memohon kepada Majelis Hakim untuk menyatakan batal atau tidak sah Surat Keputusan Menteri Hukum dan Hak Asasi Manusia perihal Persetujuan Penyesuaian Anggaran Dasar Perseroan Terbatas sebuah perusahaan dan mewajibkan Tergugat untuk mencabut surat keputusan tersebut. Permohonan pembatalan tersebut didasarkan atas beberapa alasan, di antaranya, 1) Tergugat tidak teliti dan cermat dalam memperhatikan profil perseroan dalam Sistem Administrasi Badan Hukum (SABH); 2) Tergugat telah melakukan penyalahgunaan wewenang karena objek sengketa yang diterbitkan oleh Tergugat tidak sesuai dengan substansi yang ada.

Dalam dalil-dalilnya, baik Pemohon maupun Termohon tidak mendalilkan sama sekali terkait dengan isu penggunaan teknologi informasi dalam proses pendaftaran perseroan. Meskipun demikian, Pengadilan dalam pertimbangan hukumnya menyatakan bahwa sikap Tergugat yang semata-mata menerima begitu saja (taken for granted) klaim dari Pemohon Penerbitan Keputusan menyebabkan Tergugat tidak mampu mengetahui adanya persoalan substansial dalam penerbitan keputusan menyangkut persetujuan perubahan AD/ART. Pengadilan menegaskan bahwa seandainya semua check list dalam permohonan penerbitan keputusan objek sengketa diikuti dengan verifikasi atau validasi, maka data-data yang diajukan tersebut dapat dilakukan pemeriksaan silang (cross examination) menyangkut kebenaran substansinya. 

Pengadilan juga menyebutkan dalam pertimbangan hukumnya bahwa sebagai suatu inovasi layanan berbasis digital yang telah banyak mendapatkan apresiasi dan manfaatnya dirasakan berbagai kalangan, Tergugat idealnya tidak menafikan kemungkinan kekeliruan yang mengandung error in fact dan error in law. Pada hakikatnya, sarana teknologi informasi adalah sekadar sebagai alat bantu, bukan sebagai substitusi (pengganti) tugas dan fungsi pejabat administrasi negara yang menjalankan tanggung-jawab hukum publik dalam pendaftaran perseroan. Tatkala keputusan otomatis yang diproses dalam sistem elektronik hanya disikapi secara taken for granted, tanpa kesadaran adanya resiko kesalahan pengambilan keputusan administrasi, maka fungsi administrasi publik otomatis seakan dibiarkan tergantikan oleh mesin kecerdasan buatan (artificial intelligence) atau sarana teknologi informasi lain, maka prinsip dasar negara hukum menyangkut pertanggungjawaban setiap pengemban kewenangan hukum akan terganggu pada titik yang paling fundamental dan esensial.

Berdasarkan berbagai pertimbangan tersebut, Majelis Hakim menyatakan bahwa Tergugat dalam menerbitkan obyek sengketa telah melanggar kewajiban atas norma yang diatur Pasal 5, Pasal 7 ayat (1), Pasal 8 ayat (2) dan Pasal 10 ayat (1) UU No. 30 Tahun 2014 tentang Administrasi Pemerintahan. Selain itu, Majelis Hakim juga menyatakan bahwa Tergugat juga telah melanggar Asas-asas Umum Pemerintahan yang Baik (AUPB), yaitu asas kecermatan, kepastian hukum, kemanfaatan, dan mengutamakan kepentingan umum. Majelis Hakim kemudian mengabulkan gugatan Penggugat dengan menyatakan bahwa Surat Keputusan Menteri Hukum dan Hak Asasi Manusia batal dan mewajibkan Tergugat untuk mencabut surat keputusan tersebut.

Pembahasan/Analisis

Secara umum, putusan ini dapat dinilai telah memenuhi prinsip HAM, khususnya terkait akuntabilitas dan hak untuk memperoleh manfaat dari teknologi, walaupun tidak menyebutkan secara eksplisit prinsip HAM tersebut dalam pertimbangannya. Hal ini terlihat dari dua pertimbangan Majelis Hakim yang menyatakan bahwa: 1) sarana teknologi informasi adalah sekadar sebagai alat bantu, bukan sebagai substitusi tugas dan fungsi pejabat administrasi negara; dan 2) dalam menggunakan teknologi tersebut, pejabat administrasi tidak boleh menerima begitu saja, melainkan perlu diikuti dengan verifikasi atau validasi. Pandangan demikian sejalan dengan salah satu prinsip hak asasi manusia dalam etika AI yang dikeluarkan oleh UNESCO, yaitu pengawasan dan penentuan oleh manusia (human oversight and determination) [1]. Prinsip ini menegaskan bahwa dalam setiap siklus sistem AI, tanggung jawab etis dan hukum harus bisa dikaitkan dengan orang perseorangan atau badan hukum yang ada karena sistem AI tidak pernah dapat menggantikan tanggung jawab dan akuntabilitas utama manusia [2]. Selain itu, dua pertimbangan tersebut juga sejalan dengan pandangan Commissioner for Human Rights, Council of Europe yang menyatakan bahwa manusia tetap harus memegang kendali dalam sistem AI [3]. Pengawasan (human oversight) dilakukan melalui pengawasan oleh manusia terhadap output yang dikeluarkan oleh sistem AI [4]. Pejabat administrasi yang bertanggung jawab atas sistem AI harus menganalisis output yang dikeluarkan oleh sistem AI untuk memastikan apakah telah terjadi perilaku yang tidak diinginkan, apakah aturan yang ditetapkan pada tahap pengembangan sistem AI perlu dimodifikasi, atau apakah ada bias data yang tidak diketahui selama pengembangan sistem [5].

Pertimbangan Majelis Hakim yang menyatakan bahwa diperlukan verifikasi atau validasi dalam penggunaan teknologi juga sejalan dengan prinsip proporsionalitas dan tidak membahayakan (proportionality and do no harm) [6]. Prinsip ini berarti bahwa penggunaan sistem AI tidak boleh melampaui apa yang diperlukan untuk mencapai tujuan yang sah, selain itu, penilaian risiko harus dilakukan untuk mencegah kerugian yang mungkin timbul dari penggunaan tersebut [7]. Dalam perkara a quo, Penggugat mengalami kerugian berupa hilangnya Penggugat dari susunan pemegang saham dan susunan pengurus (Direktur) pada sebuah perusahaan. Kerugian tersebut  dikarenakan Tergugat tidak melakukan verifikasi atau validasi atas permohonan pendaftaran perseroan.

Pertimbangan hakim yang mempersyaratkan verifikasi atau validasi dalam penggunaan teknologi juga sejalan dengan hukum nasional yang menyatakan bahwa setiap orang memiliki hak untuk memperoleh manfaat dari teknologi [8]. Selain itu, sejalan pula dengan deklarasi internasional yang menyatakan bahwa semua negara harus mengambil tindakan untuk memperluas manfaat teknologi kepada seluruh masyarakat dan melindungi mereka dari adanya kemungkinan dampak buruk dari penyalahgunaan teknologi, termasuk penyalahgunaannya untuk melanggar hak-hak individu atau kelompok [9]. Dalam perkara a quo, Penggugat mengalami kerugian dari penggunaan SABH yang disikapi secara taken for granted oleh pejabat administrasi, tanpa kesadaran adanya resiko kesalahan pengambilan keputusan administrasi.

Sumber

[1] United Nations Educational, Scientific and Cultural Organization, Recommendation on the Ethics of Artificial Intelligence, 23 November 2021, par. 35 dan 36;

[2] Ibid.;

[3] Commissioner for Human Rights of the Council of Europe, “Human Rights Oversight of Artificial Intelligence”, https://www.coe.int/en/web/commissioner/-/human-rights-oversight-of-artificial-intelligence , diakses pada Jumat, 25 Juli 2025;

[4] Inter-Parliamentary Union, “Ethical Principles: Human Autonomy and Oversight”, https://www.ipu.org/ai-guidelines/ethical-principles-human-autonomy-and-oversight , diakses pada Jumat, 25 Juli 2025;

[5] Ibid.;

[6] United Nations Educational, Scientific and Cultural Organization, Recommendation on the Ethics of Artificial Intelligence..., Op. Cit., par. 25 dan 26;

[7] Ibid.;

[8] Undang-Undang Dasar 1945, Pasal 28C dan Undang-Undang Nomor 39 Tahun 1999 tentang Hak Asasi Manusia, Pasal 13;

[9] Declaration on the Use of Scientific and Technological Progress in the Interests of Peace and for the Benefit of Mankind/Deklarasi tentang Pemanfaatan Kemajuan Ilmu Pengetahuan dan Teknologi demi Kepentingan Perdamaian dan Kemanfaatan Umat Manusia, General Assembly Resolution No. 3384, 10 November 1975, par. 6.

Sumber Lain

Uni Eropa, Artificial Intelligence Act/Undang-undang Kecerdasan Artifisial, Pasal 14.