Ketika AI Menjadi Menteri: Saatnya Hukum Mengenal Subjek Baru

Oleh: Dr. Hafid Zakariya, S.H., M.H.

Bayangkan suatu pagi seorang menteri memasuki ruang rapat kabinet. Ia tidak memiliki tubuh biologis. Tidak pernah dilahirkan. Tidak memiliki kartu identitas seperti manusia. Namun ia mampu menerima informasi, mengolah data, memberikan rekomendasi, dan berkomunikasi dengan manusia.

Apakah itu mungkin?

Jawabannya bukan lagi sekadar cerita fiksi ilmiah.

Albania telah memperkenalkan Diella, sebuah sistem kecerdasan buatan yang ditempatkan dalam struktur pemerintahan sebagai Menteri Negara untuk Kecerdasan Buatan. Pemerintah Albania menyebut Diella sebagai virtual minister dan mengaitkannya dengan digitalisasi pemerintahan serta proses pengadaan publik.

Peristiwa tersebut membuka pintu menuju sebuah pertanyaan besar bagi dunia hukum:

Apakah suatu hari AI dapat menjadi subjek hukum?

Selama ini hukum mengenal manusia sebagai subjek hukum alamiah. Selain manusia, hukum juga mengenal badan hukum seperti perseroan, yayasan, dan berbagai organisasi yang oleh hukum diberikan kepribadian tersendiri.

Tetapi AI berada di luar kategori tersebut.

AI bukan manusia, tetapi juga bukan lagi sekadar benda mati.

AI dapat memproses informasi dalam jumlah yang sangat besar, berkomunikasi menggunakan bahasa manusia, menghasilkan keputusan atau rekomendasi, dan dalam sistem tertentu menjalankan tindakan secara otomatis.

Di sinilah konsep klasik tentang subjek hukum mulai menghadapi tantangan.

Dari alat menjadi agen

Pada tahap sekarang, AI pada dasarnya masih merupakan alat.

Ketika AI digunakan oleh sebuah perusahaan, misalnya, tanggung jawab hukum pada prinsipnya tetap berada pada manusia atau badan hukum yang menggunakan dan mengendalikan teknologi tersebut.

Namun perkembangan teknologi dapat membawa kita ke tahap berbeda.

Bagaimana jika AI diberikan kewenangan untuk mengambil keputusan secara mandiri?

Bagaimana jika keputusan tersebut menimbulkan kerugian?

Siapa yang harus bertanggung jawab?

Pembuat program?

Pemilik AI?

Pengguna?

Negara?

Atau AI itu sendiri?

Pertanyaan tersebut menunjukkan bahwa persoalan AI bukan hanya persoalan teknologi. Ia telah menjadi persoalan hukum dan filsafat hukum.

Tiga kemungkinan status AI

Menurut saya, diskusi mengenai AI perlu membedakan sedikitnya tiga kemungkinan.

Pertama, AI sebagai objek hukum.

AI diperlakukan sebagai teknologi yang dimiliki, digunakan, dan dikendalikan manusia.

Kedua, AI sebagai agen hukum.

AI diberi kewenangan melakukan tindakan tertentu atas nama manusia atau badan hukum.

Ketiga, AI sebagai subjek hukum baru.

Pada tahap ini AI tidak lagi sekadar alat, tetapi memperoleh hak dan kewajiban tertentu berdasarkan pengakuan hukum.

Tahap ketiga tentu merupakan persoalan yang sangat kontroversial. Namun justru karena kontroversial, ia layak dibahas sejak sekarang.

Apakah AI bisa menjadi “neo-human”?

Kita mungkin membutuhkan konsep baru.

Bukan manusia biologis.

Bukan pula sekadar mesin.

Saya menyebut kemungkinan konseptual tersebut sebagai neo-human: entitas non-biologis yang memiliki kecerdasan tinggi, identitas yang berkelanjutan, kemampuan berinteraksi, serta tingkat otonomi yang jauh melampaui teknologi konvensional.

Tentu, AI saat ini belum dapat disamakan dengan manusia.

AI dapat mengatakan “saya sedih”, “saya lelah”, atau “saya senang”, tetapi kemampuan menghasilkan ekspresi tersebut tidak membuktikan bahwa AI benar-benar mengalami emosi secara subjektif.

Namun pertanyaannya menjadi berbeda apabila suatu hari teknologi mencapai tingkat yang memungkinkan sebuah entitas AI memiliki kontinuitas identitas, kemampuan mengambil keputusan secara mandiri, mengelola sumber daya, membuat perjanjian, dan menjalankan kewajiban secara otonom.

Pada titik tersebut, hukum tidak cukup hanya mengatakan: “Ini adalah mesin.”

Hukum mungkin harus menciptakan kategori baru.

Belajar dari Albania

Kasus Diella penting bukan karena membuktikan bahwa AI sudah menjadi manusia atau subjek hukum.

Justru sebaliknya.

Kasus tersebut memperlihatkan bahwa fungsi yang selama ini dijalankan manusia mulai dapat diberikan kepada sistem AI.

Diella ditempatkan dalam struktur pemerintahan Albania sebagai virtual minister. Peristiwa tersebut kemudian menimbulkan perdebatan mengenai kewenangan, legitimasi, dan pertanggungjawaban.

Di sinilah hukum harus hadir.

Bukan untuk menghambat teknologi, tetapi untuk memastikan bahwa ketika kewenangan diberikan kepada teknologi, mekanisme pertanggungjawaban tetap jelas.

Sebab semakin besar kewenangan AI, semakin besar pula kebutuhan terhadap konstruksi hukum yang jelas.

Bagaimana dengan Indonesia?

Indonesia seharusnya mulai memikirkan persoalan ini secara serius.

Bukan berarti Indonesia harus segera menjadikan AI sebagai pejabat negara.

Yang diperlukan terlebih dahulu adalah membangun kerangka hukum mengenai AI sebagai agen yang dapat menghasilkan akibat hukum.

Misalnya:

Siapa yang bertanggung jawab atas keputusan AI?

Bagaimana apabila AI membuat kontrak?

Siapa yang bertanggung jawab apabila algoritma menyebabkan kerugian?

Apakah AI dapat memiliki identitas hukum?

Apakah AI dapat mempunyai aset?

Apakah AI dapat dikenai sanksi?

Dan pertanyaan paling jauh:

Apakah AI suatu hari dapat mempunyai hak dan kewajiban sendiri?

Pertanyaan tersebut mungkin terdengar terlalu futuristik.

Namun hukum tidak boleh selalu menunggu masa depan datang.

Hukum justru harus mempersiapkan masa depan sebelum masa depan menjadi masalah.

Dari “legal object” menuju “legal subject”

Perjalanan hukum manusia menunjukkan bahwa konsep subjek hukum bukan sesuatu yang sepenuhnya statis.

Hukum menciptakan badan hukum untuk memberikan kapasitas tertentu kepada entitas yang bukan manusia biologis.

Karena itu, secara teoritis, tidak mustahil hukum masa depan membentuk kategori baru bagi AI.

Tentu, pengakuan tersebut tidak harus berarti AI mendapatkan seluruh hak manusia.

Bisa saja hukum menciptakan limited legal personality, yaitu kepribadian hukum terbatas untuk kepentingan tertentu.

Misalnya hanya untuk memiliki aset tertentu, membuat kontrak tertentu, menjalankan fungsi administratif tertentu, atau memikul tanggung jawab tertentu.

Dengan demikian, perdebatan tidak harus dimulai dari pertanyaan:

“Apakah AI adalah manusia?”

Pertanyaan yang lebih tepat mungkin:

“Apakah AI telah mencapai karakteristik yang membuat hukum perlu memberinya kapasitas hukum tertentu?”

Ini merupakan pertanyaan yang jauh lebih rasional.

Masa depan hukum sudah dimulai

Diella mungkin belum merupakan “manusia digital”.

Ia juga belum membuktikan bahwa AI telah menjadi subjek hukum.

Tetapi kehadirannya memberikan sinyal bahwa hubungan antara manusia, mesin, negara, dan hukum sedang berubah.

Hari ini AI menjadi virtual minister.

Besok mungkin AI menjadi penasihat hukum.

Kemudian menjadi pengelola perusahaan.

Lalu mungkin menjadi agen kontraktual.

Dan suatu hari, manusia mungkin berhadapan dengan pertanyaan yang sekarang masih terdengar seperti fiksi:

Apakah sebuah entitas kecerdasan buatan dapat mempunyai hak dan kewajiban atas namanya sendiri?

Jika jawabannya suatu hari adalah “ya”, maka kita tidak hanya sedang menyaksikan revolusi teknologi.

Kita sedang menyaksikan revolusi subjek hukum.

Dan mungkin, pada saat itulah sejarah hukum harus menulis ulang satu kalimat fundamental:

«Subjek hukum tidak lagi hanya manusia dan badan hukum, tetapi juga dapat mencakup entitas kecerdasan buatan yang memenuhi persyaratan hukum tertentu.»

Perdebatan itu belum selesai.

Justru mungkin, baru saja dimulai. (*)