JAKARTA,Penasilet.com – Kecerdasan artifisial atau Artificial Intelligence (AI) memasuki fase yang semakin kompleks. Teknologi yang dahulu hanya bekerja berdasarkan perintah sederhana kini berkembang menuju sistem yang mampu menganalisis situasi, menentukan pilihan, menjalankan tindakan, bahkan dalam kondisi tertentu mengambil keputusan yang tidak sepenuhnya diprediksi manusia.
Di sinilah persoalan hukum mulai menghadapi pertanyaan yang tidak sederhana.
Jika sebuah sistem AI bertindak secara otonom, kemudian tindakannya menimbulkan kerugian, pelanggaran hukum, bahkan kejahatan, siapa yang harus bertanggung jawab?
Praktisi Hukum, Akademisi sekaligus Ketua Umum Persatuan Wartawan Republik Indonesia (PWRI), Dr. Suriyanto.Pd., SH., MH., MKn., menilai Indonesia tidak boleh menunggu sampai terjadi kasus besar baru kemudian mencari-cari dasar hukumnya.
Menurutnya, sampai saat ini AI belum memiliki kedudukan sebagai subjek hukum layaknya manusia. Karena itu, tanggung jawab hukum pada prinsipnya tetap harus ditelusuri kepada manusia atau badan hukum yang berada di balik pengembangan, kepemilikan, pengoperasian, maupun penggunaan teknologi tersebut.
“AI bukan manusia. AI tidak mempunyai kehendak hukum, tidak mempunyai kesadaran hukum dan tidak dapat dimintai pertanggungjawaban pidana seperti manusia. Karena itu, ketika AI menimbulkan persoalan hukum, yang harus dicari adalah siapa manusia atau badan hukum yang memiliki kendali, kewajiban, pengetahuan, atau kelalaian terhadap sistem tersebut,” tegas Dr. Suriyanto, dalam pernyataannya kepada media, Senin ,(10/8/2029).
Bukan Mesin yang Dipenjara, tetapi Manusia di Balik Mesin
Menurutnya, analogi sederhananya dapat dilihat dari benda yang digunakan untuk melakukan suatu perbuatan melawan hukum.
Pisau tidak pernah diadili karena melukai seseorang. Kendaraan tidak dipenjara karena menabrak manusia. Senjata juga bukan subjek yang menjalani hukuman.
Begitu pula AI.
“Kalau sebuah AI melakukan tindakan yang merugikan, jangan berhenti pada pertanyaan bahwa mesinnya yang melakukan. Hukum harus membongkar rantai tanggung jawab di belakang mesin itu,” katanya.
Rantai tersebut, menurut dia, dapat dimulai dari pengembang sistem, perusahaan yang menyediakan teknologi, pemilik sistem, operator, hingga pengguna akhir.
Masing-masing harus dilihat berdasarkan peran, kewenangan, pengetahuan, kewajiban pengawasan, serta ada atau tidaknya unsur kesalahan.
Artinya, tidak otomatis setiap kerugian yang ditimbulkan AI membuat pengembang langsung menjadi pelaku pidana. Namun, apabila ditemukan adanya kesengajaan, kelalaian, pelanggaran kewajiban, desain sistem yang berbahaya, atau pembiaran terhadap risiko yang sudah diketahui, maka pertanggungjawaban hukum dapat diarahkan kepada pihak yang relevan berdasarkan fakta dan ketentuan hukum yang berlaku.
Pengembang Tidak Bisa Berlindung di Balik Kalimat “AI yang Memutuskan”
Dr. Suriyanto mengingatkan bahwa perkembangan AI justru membuat prinsip accountability semakin penting.
Sebuah perusahaan tidak semestinya berlindung di balik argumentasi bahwa keputusan diambil secara otomatis oleh algoritma.
“Kalimat ‘itu keputusan AI’ tidak boleh menjadi tameng untuk menghapus tanggung jawab manusia. Kalau sebuah perusahaan menciptakan sistem, melatihnya, memasarkannya, mengetahui risikonya, kemudian tetap membiarkan sistem tersebut beroperasi tanpa pengamanan yang memadai, tentu harus ada mekanisme pertanggungjawaban yang dapat diuji secara hukum,” ujarnya.
Dalam konteks hukum Indonesia, persoalan tersebut tidak hanya dapat dilihat melalui satu undang-undang.
UU Informasi dan Transaksi Elektronik, KUHPerdata, UU Pelindungan Data Pribadi, ketentuan pidana yang relevan, serta regulasi sektoral dapat menjadi bagian dari konstruksi hukum tergantung pada jenis perbuatan dan kerugian yang terjadi.
Karena itu, menurut Dr. Suriyanto, kurang tepat apabila seluruh persoalan AI secara otomatis dimasukkan hanya ke dalam UU ITE.
“Yang harus dilihat adalah perbuatannya. Apakah menyangkut akses ilegal, manipulasi sistem, penipuan, pencemaran nama baik, pelanggaran data pribadi, kerugian perdata, keselamatan kerja, atau tindak pidana lainnya. AI adalah instrumen. Perbuatan hukumnya tetap harus dikualifikasikan berdasarkan norma yang dilanggar,” jelasnya.
Ketika AI Trading Menjual Aset Tanpa Perintah
Bayangkan sebuah sistem AI digunakan untuk melakukan transaksi keuangan.
Algoritma diberi mandat melakukan perdagangan secara otomatis. Namun, karena kesalahan desain, data yang salah, atau mekanisme pengambilan keputusan yang tidak terkendali, sistem kemudian menjual aset milik nasabah dalam jumlah besar tanpa perintah manusia dan menimbulkan kerugian miliaran rupiah.
Pertanyaan hukumnya bukan sekadar: “Mengapa AI melakukan itu?”
Tetapi, Siapa yang merancang sistem? Siapa yang memberikan kewenangan? Siapa yang mengetahui risiko? Apakah sistem sudah diuji? Apakah terdapat mekanisme penghentian darurat? Siapa yang bertugas melakukan pengawasan? Dan apakah ada kelalaian?
Pertanyaan-pertanyaan itulah yang akan menentukan arah pertanggungjawaban.
Begitu pula jika AI digunakan untuk menghasilkan dan menyebarkan informasi palsu, fitnah, manipulasi suara maupun gambar, atau jika robot berbasis AI di lingkungan industri melakukan tindakan yang mencederai pekerja.
“Semakin otonom sebuah sistem, semakin penting pula audit trail dan mekanisme pengawasan manusianya. Negara harus dapat mengetahui bagaimana sebuah keputusan dihasilkan. Jangan sampai algoritma menjadi kotak hitam yang kemudian dipakai untuk menghilangkan tanggung jawab,” kata Dr. Suriyanto.
UU PDP Menjadi Penting Ketika AI Berhadapan dengan Data Pribadi
Persoalan lain yang tidak kalah serius adalah data.
AI membutuhkan data dalam jumlah besar. Ketika data pribadi diproses, disimpan, dianalisis, atau digunakan untuk melatih sistem, maka kewajiban hukum terkait pelindungan data pribadi menjadi sangat penting.
UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi mengatur antara lain hak subjek data, pemrosesan data pribadi, kewajiban pengendali dan prosesor data, larangan penggunaan data pribadi serta ketentuan sanksi.
“AI hidup dari data. Karena itu, ketika data pribadi masuk ke dalam sebuah sistem AI, pertanyaan mengenai siapa pengendali data, siapa prosesor, untuk tujuan apa data digunakan, bagaimana keamanannya dan apa yang terjadi jika terjadi kebocoran harus jelas,” ujar Dr. Suriyanto.
Artinya, penyedia platform maupun perusahaan yang menggunakan AI tidak dapat menganggap perlindungan data sebagai persoalan teknis semata.
Masalah Terbesarnya: AI Otonom
Yang paling mengkhawatirkan, menurut Dr. Suriyanto, adalah ketika AI benar-benar mampu melakukan serangkaian tindakan secara otonom. Inilah yang sering disebut sebagai persoalan AI autonomy.
Sistem menerima tujuan awal, kemudian menentukan sendiri langkah-langkah untuk mencapai tujuan tersebut.
“Di sinilah hukum diuji. Kalau manusia tidak memberikan instruksi spesifik untuk melakukan suatu tindakan, tetapi sistem mengambil keputusan sendiri, penyidik harus membuktikan dari mana kewenangan itu berasal dan siapa yang bertanggung jawab atas desain serta pengawasan sistem tersebut,” katanya.
Persoalan tersebut semakin kompleks karena hukum pidana pada prinsipnya berkaitan dengan pertanggungjawaban orang atau subjek hukum yang dapat dimintai pertanggungjawaban, termasuk persoalan kesalahan dan dalam konteks tertentu unsur kesengajaan.
Sementara AI tidak mempunyai niat jahat dalam pengertian hukum manusia. AI tidak memiliki motif, rasa bersalah, atau kesadaran moral. Karena itu, menurut Dr. Suriyanto, tidak tepat apabila negara kemudian “menghukum AI”.
“Tidak ada gunanya memasukkan robot ke penjara. Yang diperlukan adalah menemukan manusia atau badan hukum yang secara hukum dapat dimintai pertanggungjawaban,” tegasnya.
Indonesia Jangan Sampai Hanya Menjadi Pasar AI
Persoalan tersebut menjadi semakin relevan karena pemerintah Indonesia sendiri sedang membangun kerangka tata kelola AI nasional.
Kementerian Komunikasi dan Digital telah menyelesaikan pembahasan lintas kementerian terhadap RPerpres tentang Etika Kecerdasan Artifisial dan RPerpres Peta Jalan Kecerdasan Artifisial Nasional 2026–2029.
Pada Juli 2026, pemerintah juga menyatakan bahwa Perpres mengenai AI akan menjadi langkah awal sebelum Indonesia memiliki Undang-Undang AI yang lebih komprehensif.
Pemerintah sebelumnya juga menegaskan pentingnya prinsip kendali manusia dalam tata kelola AI serta perlunya transparansi, perlindungan data dan akuntabilitas.
Bagi Dr. Suriyanto, perkembangan tersebut harus diikuti dengan keberanian membangun aturan pertanggungjawaban yang konkret.
“Jangan hanya bicara etika. Etika penting, tetapi ketika terjadi kerugian, masyarakat membutuhkan kepastian: siapa yang bertanggung jawab, bagaimana korban memperoleh pemulihan, siapa yang wajib membayar ganti rugi, dan kapan seseorang dapat dimintai pertanggungjawaban pidana,” katanya.
Jangan Biarkan Algoritma Menjadi “Tempat Persembunyian”
Ia menilai hukum AI ke depan harus mampu menjawab sedikitnya lima persoalan.
Pertama, siapa yang bertanggung jawab atas desain dan pengembangan sistem.
Kedua, siapa yang bertanggung jawab atas pengawasan dan pengoperasian.
Ketiga, siapa yang wajib melakukan mitigasi terhadap risiko.
Keempat, bagaimana pembuktian dilakukan ketika keputusan AI tidak transparan.
Kelima, bagaimana korban memperoleh ganti rugi dan pemulihan ketika kerugian terjadi.
“Jangan sampai algoritma menjadi tempat persembunyian baru bagi manusia. Jangan sampai ketika teknologi berhasil menghasilkan keuntungan, semua orang mengaku bertanggung jawab, tetapi ketika teknologi menimbulkan kerugian, semua orang mengatakan ‘itu kesalahan AI’,” sindirnya.
Menurutnya, negara harus memastikan adanya mekanisme human oversight, pencatatan keputusan sistem, pengujian risiko, audit teknologi, serta mekanisme penghentian darurat untuk sistem AI yang berisiko tinggi.
Belajar dari Perkembangan Regulasi Global
Perkembangan global juga menunjukkan bahwa persoalan AI tidak lagi semata-mata dibicarakan dalam ruang akademik.
Uni Eropa telah memiliki EU AI Act, sebuah kerangka regulasi berbasis risiko yang mengatur kewajiban berbeda sesuai tingkat risiko sistem AI.
Namun, Dr. Suriyanto mengingatkan agar Indonesia tidak sekadar menyalin model negara lain.
“Indonesia harus membangun model yang sesuai dengan sistem hukum nasional. Yang terpenting bukan siapa yang paling cepat membuat aturan, tetapi apakah aturan tersebut mampu memberikan perlindungan nyata kepada masyarakat sekaligus memberikan kepastian hukum bagi pengembang dan industri,” ujarnya.
Jangan Sampai Teknologi Berlari, Hukum Berjalan
Pada akhirnya, menurut Dr. Suriyanto, pertanyaan mengenai siapa yang harus dihukum ketika AI melakukan kejahatan sebenarnya membawa kita pada persoalan yang jauh lebih besar: siapa yang bertanggung jawab ketika manusia menciptakan teknologi yang kemudian tidak mampu mereka kendalikan?
“AI tidak boleh diperlakukan sebagai kambing hitam. Tetapi manusia juga tidak boleh menggunakan AI sebagai alasan untuk melepaskan tanggung jawab,” tegasnya.
Ia memberikan analogi sederhana.
“Kalau tongkat digunakan untuk memukul seseorang, kita tidak menghukum tongkat. Kita mencari orang yang memegangnya. Tetapi kalau tongkat itu bergerak sendiri, maka kita harus mencari siapa yang membuatnya, siapa yang mengaktifkannya, siapa yang mengendalikannya, dan siapa yang lalai mengantisipasi bahayanya.”
Menurutnya, prinsip tersebut harus menjadi fondasi dalam membangun hukum AI di Indonesia.
Bukan soal apakah AI dapat menjadi penjahat. Pertanyaan yang jauh lebih penting adalah apakah manusia siap bertanggung jawab ketika mesin yang mereka ciptakan melakukan sesuatu di luar kendali mereka.
Indonesia kini sedang memasuki era kedaulatan digital. Pemerintah tengah menyiapkan tata kelola AI, sementara teknologi bergerak jauh lebih cepat daripada proses legislasi. Karena itu, hukum tidak boleh hanya hadir setelah korban berjatuhan.
Jangan sampai Indonesia memiliki pusat data, superkomputer, robot, dan AI yang semakin canggih, tetapi ketika teknologi itu menimbulkan persoalan, negara justru kebingungan mencari siapa yang harus bertanggung jawab.
Sebab pada akhirnya, AI mungkin dapat belajar dari manusia. Tetapi pertanggungjawaban hukum tetap harus kembali kepada manusia.(Tim/Red).
Editor: Tamrin
