Berdasarkan hukum Belanda dan Eropa, sebuah algoritma tidak dapat dimintai pertanggungjawaban pidana. Pertanggungjawaban pidana memerlukan pelaku yang diakui oleh hukum sebagai pribadi, dan pasal 51 Sr memperluas status tersebut hanya kepada orang perseorangan dan badan hukum. Sistem AI adalah objek, bukan tersangka. Oleh karena itu, pertanyaan yang penting dalam praktiknya bukanlah apakah algoritma tersebut sebagian bertanggung jawab, tetapi manusia atau perusahaan mana yang sepenuhnya bertanggung jawab atas apa yang telah dilakukannya.
Pertanyaan itu sudah memiliki jawaban yang mapan dalam hukum pidana Belanda. Doktrin perbuatan fungsional (functioneel daderschap) dan tanggung jawab pidana korporasi dibangun tepat untuk situasi ini: kerugian yang disebabkan melalui suatu instrumen, organisasi, atau proses, bukan oleh tangan terdakwa sendiri. Artikel ini menjelaskan bagaimana doktrin-doktrin tersebut berlaku untuk AI, bagaimana Undang-Undang AI Uni Eropa mengubah standar perawatan, bagaimana keluaran algoritma diperlakukan sebagai bukti, dan seperti apa seharusnya pembelaan dan program kepatuhan. Untuk pertanyaan yang lebih luas tentang alokasi tanggung jawab di seluruh rantai pasokan pengembang, penyedia, dan pengguna, lihat artikel pendamping kami tentang siapa yang bertanggung jawab ketika sebuah mesin melakukan kejahatan.
Mengapa sebuah algoritma tidak bisa menjadi tersangka?
Suatu tindak pidana menurut hukum Belanda memerlukan tindakan atau kelalaian manusia yang sesuai dengan definisi tindak pidana menurut undang-undang, yang melanggar hukum, dan yang dapat disalahkan kepada pelakunya. Masing-masing unsur tersebut mengasumsikan adanya pelaku dengan kehendak. Algoritma menghasilkan keluaran dengan mengeksekusi kode pada data; algoritma tidak memiliki kehendak untuk dibentuk, tidak ada yang dapat disalahkan, dan tidak ada yang dapat dikenakan sanksi pidana. Pasal 51 Sr memberi ruang bagi perusahaan di samping individu justru karena perusahaan bertindak melalui orang-orang; tidak ada ketentuan yang sebanding untuk perangkat lunak, dan menciptakan ketentuan tersebut akan mengharuskan badan legislatif untuk menciptakan kategori badan hukum baru.
Hal itu juga tidak akan memenuhi tujuan apa pun yang diakui oleh hukum pidana. Hukuman ada untuk menghukum, mencegah, dan, jika memungkinkan, untuk memperbaiki. Tidak satu pun dari fungsi tersebut dapat dilakukan pada sebuah model. Menghapus bobot jaringan saraf menghukum pemiliknya, bukan jaringannya. Semua yang ingin dicapai oleh hukum pidana ketika sistem AI menyebabkan kerugian harus dicapai melalui orang-orang dan organisasi di baliknya, itulah sebabnya praktik di Belanda tidak menganggap ini sebagai celah dalam hukum.
Tabel di bawah ini memaparkan ketidaksesuaian antara unsur-unsur tindak pidana dan apa sebenarnya sistem AI itu.
| Elemen | Apa yang dipersyaratkan oleh hukum pidana | Posisi sistem AI |
|---|---|---|
| Seorang pelaku | Orang perseorangan, atau badan hukum berdasarkan pasal 51 Sr. | Bukan keduanya. Sistem tersebut adalah objek yang dimiliki dan dioperasikan oleh pihak lain. |
| Suatu perilaku | Suatu tindakan atau kelalaian yang dapat disalahkan yang dapat dikaitkan dengan pelaku tersebut. | Suatu keluaran yang dihasilkan oleh kode. Perilaku yang dapat diatribusikan adalah keputusan untuk membangun, menyebarkan, atau membiarkannya berjalan. |
| Kesengajaan atau kelalaian | Opzet, termasuk niat bersyarat, atau culpa dalam arti kelalaian yang substansial. | Tidak ada unsur kondisi mental sama sekali. Niat dan kelalaian, jika ada, terletak pada manusia yang mengkonfigurasi dan mengawasinya. |
| Sanksi | Hukuman penjara, denda, hukuman kerja sosial, atau tindakan lainnya. | Tidak ada sanksi yang dapat dikenakan pada perangkat lunak. Sanksi dikenakan pada operator. |
Siapa yang bertanggung jawab: pelaku fungsional dan pasal 51 Sr.
Hukum pidana Belanda memiliki dua mekanisme untuk meminta pertanggungjawaban seseorang atas perbuatan yang tidak mereka lakukan secara fisik. Kedua mekanisme ini dikembangkan jauh sebelum pembelajaran mesin ada, dan keduanya sesuai untuk kasus-kasus AI tanpa modifikasi.
Perpetrasi fungsional
Functioneel daderschap memungkinkan seseorang dianggap sebagai pelaku suatu pelanggaran yang secara fisik dilakukan oleh orang atau sesuatu yang lain. Kriteria yang dirumuskan oleh Hoge Raad dalam putusan IJzerdraad tetap menjadi tolok ukur: terdakwa harus memiliki wewenang untuk menentukan apakah tindakan tersebut terjadi (beschikken), dan harus menerimanya, atau secara terbiasa menerima tindakan semacam itu (aanvaarden).
Diterapkan pada sistem AI, kriteria pertama biasanya mudah dan kriteria kedua menentukan kasusnya. Kekuasaan untuk mengendalikan ditunjukkan oleh kemampuan untuk mengkonfigurasi sistem, menetapkan batas operasinya, memperbarui atau melatih ulang, dan yang terpenting, mematikannya. Sangat sedikit operator yang dapat dengan kredibel mengatakan bahwa mereka tidak memiliki kekuasaan tersebut. Penerimaan adalah pertanyaan yang lebih sulit, dan di sinilah bukti-bukti ditempatkan: apa yang diketahui operator tentang mode kegagalan sistem, apa yang dilaporkan oleh pengujian atau oleh insiden sebelumnya, apa yang dikatakan penilaian risiko, dan apa yang dilakukan untuk mengatasinya. Penerimaan tidak memerlukan keinginan akan hasil tersebut. Cukup bahwa operator secara sadar menerima risiko yang cukup besar, yang merupakan standar umum Belanda untuk niat bersyarat (voorwaardelijk opzet).
Tanggung jawab perusahaan dan kepemimpinan aktual
Apabila operatornya adalah perusahaan, maka Pasal 51 Sr berlaku. Pelanggaran dapat dikaitkan dengan badan hukum apabila perbuatan tersebut terjadi dalam lingkupnya, yang telah dijelaskan oleh Hoge Raad melalui faktor-faktor yang diuraikan dalam putusan Drijfmest: perbuatan tersebut dilakukan oleh seseorang yang bekerja untuk perusahaan, sesuai dengan kegiatan usaha normal perusahaan, bermanfaat bagi perusahaan, dan perusahaan dapat menentukan apakah perbuatan tersebut terjadi dan menerima, atau secara kebiasaan menerima, perbuatan tersebut. Sistem AI yang digunakan oleh perusahaan untuk melakukan pekerjaannya memenuhi sebagian besar daftar tersebut berdasarkan definisi.
Pasal 51 Sr juga memungkinkan penuntutan terhadap mereka yang memerintahkan pelanggaran dan mereka yang memberikan kepemimpinan aktual terhadapnya (feitelijk leidinggeven). Ini adalah ketentuan yang menjangkau direktur dan manajer senior secara pribadi. Hal ini membutuhkan lebih dari sekadar posisi dalam bagan organisasi: orang tersebut harus menyadari perilaku terlarang tersebut, setidaknya dalam arti menerima kemungkinan besar bahwa hal itu terjadi, dan harus gagal mengambil tindakan yang menjadi kewenangan dan kewajiban wajar mereka. Dalam kasus AI, hal itu secara langsung diterjemahkan menjadi bukti tentang siapa yang menerima laporan validasi model, siapa yang menyetujui penerapannya, dan siapa yang memutuskan bahwa bias atau tingkat kesalahan yang diketahui dapat diterima.
Tindak pidana kelalaianlah yang paling berperan.
Dalam praktiknya, penuntutan yang melibatkan sistem otomatis jauh lebih mungkin didasarkan pada kelalaian daripada kesengajaan. Jika kendaraan, mesin, atau alat medis yang digerakkan oleh AI menyebabkan kematian, pelanggaran yang relevan adalah menyebabkan kematian karena kelalaian berdasarkan pasal 307 Sr; jika menyebabkan cedera serius, pasal 308 Sr. Culpa dalam hukum pidana Belanda berarti kelalaian substansial, yang dinilai berdasarkan apa yang seharusnya dilakukan oleh operator yang wajar dalam posisi tersebut. Itulah tepatnya dasar yang akan digunakan untuk memperjuangkan kasus AI, karena standar perawatan untuk menerapkan sistem otomatis semakin tertulis: dalam Undang-Undang AI, dalam peraturan sektor, dalam standar teknis, dan dalam prosedur operator sendiri. Penyimpangan yang terdokumentasi dari standar yang diadopsi oleh operator itu sendiri adalah bukti kelalaian terkuat yang ada.
Diskriminasi adalah kategori berulang kedua. Melakukan diskriminasi dalam menjalankan bisnis atau profesi merupakan tindak pidana berdasarkan Wetboek van Strafrecht, dan terdapat varian yang disengaja maupun lalai. Oleh karena itu, model yang secara sistematis merugikan kelompok yang dilindungi bukan hanya masalah administratif berdasarkan hukum perlindungan data dan perlakuan setara; dalam kasus yang serius, ini merupakan masalah pidana. Panduan kami tentang prosedur pidana di Belanda menjelaskan bagaimana kasus semacam itu akan berjalan dari penyelidikan hingga putusan.
Undang-Undang AI menetapkan standar perawatan, bukan sanksi.
Undang-Undang Kecerdasan Buatan Uni Eropa adalah peraturan administratif. Undang-undang ini tidak menciptakan tindak pidana dan tidak menjadikan siapa pun sebagai tersangka. Pentingnya undang-undang ini terhadap tanggung jawab pidana bersifat tidak langsung dan cukup besar: undang-undang ini menetapkan, secara mengikat, apa yang diharapkan dari penyedia atau pengembang sistem AI yang berhati-hati. Setelah standar perawatan dikodifikasi, penyimpangan dari standar tersebut merupakan bukti kelalaian, dan kepatuhan terhadap standar tersebut merupakan bukti kehati-hatian.
Undang-undang ini mengklasifikasikan sistem berdasarkan risiko. Sejumlah kecil praktik dilarang secara langsung, termasuk penilaian sosial oleh otoritas publik, pengambilan citra wajah tanpa target untuk membangun basis data pengenalan, pengenalan emosi di tempat kerja dan di bidang pendidikan, dan, dengan pengecualian terbatas, identifikasi biometrik jarak jauh secara real-time di ruang publik untuk penegakan hukum. Kelompok yang lebih besar diklasifikasikan sebagai risiko tinggi, yang mencakup komponen keselamatan produk yang diatur dan penggunaan yang tercantum dalam lampiran Undang-undang ini, di antaranya perekrutan, penilaian kredit, dan aplikasi dalam penegakan hukum, migrasi, dan administrasi peradilan. Sistem yang berinteraksi dengan orang atau menghasilkan konten sintetis memiliki kewajiban transparansi. Sisanya pada dasarnya tidak diatur.
Penyedia atau penyebar: peran menentukan tugas.
Undang-undang tersebut mendistribusikan kewajiban sesuai dengan peran, dan kesalahan dalam menentukan peran adalah salah satu kesalahan kepatuhan yang paling umum. Penyedia mengembangkan sistem atau meminta sistem tersebut dikembangkan dan memasarkannya dengan nama sendiri; pengimplementasikan menggunakan sistem di bawah wewenangnya sendiri dalam menjalankan aktivitasnya. Penyedia memikul kewajiban desain yang berat, sedangkan pengimplementasikan memikul kewajiban penggunaan yang benar, pengawasan manusia, dan pemantauan. Jebakannya adalah bahwa pengimplementasikan menjadi penyedia, dengan semua kewajiban yang menyertainya, jika ia mencantumkan namanya sendiri pada sistem, memodifikasinya secara substansial, atau mengubah tujuan yang dimaksudkan dengan cara yang membuatnya termasuk dalam kategori berisiko tinggi. Penyempurnaan model yang dibeli pada data sendiri, dan kemudian menggunakannya untuk tujuan yang tidak pernah dipertimbangkan oleh vendor, dapat secara diam-diam menggeser suatu organisasi melewati batas tersebut. Dalam investigasi kriminal, perbedaan yang sama muncul kembali sebagai pertanyaan tentang siapa yang memiliki wewenang untuk membuang sistem tersebut, itulah sebabnya peran-peran tersebut harus dicatat secara tertulis dan tercermin dalam kontrak.
Apa yang berlaku sekarang
Jadwalnya telah bergeser, dan penting untuk menjelaskan secara tepat posisinya. Larangan terhadap praktik berisiko yang tidak dapat diterima dan kewajiban untuk memastikan literasi AI sudah berlaku. Aturan untuk model AI tujuan umum sudah berlaku. Kewajiban transparansi Pasal 50, termasuk kewajiban untuk menjelaskan bahwa konten tersebut dihasilkan atau dimanipulasi secara artifisial, sudah berlaku. Yang ditunda oleh paket omnibus digital adalah rezim risiko tinggi: kewajiban untuk sistem yang tercantum dalam Lampiran III sekarang dimulai pada 2 Desember 2027, dan untuk sistem yang tercakup dalam Lampiran I pada 2 Agustus 2028. Secara terpisah, usulan Arahan Tanggung Jawab AI telah ditarik, sehingga tanggung jawab perdata atas kerugian AI tetap menjadi masalah hukum nasional, yang di Belanda berarti aturan umum tentang perbuatan melawan hukum dan tanggung jawab produk.
Sanksi berdasarkan Undang-Undang tersebut bersifat administratif dan ditetapkan hingga tiga puluh lima juta euro atau tujuh persen dari total omset tahunan di seluruh dunia, mana pun yang lebih tinggi, untuk melakukan praktik terlarang, dengan batasan yang lebih rendah untuk pelanggaran lainnya. Pengawasan di Belanda diorganisir di sekitar regulator yang ada, dengan Autoriteit Persoonsgegevens dan Rijksinspectie Digitale Infrastructuur berperan sebagai koordinator. Artikel kami tentang praktik AI terlarang dan tentang sistem AI berisiko tinggi berdasarkan Undang-Undang AI menjelaskan kewajiban secara rinci, dan tinjauan kami tentang Undang-Undang AI Uni Eropa mencakup kerangka kerja secara keseluruhan.
Bagaimana seorang jaksa akan menggunakannya
Pertimbangkan pihak yang menerapkan alat penyaringan tanpa memeriksa data pelatihan untuk mengetahui adanya bias, tanpa pengaturan pengawasan manusia yang dipersyaratkan oleh Undang-Undang, dan tanpa dokumentasi yang dipersyaratkan. Jika alat tersebut kemudian berkontribusi pada hasil kriminal, jaksa penuntut tidak perlu berargumen dari prinsip dasar tentang kewajiban perawatan yang harus diberikan. Kewajiban tersebut sudah tercantum, pelanggaran telah didokumentasikan, dan unsur penerimaan atas tindakan kriminal fungsional mengikuti dari keputusan untuk tetap menerapkannya. Sebaliknya juga berlaku, dan inilah poin yang paling sering dilewatkan oleh dewan direksi: perusahaan yang dapat menghasilkan penilaian risiko, hasil validasi, protokol pengawasan, dan catatan insidennya telah membangun inti pertahanannya sendiri sebelum terjadi kesalahan.
Keluaran algoritma sebagai bukti
Cara kedua AI memasuki ruang sidang pidana bukanlah sebagai penyebab kerugian, melainkan sebagai sumber bukti. Pencocokan pengenalan wajah, pengenalan plat nomor otomatis, analisis jaringan data komunikasi, model risiko penipuan, perbandingan suara, dan semakin banyaknya otomatisasi dalam penyaringan data yang disita, semuanya menghasilkan materi yang ingin diandalkan oleh pihak penuntut. Prosedur pidana Belanda bekerja dengan sistem kategori bukti yang tertutup, dan keluaran algoritma tidak membentuk kategori tersendiri. Hasil algoritma tersebut sampai ke pengadilan sebagai bagian dari laporan resmi atau melalui pendapat seorang ahli, dan tunduk pada pengawasan yang sama seperti bukti lainnya.
Pemeriksaan teliti itulah yang menjadi fokus kerja pembelaan. Tiga pertanyaan menentukan bobot yang dapat ditanggung oleh materi tersebut. Apakah metode tersebut telah divalidasi, dan oleh siapa? Dalam kondisi apa metode tersebut gagal, dan apakah kondisi tersebut ada? Dan dapatkah pihak pembela mengujinya, yang berarti akses ke informasi yang cukup tentang sistem, data pelatihannya, tingkat kesalahannya, dan konfigurasinya untuk mengajukan tantangan yang berarti. Kecocokan yang disajikan sebagai fakta, tanpa tingkat kesalahan dan tanpa kemungkinan verifikasi, bukanlah bukti yang seharusnya digunakan pengadilan untuk menjatuhkan hukuman, dan menyatakan hal itu adalah pembelaan yang sah dan seringkali efektif.
Bukti ahli memiliki kerangka kerjanya sendiri. Pengadilan dapat menunjuk seorang ahli, pihak pembela dapat meminta seorang ahli, dan daftar ahli pengadilan ada untuk memberikan ambang batas kualitas untuk bidang yang dicakupnya. Jika metode AI berada di luar bidang yang diakui, itu sendiri merupakan argumen tentang keandalan hasilnya. Perlu juga dicatat bahwa Wetboek van Strafvordering yang baru, yang diadopsi oleh Eerste Kamer pada 24 Februari 2026 dan diterbitkan di Staatsblad pada Maret 2026, akan berlaku buku demi buku berdasarkan dekrit kerajaan; sampai saat itu, ketentuan saat ini dan nomor pasalnya tetap berlaku.
Sudut pandang perlindungan data
Apabila suatu keputusan yang memengaruhi seseorang diambil hanya melalui cara otomatis, GDPR memberikan hak kepada orang tersebut untuk tidak tunduk pada keputusan tersebut, bersamaan dengan hak untuk mendapatkan informasi yang bermakna tentang logika yang terlibat. Dalam penegakan hukum pidana, aturan paralel dari hukum yang menerapkan arahan data kepolisian berlaku. Hal ini penting dalam dua hal. Bagi tersangka, ini adalah jalan menuju informasi tentang sistem yang mungkin lebih disukai pihak berwenang untuk tidak dijelaskan. Bagi perusahaan, menerapkan pengambilan keputusan otomatis tanpa dasar hukum dan tanpa perlindungan merupakan pelanggaran peraturan yang akan dibaca bersamaan dengan tuduhan pidana apa pun.
Membela kasus yang melibatkan AI.
Pembelaan naluriah, bahwa sistem tersebut adalah kotak hitam dan tidak ada yang bisa mengetahui apa yang akan dilakukannya, lebih lemah daripada yang terlihat. Pembelaan ini menjawab pertanyaan yang salah. Hukum pidana Belanda tidak menanyakan apakah terdakwa telah memperkirakan hasil pastinya; hukum pidana menanyakan apakah terdakwa memiliki wewenang untuk menentukan apakah tindakan tersebut terjadi dan menerima risiko bahwa hal itu akan terjadi. Ketidakjelasan dapat merugikan terdakwa: menerapkan sistem yang perilakunya tidak dapat dijelaskan, dalam lingkungan di mana sistem tersebut dapat menyebabkan kerugian serius, itu sendiri merupakan keputusan yang dapat dianggap oleh pengadilan sebagai penerimaan risiko.
Pembelaan yang efektif lebih sempit dan berdasarkan bukti. Pertama, tidak adanya kendali yang sebenarnya: sistem tersebut dibeli sebagai produk jadi, dikonfigurasi dan dipelihara oleh penyedia, dan terdakwa tidak memiliki informasi maupun kemampuan teknis untuk campur tangan. Argumen ini mengalihkan perhatian ke penyedia, dan keberhasilannya bergantung pada kontrak dan apa yang sebenarnya dilaporkan kepada pihak yang menerapkan. Kedua, operator melakukan apa yang dilakukan oleh operator yang berhati-hati: mendokumentasikan penilaian risiko, validasi sebelum penerapan, mendefinisikan pengawasan manusia dengan orang yang memiliki wewenang dan kompetensi untuk mengambil keputusan, memantau setelah penerapan, dan mengambil tindakan segera terhadap insiden. Ketiga, kausalitas, yang seringkali kurang dimanfaatkan. Dalam rantai yang berjalan dari data pelatihan melalui model hingga keputusan manusia hingga hasil akhir, penuntut harus menunjukkan bahwa perilaku terdakwa ini menyebabkan hasil tersebut, dan rantai yang kompleks akan terputus.
Berikut dua poin praktis. Simpan semua informasi sejak dini: log, versi model, konfigurasi, laporan insiden, dan korespondensi seputar keputusan penerapan merupakan bukti bagi kedua belah pihak, dan informasi tersebut secara rutin ditimpa. Dan ingatlah bahwa perlindungan hukum pidana yang biasa berlaku sepenuhnya untuk kasus-kasus yang kompleks secara teknis, termasuk hak tersangka untuk tidak mengatakan apa pun; artikel kami tentang hak untuk tetap diam dalam perkara pidana menjelaskan bagaimana hal itu berlaku dalam investigasi di Belanda. Jika tuduhannya adalah penipuan yang dilakukan dengan alat otomatis, panduan kami tentang penipuan dan kejahatan keuangan di Belanda mencakup pelanggaran yang terkait.
Apa yang sebenarnya ditunjukkan oleh skandal tunjangan penitipan anak?
Kasus Toeslagenaffaire, atau kasus tunjangan perawatan anak di Belanda, adalah kasus yang selalu kembali dibahas dalam setiap diskusi tentang akuntabilitas algoritma di Belanda, dan biasanya dikutip karena alasan yang salah. Pelajarannya bukanlah bahwa sebuah algoritma melakukan sesuatu yang kriminal. Melainkan bahwa sistem seleksi risiko otomatis, dikombinasikan dengan keengganan institusional untuk mempertanyakan hasilnya, telah menyebabkan kerugian serius selama bertahun-tahun bagi puluhan ribu keluarga tanpa ada yang dimintai pertanggungjawaban secara pidana.
Administrasi Pajak menggunakan klasifikasi risiko untuk memilih klaim tunjangan yang akan diselidiki. Indikator yang seharusnya tidak pernah digunakan, termasuk kewarganegaraan, masuk ke dalam proses seleksi, dan penyimpangan administratif kecil dapat memicu temuan penipuan yang disengaja dengan kewajiban untuk mengembalikan seluruh tunjangan. Keluarga tidak dapat memahami mengapa mereka dipilih, para pejabat memperlakukan klasifikasi tersebut sebagai kesimpulan dan bukan sebagai sinyal, dan beban untuk membuktikan bahwa tuduhan yang tidak dapat dijelaskan jatuh pada pihak yang dituduh. Otoritas perlindungan data Belanda menyatakan pemrosesan data kewarganegaraan tersebut melanggar hukum dan menjatuhkan denda, dan pemerintah mengundurkan diri pada Januari 2021.
Apa yang tidak terjadi sangatlah penting. Tidak ada individu yang dituntut secara pidana. Tanggung jawab tersebar di seluruh organisasi, kebijakan, perangkat lunak, dan kerangka hukum yang memperlakukan pemulihan manfaat sebagai masalah administratif. Penyebaran tanggung jawab inilah yang justru menjadi risiko yang ingin diatasi oleh tindakan fungsional dan Pasal 51 Sr, dan hal ini menjelaskan mengapa Undang-Undang AI menekankan pengawasan manusia yang dapat diidentifikasi dan dokumentasi. Akuntabilitas membutuhkan seseorang yang dapat menghentikannya dan catatan tentang apa yang mereka ketahui.
Tiga kegagalan patut disebutkan karena secara langsung berdampak pada risiko hukum bagi organisasi mana pun. Keputusan tidak dapat dijelaskan, sehingga tidak dapat digugat. Pengawasan manusia ada di atas kertas tetapi tidak dalam praktiknya, karena orang-orang yang terlibat tidak memiliki wewenang maupun informasi untuk mengesampingkan sistem. Dan efek dari sebuah flag adalah membalikkan beban pembuktian secara faktual jika bukan secara hukum. Setiap penerapan AI yang mereproduksi ketiga fitur ini merupakan masalah hukum yang menunggu untuk berkembang, apa pun teknologi di baliknya. Tanggapan pemerintah, termasuk panduan tentang non-diskriminasi berdasarkan desain dan tentang register algoritma untuk badan publik, ditujukan langsung pada ketiga poin tersebut.
Program kepatuhan yang juga berfungsi sebagai pertahanan.
Segala hal yang dilakukan perusahaan untuk mematuhi Undang-Undang AI juga menghasilkan bukti yang dibutuhkan jika terjadi kesalahan. Tujuan ganda inilah yang menjadi argumen untuk melakukannya dengan benar, bukan hanya seminimal mungkin, dan hal ini membuat langkah-langkah berikut layak dilakukan.
Mulailah dengan inventarisasi. Anda tidak dapat mengklasifikasikan apa yang belum Anda daftarkan, dan sebagian besar organisasi menemukan bahwa AI masuk melalui pengadaan daripada melalui proyek: fitur penyaringan dalam platform perekrutan, modul penilaian dalam aplikasi kredit, fungsi pemantauan dalam perangkat lunak keamanan. Klasifikasikan setiap sistem berdasarkan Undang-Undang, catat alasannya, dan tinjau kembali ketika suatu sistem diubah secara material, karena perubahan tujuan dapat memindahkan sistem ke kategori yang berbeda.
Kemudian, tetapkan tanggung jawab kepada orang-orang yang disebutkan namanya, bukan kepada departemen. Pelaku fungsional dan kepemimpinan aktual sama-sama bergantung pada siapa yang dapat menentukan apakah perilaku tersebut terjadi. Sebuah organisasi di mana tidak ada seorang pun yang dapat diidentifikasi sebagai bertanggung jawab tidak terlepas dari tanggung jawab; organisasi tersebut hanya mengekspos siapa pun yang duduk di puncak struktur organisasi. Sebutkan siapa yang memiliki setiap sistem, siapa yang dapat mengotorisasi penerapan, siapa yang melakukan pengawasan, dan siapa yang dapat mematikannya, dan pastikan orang yang disebutkan namanya memiliki wewenang dan kompetensi teknis untuk melakukannya.
Wujudkan pengawasan manusia. Persyaratannya bukanlah seseorang yang terlibat langsung, tetapi seseorang yang dapat memahami hasilnya, memiliki wewenang untuk menolaknya, dan tidak diukur berdasarkan produktivitas sehingga penolakan menjadi tidak praktis. Catatlah pengesampingan (override), karena catatan yang menunjukkan bahwa fungsi pengawasan benar-benar digunakan lebih berharga daripada dokumen kebijakan apa pun.
Dokumentasikan posisi teknis: dari mana data pelatihan berasal dan bagaimana data tersebut diperiksa, pengujian apa yang dilakukan dan apa yang ditunjukkannya, berapa tingkat kesalahan dan kondisi kegagalan yang diketahui, dan apa yang diputuskan mengenainya. Jika diperlukan penilaian dampak terhadap perlindungan data atau hak-hak fundamental, lakukan sebelum penerapan dan perbarui secara berkala. Pantau setelah penerapan, catat insiden, dan tindak lanjuti dengan cara yang terlihat dalam catatan.
Terakhir, pastikan kontraknya benar. Jika suatu sistem dibeli dan bukan dibangun sendiri, pembagian tanggung jawab antara penyedia dan pengembang menentukan siapa yang menanggung risiko. Mintalah dokumentasi teknis yang dipersyaratkan oleh Undang-Undang, petunjuk penggunaan, informasi tentang keterbatasan yang diketahui, dan hak untuk diberitahu tentang insiden dan modifikasi substansial. Tim hukum TI kami menangani pengaturan tersebut.
Ketika AI menjadi alat bagi pelaku kejahatan, bukan penyebab kegagalan bisnis.
Sejauh ini artikel ini telah membahas kerugian yang disebabkan oleh sistem AI yang digunakan perusahaan untuk tujuan yang sah. Sisi lain dari gambaran tersebut adalah AI yang digunakan secara sengaja untuk melakukan pelanggaran, dan di sini jawabannya lebih sederhana: pelanggaran tetaplah pelanggaran, dan teknologi hanyalah detail yang memberatkan, bukan masalah hukum. Hukum pidana Belanda dirancang berdasarkan hasil dan perilaku, bukan berdasarkan instrumen, itulah sebabnya hanya sedikit ketentuan baru yang dibutuhkan.
Penipuan yang dilakukan dengan suara hasil kloning atau video sintetis seorang sutradara yang menginstruksikan pembayaran merupakan penipuan berdasarkan pasal 326 Sr, sama seperti surat palsu. Dokumen yang dibuat oleh seorang model untuk mendukung klaim palsu merupakan pemalsuan berdasarkan pasal 225 Sr. Menggunakan data pribadi seseorang untuk menyamar sebagai mereka merupakan pelanggaran tersendiri berdasarkan pasal 231b Sr. Mendistribusikan gambar-gambar eksplisit seksual seseorang tanpa persetujuan mereka dapat dihukum, dan Wet seksuele misdrijven, yang berlaku sejak 1 Juli 2024, memodernisasi bagian tersebut dalam KUHP; gambar sintetis tidak termasuk di luar cakupannya karena gambar tersebut dibuat dan bukan direkam. Pelecehan terus-menerus melalui akun otomatis dapat dianggap sebagai pemerasan berdasarkan pasal 285b Sr, yang hanya dapat dituntut berdasarkan pengaduan dari korban.
Yang diubah oleh AI adalah skala, kredibilitas, dan kesulitan pembuktian. Suara sintetis yang meyakinkan menghilangkan hambatan yang sebelumnya melindungi dari penipuan pembayaran, dan bukti bahwa rekaman itu otentik tidak lagi dapat diasumsikan. Dua konsekuensi praktis pun muncul. Bagi korban dan perusahaan, prosedur verifikasi yang tidak bergantung pada pengenalan suara atau wajah kini menjadi kontrol dasar, bukan lagi penyempurnaan. Bagi proses pidana, keaslian materi audio dan video telah menjadi pertanyaan yang harus dibuktikan, bukan diasumsikan, dan pihak pembela berhak untuk mengujinya.
Regulasi mulai membantu. Kewajiban transparansi pasal 50 UU AI, yang sudah berlaku, mengharuskan penyedia untuk menandai konten sintetis dengan cara yang dapat dibaca mesin dan mengharuskan pengunggah untuk mengungkapkan bahwa gambar, audio, atau video telah dihasilkan atau dimanipulasi secara artifisial jika menggambarkan orang atau peristiwa nyata. Kepatuhan tidak menghentikan pelaku yang gigih, tetapi memperkuat posisi semua orang: hal itu menjadikan konten sintetis yang tidak diungkapkan sebagai pelanggaran peraturan tersendiri, dan memberikan sinyal kepada penyelidik dan pengadilan untuk dicari. Artikel kami tentang pembuktian penipuan digital di Belanda membahas sisi pembuktian dari kasus-kasus ini.
Pertanyaan yang sering diajukan tentang AI dan tanggung jawab pidana
Bisakah sebuah perusahaan dimintai pertanggungjawaban pidana jika AI-nya melakukan diskriminasi?
Ya, tentu saja bisa. Meskipun Anda tidak akan melihat sistem AI itu sendiri di kursi terdakwa, perusahaan yang menggunakannya tentu dapat menghadapi tuntutan pidana atas hasil yang diskriminatif berdasarkan prinsip tanggung jawab pidana perusahaan Belanda. Jika pimpinan perusahaan mengetahui potensi bias AI dan tidak melakukan apa pun, atau jika mereka sangat lalai dalam pengawasan mereka, tuntutan pidana adalah kemungkinan yang sangat nyata. Undang-Undang AI Uni Eropa juga menetapkan aturan anti-bias yang ketat untuk sistem berisiko tinggi. Kegagalan untuk memenuhi standar tersebut akan menjadi bukti kuat kelalaian dalam kasus pidana apa pun. Sorotan hukum akan selalu paling terang tertuju pada keputusan manusia yang dibuat seputar pembuatan, pelatihan, dan penerapan AI.
Apa yang dimaksud dengan masalah kotak hitam dalam AI?
Masalah "kotak hitam" adalah istilah untuk model AI kompleks di mana bahkan orang yang membangunnya pun tidak dapat sepenuhnya melacak bagaimana suatu keluaran tertentu dicapai. Ini adalah masalah besar ketika AI dan hukum pidana bertabrakan. Di pengadilan, ini sebenarnya dapat menjadi landasan pembelaan. Seorang pengacara dapat berargumen bahwa hasil yang merugikan sama sekali tidak dapat diprediksi, yang berarti terdakwa tidak memiliki niat kriminal (opzet) yang diperlukan. Argumennya sederhana: bagaimana mungkin mereka bermaksud menghasilkan hasil yang tidak mungkin mereka prediksi? Tetapi jaksa penuntut memiliki argumen balasan yang kuat. Mereka dapat berargumen bahwa mengerahkan sistem yang kuat dan tidak dapat diprediksi tanpa pengamanan yang memadai, dengan sendirinya, merupakan tindakan ceroboh atau kelalaian berat. Dan itu bisa cukup untuk memenuhi unsur mental yang dibutuhkan untuk pertanggungjawaban pidana. Ini menyiapkan panggung untuk pertarungan hukum yang berisiko tinggi mengenai kemampuan untuk memprediksi dan kewajiban untuk berhati-hati.
Apa cara terbaik bagi pengembang untuk membatasi risiko hukum?
Hal paling efektif yang dapat dilakukan pengembang untuk melindungi diri dari risiko hukum adalah dengan menyimpan dokumentasi yang teliti dan transparan di setiap tahap kehidupan AI. Anggap saja ini sebagai pembuatan "jejak audit" terperinci yang dapat menjadi bukti terpenting Anda. Dokumentasi ini benar-benar perlu mencakup semuanya dari awal hingga akhir: Sumber Data: Dari mana data pelatihan berasal, dan bagaimana data tersebut diperiksa kualitas dan biasnya?; Mitigasi Bias: Langkah spesifik apa yang diambil untuk menemukan dan menghilangkan bias dari kumpulan data?; Rasional Desain: Apa logika di balik pilihan arsitektur dan algoritma utama?; Hasil Pengujian: Catatan lengkap setiap pengujian, termasuk kegagalan dan bagaimana Anda memperbaikinya. Membangun kerangka kerja yang jelas untuk pengawasan manusia sama pentingnya. Jika terjadi investigasi, dokumen ini berfungsi sebagai bukti yang tak terbantahkan tentang ketelitian. Ini membantu menunjukkan bahwa setiap kerugian yang disebabkan adalah kecelakaan yang benar-benar tidak dapat diperkirakan, bukan akibat kelalaian—dan itu membentuk dasar dari pembelaan hukum yang kuat.
Bisakah sebuah algoritma dinyatakan bertanggung jawab secara pidana atas suatu kejahatan berdasarkan hukum Belanda dan Uni Eropa saat ini?
Tidak. Berdasarkan hukum yang berlaku saat ini, sebuah algoritma tidak dapat dimintai pertanggungjawaban pidana. Konsep hukum inti seperti niat kriminal (opzet) dan kepribadian hukum hanya berlaku untuk manusia dan, dalam situasi tertentu, korporasi.
Mengapa sistem AI tidak bisa diadili seperti manusia?
Algoritma tidak memiliki ciri-ciri mendasar yang diperlukan untuk diadili: ia tidak memiliki kesadaran, tidak memiliki aset pribadi untuk disita, dan tidak memiliki kebebasan yang dapat diambil, tidak seperti orang perseorangan atau korporasi yang diakui sebagai badan hukum.
Apakah ini berarti AI tidak relevan dengan kasus kriminal?
Tidak, justru sebaliknya. Meskipun algoritma itu sendiri tidak mungkin bersalah, tindakannya menjadi sangat penting dalam membuktikan kesalahan atau tidak bersalahnya orang-orang yang menciptakan, menerapkan, dan mengawasinya.
Konsep hukum mana yang paling sulit diterapkan pada sistem AI?
Niat kriminal (opzet) sangat sulit dibuktikan, karena jaksa penuntut biasanya harus membuktikan adanya niat jahat seperti niat, kelalaian, atau pengetahuan tentang perbuatan salah, sedangkan algoritma hanya beroperasi berdasarkan pemrograman dan masukan datanya dan tidak memiliki kesadaran, keyakinan, atau keinginan.
Seterpercayaapakah Olymp Trade? Kesimpulan Law and More dapat membantu
Law and More Kami memberikan nasihat kepada perusahaan, direktur, dan individu mengenai tanggung jawab pidana yang timbul dari sistem otomatis. Kami menilai risiko berdasarkan Pasal 51 Sr dan doktrin perbuatan fungsional, membangun dan meninjau tata kelola AI yang akan menjadi bukti kehati-hatian, menantang bukti algoritmik dalam proses pidana, dan membela perusahaan dan para pejabatnya dalam investigasi oleh Kejaksaan dan regulator. Jika organisasi Anda menerapkan AI dalam lingkungan di mana kesalahan memiliki konsekuensi, hubungi kantor kami sebelum insiden memaksa Anda untuk mempertanyakannya.
