Chatbot, hak cipta, dan kepatuhan berdasarkan hukum Belanda dan Uni Eropa.

Chatbot yang diterapkan di Belanda berada di persimpangan tiga badan hukum: hak cipta (Undang-Undang Hak Cipta dan arahan hak cipta Uni Eropa), perlindungan data (GDPR), dan Undang-Undang Kecerdasan Buatan Uni Eropa, Peraturan (UE) 2024/1689. Masing-masing rezim tersebut membebankan kewajiban kepada organisasi yang menempatkan chatbot di hadapan pengguna, bukan hanya kepada pengembang yang membangunnya. Oleh karena itu, chatbot, hak cipta, dan kepatuhan adalah satu subjek, bukan tiga, dan pekerjaan dimulai dengan klasifikasi tertulis tentang apa yang dilakukan chatbot Anda, data siapa yang digunakan untuk melatihnya, dan apa yang diizinkan untuk diputuskan sendiri oleh chatbot tersebut.

Tiga rezim hukum yang berlaku untuk setiap chatbot

Tidak ada satu pun undang-undang AI di Belanda. Yang ada hanyalah sekumpulan peraturan yang sebagian besar ditulis sebelum AI generatif menjadi komoditas, ditambah satu peraturan yang ditulis khusus untuknya. Bagi sebuah bisnis di Belanda, konsekuensi praktisnya adalah Anda tidak dapat menjawab pertanyaan apakah chatbot Anda legal hanya dengan melihat satu teks. Anda harus menjalankan sistem yang sama melalui tiga tes terpisah, dan lulus pada satu tes tidak berarti apa-apa untuk tes lainnya.

Hak cipta mengatur materi yang dimasukkan ke dalam model dan materi yang dihasilkan darinya. Undang-Undang Hak Cipta Belanda (Auteurswet), sebagaimana telah diubah untuk mengimplementasikan Arahan DSM, memuat pengecualian khusus untuk penambangan teks dan data, dan pengecualian itulah yang menjadi inti dari sebagian besar argumen data pelatihan. Perlindungan data mengatur semua yang dipelajari chatbot tentang orang yang mengetik di dalamnya, dan di sini GDPR berlaku sepenuhnya saat percakapan dapat dilacak kembali ke individu yang dapat diidentifikasi. Undang-Undang AI mengatur sistem itu sendiri: untuk apa sistem itu dapat digunakan, apa yang harus diungkapkan, dokumentasi apa yang harus ada, dan siapa yang harus dapat mematikannya.

Ketiga rezim ini memiliki pengawas yang berbeda, sanksi yang berbeda, dan jangka waktu yang berbeda. Hal itu lebih penting daripada yang terlihat. Chatbot yang sempurna dalam hal privasi masih bisa melanggar hukum karena dilatih menggunakan materi yang diambil dari sumber lain dan tunduk pada opsi penolakan yang sah, dan chatbot dengan riwayat data yang bersih masih dapat melanggar Undang-Undang AI jika tidak pernah memberi tahu pengguna bahwa itu adalah mesin.

Apa yang sebenarnya diminta oleh setiap rezim dari Anda?

Jika disederhanakan, ketiganya mengajukan pertanyaan yang berbeda. Hak cipta menanyakan apakah Anda memiliki izin, atau pengecualian berdasarkan undang-undang, untuk setiap tindakan reproduksi. Perlindungan data menanyakan apakah Anda memiliki dasar hukum berdasarkan Pasal 6 GDPR, apakah Anda memberi tahu subjek data tentang apa yang Anda lakukan, dan apakah Anda tidak mengumpulkan lebih dari yang Anda butuhkan. Undang-Undang AI menanyakan di mana posisi sistem pada skala risikonya dan apakah kewajiban yang terkait dengan tingkatan tersebut telah dipenuhi dan didokumentasikan.

Menjawab ketiga pertanyaan tersebut secara tertulis, sebelum implementasi, adalah hal yang mengubah proyek AI dari risiko yang tidak terbatas menjadi risiko yang dapat dikelola. Dalam praktiknya, ini juga merupakan dokumen pertama yang akan diminta oleh regulator.

Tantangan hukum utama bagi chatbot AI di Belanda

Baris keempat perlu mendapat peringatan, karena ini adalah baris yang paling sering disalahartikan. Komisi Eropa telah menarik usulan Arahan Tanggung Jawab AI, sehingga tidak ada rezim tanggung jawab Eropa yang harmonis untuk kerusakan akibat AI yang akan segera diterapkan. Klaim tentang jawaban chatbot yang salah akan diputuskan berdasarkan hukum perdata Belanda biasa: kontrak dengan pelanggan Anda, kewajiban umum untuk berhati-hati dalam pasal 6:162 BW, dan aturan tanggung jawab produk yang telah direvisi. Kami menjelaskan bagaimana hal itu bekerja dalam praktiknya dalam artikel kami tentang tanggung jawab atas kesalahan dalam konten yang dihasilkan AI.

Hak cipta dan data yang digunakan untuk melatih model Anda.

Melatih model bahasa yang besar melibatkan penyalinan karya yang dilindungi dalam skala industri. Berdasarkan hukum Belanda, penyalinan tersebut merupakan reproduksi dalam arti Auteurswet, dan merupakan tindakan ilegal kecuali pemegang hak cipta memberikan izin atau berlaku pengecualian berdasarkan undang-undang. Tidak ada padanan hukum Belanda atau Eropa untuk doktrin penggunaan wajar Amerika, dan argumen yang dipinjam dari litigasi Amerika Serikat tidak dapat diterapkan di pengadilan Belanda.

Pengecualian yang penting adalah penambangan teks dan data. Pasal 15n dari Auteurswet mengizinkan organisasi penelitian dan lembaga warisan budaya untuk menambang karya yang mereka akses secara sah, untuk tujuan penelitian ilmiah. Pasal 15o lebih luas cakupannya: pasal ini mengizinkan siapa pun untuk melakukan penambangan teks dan data pada karya yang dapat diakses secara sah, tetapi hanya jika pemegang hak cipta belum secara tegas mencadangkan penggunaan tersebut. Pencadangan tersebut, yang biasa disebut TDM opt-out, harus dilakukan dengan cara yang tepat, dan untuk materi yang dipublikasikan secara daring, materi tersebut harus dapat dibaca oleh mesin.

Dampak praktisnya adalah uji dua langkah. Apakah pelatih memiliki akses yang sah ke materi tersebut, dan apakah pemegang hak cipta telah mencadangkan penggunaannya? Jika jawaban untuk pertanyaan kedua adalah ya dan materi tersebut tetap digunakan, maka pengecualian tersebut gugur dan reproduksi tersebut merupakan pelanggaran.

Di mana pihak yang melakukan penyebaran menanggung risikonya.

Perusahaan sering berasumsi bahwa masalah data pelatihan adalah masalah pengembang. Itu hanya setengah benar. Organisasi yang menerapkan chatbot dan mempublikasikan apa yang dihasilkannya melakukan tindakan reproduksi dan komunikasinya sendiri kepada publik, dan melakukannya atas nama mereka sendiri. Tiga titik kegagalan berulang.

• Pelatihan tanpa dasar yang valid. Model tersebut dibangun berdasarkan materi yang dilindungi oleh reservasi TDM, atau berdasarkan materi yang sejak awal tidak pernah dapat diakses secara sah oleh pengembang. Risiko berada pada pengembang, tetapi klaim dapat mengikuti hasil produksi ke hilir.
• Output yang mereproduksi karya yang dilindungi. Jika chatbot mengembalikan teks, kode, atau gambar yang jelas-jelas merupakan salinan dari karya yang dilindungi, maka penerbitannya merupakan pelanggaran baru oleh siapa pun yang menerbitkannya. Gaya tidak dilindungi; bagian substansial dari karya konkretlah yang dilindungi.
• Kontrak yang tidak mengalihkan risiko kembali. Banyak lisensi AI membatasi tanggung jawab pada biaya tahunan dan mengecualikan klaim kekayaan intelektual pihak ketiga sepenuhnya. Bacalah klausul ganti rugi sebelum Anda membaca materi pemasaran.

Kepemilikan atas apa yang dihasilkan chatbot adalah pertanyaan terpisah. Hak cipta Belanda melindungi karya-karya dengan karakter orisinal dan khas yang memiliki ciri pribadi pembuatnya, dan itu membutuhkan pilihan kreatif manusia. Output yang sepenuhnya dihasilkan mesin, yang diproduksi dari sebuah perintah tanpa campur tangan manusia lebih lanjut, kemungkinan besar tidak akan dilindungi hak cipta sama sekali, yang berarti Anda maupun orang lain tidak dapat mencegah pesaing untuk menggunakannya kembali. Panduan kami tentang kapan konten dianggap publik berdasarkan hukum hak cipta membahas prinsip-prinsip yang mendasarinya.

Mitigasi yang realistis bersifat kontraktual dan berdasarkan bukti, bukan teknis. Tanyakan kepada vendor secara tertulis, dataset mana yang digunakan, apakah reservasi TDM dipenuhi, dan ganti rugi apa yang ditawarkan untuk klaim pihak ketiga. Simpan jawabannya. Vendor yang tidak mau mencantumkan sumber datanya dalam kontrak menunjukkan sesuatu tentang kepercayaan diri mereka sendiri.

Bagaimana Undang-Undang AI mengklasifikasikan chatbot?

Regulasi tersebut mengelompokkan sistem ke dalam empat tingkatan. Praktik-praktik dalam tingkatan yang tidak dapat diterima dilarang secara langsung: pasal 5 melarang, antara lain, teknik manipulatif yang secara material mendistorsi perilaku dan menyebabkan kerugian yang signifikan, eksploitasi kerentanan yang terkait dengan usia atau disabilitas, penilaian sosial, dan pengenalan emosi di tempat kerja dan di bidang pendidikan. Larangan ini telah berlaku sejak 2 Februari 2025 dan kami membahasnya secara terpisah dalam artikel kami tentang praktik AI yang dilarang.

Tingkat risiko tinggi adalah tingkat yang diatur secara ketat namun tetap diizinkan. Chatbot masuk ke tingkat ini ketika digunakan di salah satu bidang yang tercantum dalam Lampiran III, yang meliputi perekrutan dan seleksi, keputusan tentang akses ke layanan swasta dan publik penting seperti kredit atau tunjangan, pendidikan, dan penegakan hukum, atau ketika berfungsi sebagai komponen keamanan dari produk yang tercakup dalam undang-undang harmonisasi di Lampiran I. Kewajiban yang menyertainya diuraikan dalam panduan kami tentang sistem AI berisiko tinggi berdasarkan Undang-Undang AI.

Tingkat risiko terbatas adalah tempat sebagian besar chatbot yang berinteraksi langsung dengan pelanggan berada. Tidak ada penilaian kesesuaian, tidak ada registrasi, dan tidak ada badan yang berwenang, tetapi ada kewajiban transparansi, dan itu bukan pilihan. Tingkat risiko minimal mencakup semua hal lainnya dan tidak membawa kewajiban khusus selain kode etik sukarela.

Apa yang sudah berlaku, dan apa yang ditunda

Undang-Undang AI mulai berlaku pada 1 Agustus 2024 dan diterapkan secara bertahap selama beberapa tahun, dan tahapan tersebut diubah oleh paket omnibus digital Komisi Eropa. Tiga hal yang benar saat ini dan sering dilaporkan secara salah.

Pertama, larangan dalam pasal 5 dan kewajiban literasi AI dalam pasal 4 telah berlaku sejak 2 Februari 2025. Kedua, kewajiban untuk model AI tujuan umum, lapisan yang menjadi dasar sebagian besar chatbot komersial, telah berlaku sejak 2 Agustus 2025. Ketiga, kewajiban transparansi dalam pasal 50 juga berlaku. Yang ditunda oleh undang-undang omnibus tersebut adalah rezim risiko tinggi dan tidak ada yang lain: aturan untuk sistem Lampiran III sekarang dimulai pada 2 Desember 2027, dan untuk sistem Lampiran I pada 2 Agustus 2028.

Penundaan ini hanya berlaku untuk rezim berisiko tinggi. Jika chatbot Anda dilarang, atau termasuk dalam aturan model tujuan umum, atau hanya perlu mengungkapkan bahwa itu adalah mesin, maka tenggat waktu telah terlewati.

Penegakan hukum didukung oleh batasan denda yang dinyatakan sebagai bagian dari omset tahunan di seluruh dunia: tingkatan tertinggi, diperuntukkan bagi pelanggaran larangan, dan tingkatan umum yang lebih rendah untuk sebagian besar pelanggaran lainnya. Pengawas nasional menetapkan jumlah sebenarnya dalam batasan tersebut.

Tingkat risiko AI Act untuk aplikasi chatbot

Kewajiban transparansi dalam pasal 50

Pasal 50 UU AI mensyaratkan bahwa seseorang yang berinteraksi dengan sistem AI harus diberitahu tentang fakta tersebut, kecuali jika hal itu sudah jelas bagi pengguna yang cukup berpengetahuan dalam keadaan tersebut. Pengungkapan tersebut harus diberikan pada saat interaksi pertama, dalam bentuk yang jelas dan mudah dibedakan. Satu baris dalam pernyataan privasi yang berjarak tiga klik tidaklah cukup.

Pasal yang sama mewajibkan penyedia sistem yang menghasilkan teks, audio, gambar, atau video sintetis untuk menandai output tersebut dengan cara yang dapat dibaca mesin, dan mewajibkan pihak yang menerbitkan teks yang dihasilkan AI tentang masalah kepentingan publik untuk mengungkapkan bahwa teks tersebut dihasilkan secara artifisial, kecuali jika teks tersebut telah melalui peninjauan manusia dengan tanggung jawab editorial. Bagi bisnis yang menjalankan chatbot di situs webnya sendiri, daftar periksa praktisnya singkat: pernyataan yang terlihat di awal percakapan, jalur yang jelas menuju manusia, dan tidak ada desain antarmuka yang menyiratkan pengguna sedang berbicara dengan karyawan tertentu.

Transparansi juga memiliki dimensi hukum konsumen Belanda. Menampilkan mesin sebagai manusia, atau membiarkan chatbot membuat klaim yang secara hukum tidak dapat dibuat oleh seorang tenaga penjual, dapat dianggap sebagai praktik komersial yang menyesatkan berdasarkan aturan dalam Buku 6 Burgerlijk Wetboek, terlepas dari Undang-Undang AI.

Data pribadi dalam percakapan: lapisan GDPR

GDPR berlaku untuk chatbot segera setelah memproses data yang berkaitan dengan orang yang dapat diidentifikasi, dan log percakapan hampir selalu demikian. Dasar hukum adalah hal pertama yang harus ditetapkan: persetujuan berdasarkan pasal 6(1)(a), pelaksanaan kontrak berdasarkan pasal 6(1)(b), atau kepentingan sah berdasarkan pasal 6(1)(f), masing-masing dengan konsekuensi yang berbeda terhadap apa yang dapat Anda lakukan selanjutnya dengan transkrip tersebut.

Tiga poin yang menyebabkan sebagian besar masalah dalam praktiknya. Retensi adalah salah satunya: transkrip sering disimpan tanpa batas waktu karena tidak ada yang menetapkan jangka waktu, yang melanggar prinsip pembatasan penyimpanan dalam pasal 5(1)(e). Penggunaan sekunder adalah poin lainnya: menggunakan percakapan langsung untuk menyempurnakan model adalah tujuan baru yang membutuhkan penilaian tersendiri dan, biasanya, pemberitahuan informasi tersendiri. Yang ketiga adalah data kategori khusus. Chatbot dalam pengaturan perawatan kesehatan, asuransi, atau SDM akan mengumpulkan data kesehatan atau data sensitif lainnya terlepas dari apakah Anda merancangnya atau tidak, dan pasal 9 melarang pemrosesan tersebut kecuali berlaku pengecualian khusus.

Jika chatbot berjalan di platform pihak ketiga, platform tersebut biasanya bertindak sebagai pengolah data dan perjanjian pemrosesan data berdasarkan pasal 28 adalah wajib. Menentukan peran yang tepat bukanlah formalitas; hal ini menentukan siapa yang harus menjawab permintaan subjek data dan siapa yang bertanggung jawab atas pelanggaran. Artikel kami tentang perbedaan antara peran pengendali dan pengolah data berdasarkan GDPR dan tentang penggunaan AI dalam bisnis Belanda menjabarkan analisis tersebut.

Penilaian dampak perlindungan data berdasarkan pasal 35 diperlukan jika pemrosesan kemungkinan akan menghasilkan risiko tinggi, dan daftar yang diterbitkan oleh Autoriteit Persoonsgegevens memperjelas bahwa evaluasi otomatis skala besar terhadap individu termasuk dalam kategori tersebut. Jika chatbot Anda memprofilkan pengguna, anggaplah Anda membutuhkannya. Ketidakpatuhan terhadap GDPR dikenai sanksi berupa denda hingga empat persen dari omset tahunan di seluruh dunia berdasarkan pasal 83(5), dan batas tersebut belum berubah.

Pengawasan manusia dan masalah dengan model yang tidak transparan

Seseorang yang mengklik tombol setuju pada rekomendasi yang tidak dapat mereka evaluasi bukanlah pengawasan dalam arti Pasal 14, dan hal itu tidak akan melindungi organisasi. Pengawas membutuhkan wewenang untuk membatalkan keputusan, kompetensi untuk menilai, dan informasi yang diperlukan untuk melakukan keduanya. Dalam praktiknya, itu berarti menetapkan peran, melatih orang-orang yang menjalankan peran tersebut, memberi mereka akses ke alasan di balik suatu hasil, dan mencatat kapan mereka melakukan intervensi.

Terdapat kewajiban paralel dalam GDPR yang berlaku terlepas dari tingkatan Undang-Undang AI. Pasal 22 memberikan hak kepada subjek data untuk tidak tunduk pada keputusan yang didasarkan semata-mata pada pemrosesan otomatis yang menghasilkan efek hukum atau secara signifikan memengaruhi mereka. Jika chatbot menolak aplikasi, menolak layanan, atau menetapkan harga sepenuhnya secara otomatis, Pasal 22 berlaku dan organisasi harus menawarkan intervensi manusia, penjelasan, dan jalur untuk mengajukan keberatan.

Pengambilan keputusan otomatis dan pengawasan manusia yang bermakna adalah ujian terpisah di bawah instrumen terpisah. Pengesahan Undang-Undang AI tidak membebaskan Anda dari pasal 22 GDPR, dan sebaliknya.

Bias adalah mode kegagalan yang mengubah celah pengawasan menjadi suatu kerugian. Model yang dilatih berdasarkan data historis mereproduksi pola historis, dan jika pola tersebut melacak karakteristik yang dilindungi, keputusan yang dihasilkan dapat dianggap sebagai diskriminasi tidak langsung berdasarkan Algemene wet gelijke behandeling (Undang-Undang Umum tentang Perlakuan yang Adil). Pengujian sebelum penerapan, dan pendokumentasian pengujian, adalah satu-satunya pembelaan yang efektif setelah kejadian. Kami membahas konsekuensinya dalam artikel kami tentang tanggung jawab atas bias algoritmik.

Apa yang dilakukan para supervisor Belanda?

Pengawasan terhadap Undang-Undang AI di Belanda masih dalam tahap pengembangan. Pemerintah telah mengusulkan model di mana regulator sektoral yang ada tetap mengawasi AI dalam domain mereka masing-masing, Autoriteit Persoonsgegevens mengambil alih area di mana tidak ada pengawas yang jelas dan menjalankan unit AI khusus, dan Rijksinspectie Digitale Infrastructuur memiliki peran koordinasi di sampingnya. Undang-undang pelaksanaannya, Uitvoeringswet AI-verordening, telah dibuka untuk konsultasi publik pada April 2026 dan belum diadopsi, sehingga penetapan wewenang dan sanksi secara formal belum final.

Itu tidak berarti tidak ada penegakan hukum. GDPR sepenuhnya berlaku dan Autoriteit Persoonsgegevens telah menggunakannya terhadap penerapan AI selama bertahun-tahun. Larangan dalam pasal 5 Undang-Undang AI merupakan hukum yang berlaku langsung terlepas dari kapan undang-undang pelaksanaannya di Belanda diberlakukan.

Contoh kasus: chatbot pemberi saran pemilu

Ilustrasi paling jelas dari Belanda tentang apa yang salah datang dari Autoriteit Persoonsgegevens (Otoritas Perlindungan Data Pribadi) itu sendiri. Dalam laporan risiko AI dan algoritmanya pada Februari 2025, pengawas tersebut menguji chatbot AI generatif yang digunakan untuk memberikan saran pemilihan dan menemukan hasilnya tidak dapat diandalkan dan bias: sistem tersebut mengarahkan pengguna ke sejumlah kecil partai dan sebagian besar mengabaikan sisanya, terlepas dari jawaban yang diberikan. AP menyarankan masyarakat untuk tidak menggunakan chatbot semacam itu untuk keputusan pemilihan dan menunjukkan bahwa AI yang digunakan untuk memengaruhi pemilihan termasuk dalam kategori risiko tinggi Undang-Undang AI. Temuan tersebut diuraikan dalam laporan AP tentang risiko AI dan algoritma.

Pelajaran ini berlaku lebih luas daripada sekadar politik. Model serbaguna yang dibungkus dalam antarmuka yang ramah pengguna tidak serta merta menjadi netral hanya karena operatornya bermaksud demikian. Jika outputnya memengaruhi keputusan penting, netralitas harus diuji dan pengujian tersebut harus didokumentasikan, karena setelah penerapan, beban pembuktian bahwa sistem tersebut berfungsi sebagaimana mestinya berada pada organisasi yang menerapkannya.

Membangun kerangka kerja tata kelola AI yang mampu bertahan

Kerangka kerja tata kelola hanya bermanfaat jika menghasilkan bukti. Regulator, pihak lawan, dan pengadilan semuanya mengajukan pertanyaan yang sama setelah terjadi kesalahan: apa yang Anda ketahui, kapan Anda menilainya, dan apa yang Anda catat? Empat elemen melakukan sebagian besar pekerjaan.

• Klasifikasi, ditinjau. Catat posisi setiap sistem AI berdasarkan Undang-Undang AI dan alasannya. Ulangi penilaian setiap kali kasus penggunaan berubah, misalnya karena bot layanan pelanggan yang mulai menyaring pelamar tiba-tiba naik tingkat dalam semalam.
• Tata kelola data. Dokumentasikan asal usul data pelatihan dan pengambilan, lisensi yang mendasarinya, dan bagaimana reservasi TDM diperiksa. Dari sisi data pribadi, catat dasar hukum, periode penyimpanan, dan perjanjian pemrosesan.
• Dokumentasi dan pencatatan log. Simpan versi model, perintah sistem, hasil pengujian, dan log percakapan, dengan periode penyimpanan yang sesuai dengan GDPR. Tanpa log, Anda tidak dapat merekonstruksi apa yang dikatakan sistem pada hari yang penting.
• Protokol pengawasan. Sebutkan nama orang-orang yang bertanggung jawab, tentukan kapan mereka harus turun tangan, dan berikan mereka wewenang untuk menghentikan sistem tersebut. Catat intervensi tersebut.

Kontrak melengkapi sisanya. Perjanjian dengan pemasok AI Anda harus membahas sumber data, ganti rugi kekayaan intelektual, alokasi peran Undang-Undang AI antara penyedia dan pengimplementasikan, keamanan, hak audit, dan penghentian kontrak. Itu adalah poin negosiasi komersial biasa, dan jauh lebih mudah untuk dimenangkan sebelum penandatanganan daripada setelah insiden terjadi. Panduan hukum TI kami mencakup lanskap kontraktual terkait.

Chatbot, hak cipta, dan kepatuhan bukanlah latihan sekali jalan. Rezim berisiko tinggi hadir secara bertahap hingga tahun 2028, Uitvoeringswet (Undang-Undang Pelaksanaan) akan menambahkan prosedur dan sanksi nasional, dan yurisprudensi tentang keluaran AI baru saja dimulai. Kerangka kerja yang ditinjau setiap tahun dan diperbarui ketika hukum berubah adalah perbedaan antara posisi yang dapat dipertahankan dan posisi yang bersifat improvisasi.

Apakah Anda penyedia atau penyebar?

Undang-Undang AI mengalokasikan hampir semua kewajibannya berdasarkan peran, dan dua peran yang penting bagi bisnis yang membeli chatbot adalah penyedia dan pengimplementasikan. Penyedia mengembangkan sistem AI dan memasarkannya atau menggunakannya atas nama sendiri; pengimplementasikan menggunakannya di bawah wewenang sendiri. Membeli chatbot siap pakai menjadikan Anda sebagai pengimplementasikan, yang merupakan tugas yang jauh lebih ringan.

Jebakannya adalah pihak yang menerapkan sistem dapat menjadi penyedia layanan tanpa disengaja. Pasal 25 peraturan tersebut menyatakan bahwa pihak yang menerapkan sistem memikul kewajiban penyedia layanan untuk sistem berisiko tinggi jika mereka menggunakan nama atau merek dagang mereka sendiri pada sistem tersebut, melakukan modifikasi substansial pada sistem tersebut, atau mengubah tujuan yang dimaksudkan sedemikian rupa sehingga mengubah sistem tersebut menjadi sistem berisiko tinggi. Menggunakan merek sendiri untuk chatbot pihak ketiga, atau mengubah fungsi bot layanan pelanggan umum untuk menyaring lamaran pekerjaan, sudah cukup untuk membuat peralihan tersebut terjadi.

Pengalihan tanggung jawab tersebut memiliki konsekuensi nyata. Penyedia bertanggung jawab atas penilaian kesesuaian, dokumentasi teknis, sistem manajemen mutu, pendaftaran dalam basis data Uni Eropa, dan pemantauan pasca-pemasaran. Semua itu tidak dapat diabaikan begitu saja oleh klausul kontrak, karena kewajiban tersebut merupakan kewajiban hukum publik yang ditujukan kepada pengawas, bukan kewajiban privat yang ditujukan kepada pihak lawan. Kontrak dapat mengalihkan biaya pelanggaran; tetapi tidak dapat mengalihkan kewajiban.

Pihak yang menerapkan sistem berisiko tinggi memiliki daftar prioritas mereka sendiri: menggunakan sistem sesuai dengan instruksi, menugaskan pengawasan manusia yang kompeten, memastikan data masukan relevan, memantau pengoperasian, menyimpan catatan log, dan memberi tahu pekerja dan perwakilan mereka sebelum sistem berisiko tinggi digunakan di tempat kerja. Poin terakhir ini mudah diabaikan dan justru merupakan jenis kelalaian yang akan diangkat oleh dewan pekerja.

Kerahasiaan, rahasia dagang, dan kewajiban profesional

Risiko yang berada di luar ketiga rezim regulasi tersebut, dan menyebabkan kerusakan yang lebih nyata daripada salah satunya, adalah staf yang memasukkan materi rahasia ke dalam chatbot publik. Data klien, draf kontrak, kode sumber, dan angka keuangan yang belum dipublikasikan yang dimasukkan ke dalam layanan AI konsumen keluar dari kendali organisasi, dan tergantung pada ketentuan layanan, dapat disimpan atau digunakan untuk pelatihan lebih lanjut.

Berdasarkan hukum Belanda, hal itu dapat melanggar klausul kerahasiaan dalam kontrak komersial, menghancurkan persyaratan langkah-langkah wajar yang menjaga informasi tetap terlindungi sebagai rahasia dagang berdasarkan Wet bescherming bedrijfsgeheimen, dan dalam profesi yang diatur dapat melanggar kewajiban kerahasiaan berdasarkan undang-undang. Hal itu juga dapat dianggap sebagai pelanggaran data pribadi yang memerlukan pemberitahuan kepada Autoriteit Persoonsgegevens dalam waktu tujuh puluh dua jam setelah mengetahuinya, berdasarkan pasal 33 GDPR.

Solusinya sederhana namun efektif: kebijakan tertulis tentang penggunaan AI yang menyebutkan alat mana yang disetujui, menyatakan dengan jelas apa yang tidak boleh dimasukkan ke dalam alat yang tidak disetujui, dan tertanam dalam hubungan kerja sehingga pelanggaran akan menimbulkan konsekuensi. Gabungkan dengan pengaturan perusahaan yang secara kontraktual mengecualikan pelatihan tentang input Anda, dan risikonya sebagian besar akan hilang.

Apa yang harus dilakukan sebelum Anda meluncurkan

Pekerjaan kepatuhan pada chatbot bersifat berurutan, dan melakukannya dengan urutan yang benar akan menghemat sebagian besar biaya. Klasifikasikan sistem berdasarkan Undang-Undang AI dan tuliskan klasifikasinya, beserta alasannya. Petakan data pribadi yang akan diproses, tetapkan dasar hukum dan periode penyimpanan, serta lakukan penilaian dampak perlindungan data jika pemrosesan tersebut memerlukannya. Terapkan perjanjian pemrosesan pasal 28 dengan platform tersebut.

Kemudian, perhatikan data di balik model tersebut: tanyakan kepada pemasok data apa yang digunakan untuk melatih model, apakah reservasi TDM dipatuhi, dan ganti rugi apa yang ditawarkan, lalu catat jawabannya. Integrasikan pengungkapan transparansi ke dalam antarmuka itu sendiri, bukan di bagian bawah halaman. Sebutkan orang yang bertanggung jawab atas pengawasan dan tentukan kapan mereka harus turun tangan. Terakhir, uji sistem terhadap kasus-kasus yang paling Anda khawatirkan, simpan hasilnya, dan tetapkan tanggal untuk meninjau seluruh berkas.

Organisasi yang melakukan hal ini menemukan bahwa upaya tersebut terbatas. Ketidakpastian dalam hukum AI memang nyata, tetapi terkonsentrasi pada beberapa pertanyaan, sebagian besar tentang data pelatihan dan tentang tanggung jawab atas output, dan sisanya adalah pekerjaan kepatuhan biasa yang dapat diselesaikan dan diajukan.

Pertanyaan yang sering diajukan

Pertanyaan-pertanyaan di bawah ini muncul di hampir setiap percakapan pertama tentang penerapan chatbot. Pertanyaan-pertanyaan ini dijawab di sini pada tingkat prinsip; analisis untuk sistem tertentu selalu bergantung pada apa yang dilakukannya dan kepada siapa sistem tersebut melakukannya.

Law & More Kami memberikan konsultasi kepada bisnis di Belanda mengenai aspek hukum penerapan AI: klasifikasi berdasarkan Undang-Undang AI, hak cipta dan sumber data, kepatuhan GDPR dan perjanjian pemrosesan data, dokumentasi tata kelola, dan negosiasi kontrak dengan pemasok AI. Jika Anda sedang bersiap untuk meluncurkan chatbot, atau ingin chatbot yang sudah ada dinilai berdasarkan peraturan yang berlaku, kami dengan senang hati akan meninjaunya bersama Anda. Ceritakan situasi Anda kepada kami. Kami akan memberi tahu Anda pilihan yang tersedia dalam satu hari kerja.

Seterpercayaapakah Olymp Trade? Kesimpulan Law & More Yang dapat membantu Anda dalam hal ini dijelaskan di halaman kami. Pengacara TI .