Undang-Undang AI Eropa memperkenalkan perubahan besar pada tanggal 2 Februari 2025, yang memastikan hal-hal tertentu. Praktik AI ilegal di seluruh Uni Eropa. Bisnis Belanda Kini mereka harus mematuhi aturan ketat mengenai sistem AI mana yang dapat mereka gunakan.

Perusahaan yang gagal menghapus alat AI terlarang akan menghadapi denda besar dan potensi tindakan hukum dari siapa pun yang menderita kerugian.

Terhitung sejak Februari 2025, sistem AI yang memanipulasi orang, menggunakan penilaian sosial, mengkategorikan individu berdasarkan data biometrik, atau menggunakan pengenalan wajah secara real-time di ruang publik dilarang di Belanda. Larangan ini juga mencakup teknologi pengenalan emosi di tempat kerja dan sekolah, serta pengumpulan gambar wajah tanpa target dari internet untuk membangun basis data pengenalan.

Aturan ini berlaku segera, tanpa memberi perusahaan masa tenggang untuk menghapus sistem-sistem ini secara bertahap. Memahami praktik AI mana yang dilarang dan langkah-langkah apa yang harus diambil organisasi Anda sangat penting untuk menghindari sanksi.

Panduan ini menjelaskan larangan-larangan spesifik, dan menguraikan langkah-langkah Anda. tugas kepatuhan Sebagai bisnis Belanda, dan mencakup persyaratan pelatihan yang dibutuhkan untuk menjaga agar operasi Anda tetap legal di bawah hukum baru.

Gambaran Umum Larangan Februari 2025

Peraturan (EU) 2024/1689, yang dikenal sebagai UU AI UE, memperkenalkan larangan khusus terhadap praktik-praktik kecerdasan buatan tertentu yang mulai berlaku pada tanggal 2 Februari 2025. Aturan ini berlaku untuk bisnis Anda di Belanda jika Anda mengembangkan, menerapkan, atau menggunakan Sistem AIdi dalam Belanda atau Uni Eropa yang lebih luas.

Cakupan Praktik AI yang Dilarang

Undang-Undang AI melarang praktik-praktik AI tertentu yang menimbulkan risiko yang tidak dapat diterima terhadap hak-hak fundamental dan nilai-nilai Eropa. Pasal 5 Peraturan (EU) 2024/1689 mengidentifikasi praktik-praktik terlarang ini berdasarkan potensi bahayanya, bukan berdasarkan teknologi itu sendiri.

Kategori-kategori yang dilarang utama meliputi:

• Sistem AI manipulatif yang mengeksploitasi kerentanan kelompok tertentu
• Sistem penilaian sosial oleh otoritas publik
• Identifikasi biometrik jarak jauh secara real-time di ruang publik yang dapat diakses untuk hukum penegakan hukum (dengan pengecualian terbatas)
• Sistem kategorisasi biometrik yang menyimpulkan atribut sensitif
• Pengambilan data tanpa target gambar wajah dari internet atau rekaman CCTV

Bisnis Anda termasuk dalam larangan ini, baik Anda beroperasi sebagai penyedia, pengembang, atau distributor AI di Belanda. Otoritas Perlindungan Data Belanda bekerja sama dengan badan penegak hukum Uni Eropa lainnya untuk memastikan kepatuhan.

Ketidakpatuhan dapat dikenakan denda hingga 7% dari omset tahunan global Anda.

Tanggal Efektif dan Periode Transisi

Larangan berdasarkan Pasal 5 mulai berlaku pada tanggal 2 Februari 2025. Ini berarti bisnis Anda harus segera mematuhi peraturan ini jika Anda menggunakan atau mengembangkan sistem AI yang relevan.

Kerangka penegakan hukum mengikuti jadwal bertahap. Sanksi penuh, struktur tata kelola, dan ketentuan kerahasiaan mulai berlaku pada tanggal 2 Agustus 2025.

Hal ini memberi organisasi Anda jangka waktu enam bulan di mana aturan tersebut berlaku, tetapi mekanisme penegakan hukum yang lengkap masih dalam tahap pembentukan. Komisi Eropa menerbitkan pedoman resmi pada tanggal 4 Februari 2025 untuk memperjelas bagaimana larangan ini diterapkan dalam praktiknya.

Otoritas pengawasan pasar, termasuk Otoritas Perlindungan Data Belanda, memperoleh tanggung jawab untuk memantau dan menegakkan peraturan ini sejak tanggal mulai berlakunya pada bulan Februari.

Definisi Kunci: Sistem dan Praktik AI

Berdasarkan Undang-Undang AI, sebuah Sistem AI Artinya perangkat lunak yang menggunakan pembelajaran mesin, pendekatan berbasis logika, atau metode statistik untuk menghasilkan keluaran seperti prediksi, rekomendasi, atau keputusan. Definisi ini sengaja dibuat luas untuk mencakup teknologi terkini dan yang sedang berkembang.

A praktik AI yang dilarang Mengacu pada cara-cara spesifik dalam menerapkan atau menggunakan kecerdasan buatan yang dianggap tidak dapat diterima oleh Uni Eropa. Larangan tersebut berlaku untuk praktik itu sendiri, bukan teknologi yang mendasarinya.

Ini berarti Anda dapat menggunakan sistem AI yang sama untuk tujuan yang diizinkan, sementara dilarang untuk aplikasi tertentu. Bisnis Anda harus membedakan antara sistem AI (teknologi) dan praktiknya (bagaimana Anda menggunakannya).

Sistem AI untuk pengenalan wajah mungkin sah untuk kontrol akses bangunan tetapi dilarang untuk pengawasan waktu nyata di ruang publik. Konteks dan penerapannya menentukan legalitas berdasarkan Peraturan (EU) 2024/1689.

Daftar Lengkap Praktik AI yang Dilarang

Undang-Undang AI Uni Eropa melarang aplikasi AI tertentu yang menimbulkan risiko yang tidak dapat diterima terhadap hak dan keselamatan mendasar. Praktik-praktik yang dilarang ini termasuk dalam tiga kategori utama: sistem yang memanipulasi perilaku manusia, sistem yang mengeksploitasi kelompok rentan, dan mekanisme yang memungkinkan pengawasan massal melalui penilaian sosial.

Sistem Manipulatif dan Menipu

Undang-Undang AI melarang sistem AI apa pun yang menggunakan teknik subliminal untuk secara material mendistorsi perilaku manusia dengan cara yang menyebabkan kerugian. Ini adalah metode yang bekerja di luar kesadaran Anda untuk memengaruhi keputusan atau tindakan Anda.

Praktik manipulatif yang dilarang meliputi:

• Sistem AI yang menggunakan komponen subliminal yang tidak dapat Anda deteksi.
• Sistem yang dirancang untuk mengeksploitasi kerentanan terkait usia pada anak-anak
• Teknologi yang memanipulasi perilaku untuk menyebabkan kerusakan fisik atau psikologis.

Anda tidak dapat menggunakan AI untuk secara sengaja menipu orang dengan cara yang mengarah pada bahaya yang signifikanArtinya, bisnis Anda tidak dapat menggunakan chatbot atau asisten virtual yang menyesatkan pengguna tentang sifat AI-nya, karena penipuan ini dapat mengakibatkan kerugian.

Larangan ini mencakup sistem AI yang menggunakan pola gelap atau manipulasi psikologis untuk mendorong pengguna membuat pilihan yang berbahaya. hukum melindungi individu dari praktik AI yang mengabaikan pengambilan keputusan rasional.

Jika sistem AI Anda memengaruhi perilaku melalui manipulasi tersembunyi dan bukan melalui informasi yang transparan, maka hal itu melanggar Undang-Undang tersebut.

Eksploitasi terhadap Individu yang Rentan

Sistem AI yang mengeksploitasi kerentanan terkait usia, disabilitas, atau keadaan sosial atau ekonomi dilarang keras. Anda tidak dapat menggunakan AI untuk mengambil keuntungan dari orang-orang yang tidak memiliki kemampuan untuk memahami atau menolak manipulasi.

Larangan ini mencakup AI yang menargetkan kurangnya pengalaman anak-anak atau penurunan kognitif individu lanjut usia. Bisnis Anda tidak dapat menerapkan sistem yang mengeksploitasi disabilitas fisik atau mental untuk memanipulasi perilaku.

AI yang memanfaatkan keputusasaan ekonomi atau isolasi sosial juga termasuk dalam larangan ini.

Kelompok rentan yang dilindungi meliputi:

• Anak-anak dan anak di bawah umur
• Lansia dengan gangguan kognitif
• Orang-orang dengan disabilitas fisik atau mental
• Individu yang menghadapi kesulitan ekonomi

Larangan ini berlaku ketika sistem AI Anda menyebabkan atau kemungkinan besar akan menyebabkan kerugian signifikan melalui eksploitasi. Anda harus menilai apakah aplikasi AI Anda dapat secara tidak adil menargetkan populasi yang rentan.

Penilaian Sosial dan Pemprofilan Perilaku

Undang-Undang AI melarang sistem AI yang mengevaluasi atau mengklasifikasikan orang berdasarkan perilaku sosial atau karakteristik pribadi. Anda tidak dapat menggunakan mekanisme penilaian sosial yang menyebabkan perlakuan tidak adil atau merugikan.

Penilaian sosial melibatkan penilaian individu berdasarkan perilaku, hubungan, atau perilaku yang diprediksi. Hal ini menciptakan profil yang menentukan akses ke layanan, peluang, atau hak.

Aktivitas pemberian skor sosial yang dilarang meliputi:

• Memberi peringkat warga negara berdasarkan perilaku sosial atau profesional.
• Membuat skor kepercayaan dari data pribadi
• Memprediksi perilaku kriminal berdasarkan pembuatan profil.
• Menolak memberikan layanan berdasarkan penilaian perilaku.

Anda tidak dapat menerapkan sistem AI yang memberikan skor untuk menentukan apakah seseorang berhak menerima layanan kesehatan, pendidikan, pekerjaan, atau layanan keuangan. Larangan ini berlaku terlepas dari apakah Anda mengoperasikan sistem ini sebagai otoritas publik atau bisnis swasta.

Jarak jauh waktu nyata identifikasi biometrik Penggunaan di ruang publik juga termasuk dalam larangan ketat dengan pengecualian terbatas untuk penegakan hukum.

Larangan terhadap Biometrik, Pengenalan Wajah, dan AI Emosi

Undang-Undang AI Uni Eropa melarang beberapa jenis sistem biometrik dan pengenalan wajah yang menimbulkan risiko bagi hak-hak dasarLarangan-larangan ini memengaruhi bagaimana bisnis Belanda dapat menggunakan data biometrik, basis data pengenalan wajah, alat pengenalan emosi, dan sistem identifikasi waktu nyata di ruang publik.

Kategorisasi Biometrik dan Penggunaan Data

Anda tidak boleh menggunakan sistem AI yang mengkategorikan orang berdasarkan data biometrik mereka untuk menyimpulkan ras, opini politik, keanggotaan serikat pekerja, keyakinan agama, atau orientasi seksual mereka. Larangan ini berlaku ketika Anda memasarkan sistem ini, mengoperasikannya, atau menggunakannya untuk tujuan khusus ini.

Larangan tersebut menargetkan sistem yang membuat kesimpulan sensitif tentang individu melalui analisis biometrik. Bisnis Anda menghadapi denda hingga 7% dari omset tahunan global karena ketidakpatuhan.

Ada satu pengecualian untuk aturan ini. Anda dapat memberi label atau menyaring kumpulan data biometrik yang diperoleh secara sah, seperti gambar, berdasarkan data biometrik dalam konteks penegakan hukum.

Di luar penegakan hukum, praktik kategorisasi ini tetap dilarang sepenuhnya.

Pembatasan pada Teknologi Pengenalan Wajah

Anda tidak dapat membuat atau memperluas basis data pengenalan wajah melalui pengambilan gambar wajah tanpa target dari internet atau rekaman CCTV. Larangan ini mulai berlaku pada tanggal 2 Februari 2025.

Agar larangan ini berlaku, harus ada empat syarat:

• Praktik ini melibatkan penempatan, perawatan, atau penggunaan sistem AI.
• Tujuannya adalah untuk membuat atau memperluas basis data pengenalan wajah.
• Metode ini menggunakan pengambilan data gambar wajah tanpa target.
• Sumber datanya adalah internet atau rekaman CCTV.

Kata kuncinya adalah "tidak tertarget". Anda tidak dapat mengumpulkan gambar wajah secara luas dan tanpa pandang bulu.

Ini berarti Anda tidak dapat memasang kamera di supermarket atau area publik yang secara otomatis mengambil data wajah untuk membangun basis data pengenalan tanpa kriteria penargetan khusus.

Pengenalan Emosi dalam Pekerjaan dan Pendidikan

Anda tidak dapat menggunakan sistem AI untuk menyimpulkan emosi orang di tempat kerja dan lembaga pendidikan. Larangan ini secara langsung memengaruhi departemen SDM, sekolah, dan fasilitas pelatihan yang mungkin mempertimbangkan alat pendeteksi emosi.

Larangan ini mencakup sistem AI apa pun yang dirancang untuk membaca atau menafsirkan keadaan emosional dalam pengaturan khusus ini. Tidak masalah apakah Anda menggunakan analisis wajah, pengenalan pola suara, atau indikator biometrik lainnya.

Ada satu pengecualian terbatas. Anda boleh menggunakan AI pengenalan emosi jika hal itu bermanfaat untuk tujuan medis atau keselamatan.

Sebagai contoh, pemantauan kewaspadaan pengemudi untuk alasan keselamatan atau mendeteksi kondisi pasien yang tidak stabil di lingkungan perawatan kesehatan mungkin memenuhi syarat dalam pengecualian ini.

Keterbatasan Identifikasi Biometrik Jarak Jauh

Anda tidak dapat menggunakan sistem identifikasi biometrik jarak jauh secara waktu nyata di ruang publik untuk tujuan penegakan hukum, kecuali dalam keadaan yang ditentukan secara ketat. Pengecualian ini termasuk pencarian korban penculikan atau perdagangan manusia, pencegahan ancaman langsung terhadap nyawa atau serangan teroris, dan pencarian tersangka kejahatan serius yang dapat dihukum dengan hukuman penjara minimal empat tahun.

Setiap penggunaan membutuhkan otorisasi sebelumnya dari kewenangan peradilan atau badan administratif independen. Dalam situasi mendesak, Anda dapat memulai penggunaan tanpa otorisasi, tetapi Anda harus meminta persetujuan dalam waktu 24 jam.

Jika pihak berwenang menolak otorisasi tersebut, Anda harus segera berhenti menggunakan sistem dan menghapus semua data. Belanda dapat menetapkan aturan rinci tersendiri untuk pengecualian ini dalam hukum nasional.

Bisnis Anda wajib memberitahukan otoritas pengawasan pasar dan otoritas perlindungan data nasional yang relevan tentang setiap penggunaan. Negara-negara anggota mengirimkan laporan tahunan tentang penggunaan identifikasi biometrik jarak jauh secara real-time kepada Komisi Eropa.

Kewajiban Kepatuhan bagi Bisnis Belanda

Perusahaan-perusahaan Belanda harus mengambil langkah konkret untuk mencapai kepatuhan AI dengan mengidentifikasi sistem yang dilarang, menghapusnya dari operasional, dan memelihara dokumentasi yang tepat. DPA Belanda dan Otoritas Infrastruktur Digital Belanda akan menegakkan persyaratan ini dengan sanksi yang signifikan bagi pelanggaran.

Mengidentifikasi AI Terlarang dalam Operasi

Anda perlu melakukan penilaian risiko menyeluruh di seluruh organisasi Anda untuk menemukan sistem AI yang mungkin melanggar peraturan baru. Ini berarti memeriksa teknologi apa pun yang menggunakan teknik manipulasi, mengeksploitasi kerentanan, menerapkan penilaian sosial, atau melakukan identifikasi biometrik secara real-time di ruang publik.

Mulailah dengan membuat inventaris semua sistem AI yang saat ini digunakan. Dokumentasikan apa yang dilakukan setiap sistem, bagaimana sistem tersebut memproses data, dan siapa yang terpengaruh.

Berikan perhatian khusus pada sistem yang berinteraksi dengan pelanggan, karyawan, atau masyarakat umum. Penilaian risiko Anda harus mengevaluasi apakah sistem apa pun dapat membahayakan hak-hak mendasar.

Ini termasuk memeriksa apakah sistem AI membuat keputusan tentang orang berdasarkan perilaku, karakteristik pribadi, atau koneksi sosial. Sistem yang melacak atau membuat profil individu tanpa transparansi memerlukan peninjauan segera.

Bekerja samalah dengan tim teknis Anda untuk memahami cara kerja setiap sistem AI. Anda tidak dapat hanya mengandalkan deskripsi dari vendor.

Otoritas Perlindungan Data Belanda (DPA) telah memperjelas bahwa Anda memikul tanggung jawab atas kepatuhan terlepas dari apakah Anda membangun sistem tersebut atau membelinya dari pihak ketiga.

Penghapusan atau Penghentian Penggunaan Sistem AI yang Dilarang

Anda harus segera menghentikan penggunaan praktik AI yang dilarang. Hukum tidak memberikan masa tenggang untuk sistem yang dilarang.

Jika penilaian risiko Anda mengidentifikasi praktik terlarang, Anda perlu menonaktifkannya segera. Buat rencana penghapusan yang mengatasi dampak teknis dan operasional.

Beberapa sistem mungkin tertanam dalam platform yang lebih besar atau terhubung ke beberapa proses. Anda perlu memastikan bahwa penghapusan elemen terlarang tidak mengganggu fungsi bisnis penting.

Sebelum mematikan sistem, identifikasi bagaimana Anda akan menangani tugas-tugas yang sebelumnya dilakukan oleh sistem tersebut. Ini mungkin berarti kembali ke proses manual, menerapkan teknologi yang berbeda, atau mendesain ulang alur kerja sepenuhnya.

Dokumentasikan setiap langkah proses penghapusan. Catat kapan Anda menemukan praktik terlarang tersebut, tindakan apa yang Anda ambil, dan kapan sistem tersebut sepenuhnya dinonaktifkan.

Pihak berwenang akan mengharapkan bukti yang jelas bahwa Anda bertindak cepat setelah mengidentifikasi pelanggaran tersebut.

Pencatatan dan Dokumentasi

Anda wajib menyimpan dokumentasi teknis yang membuktikan kepatuhan terhadap peraturan pelarangan. Ini termasuk catatan penilaian risiko Anda, keputusan tentang sistem AI, dan setiap perubahan yang Anda lakukan untuk mencapai kepatuhan.

Dokumentasi Anda harus mencakup:

• Inventaris sistem beserta deskripsi masing-masing aplikasi AI.
• Laporan penilaian risiko menunjukkan analisis Anda tentang potensi pelanggaran
• Catatan penghapusan menjelaskan secara rinci kapan dan bagaimana Anda menonaktifkan sistem yang dilarang.
• Penilaian dampak hak-hak fundamental untuk kasus-kasus yang berada di ambang batas

Simpan catatan ini setidaknya selama lima tahun. Otoritas Perlindungan Data Belanda (DPA) dapat meminta catatan ini selama inspeksi atau investigasi.

Dokumentasi yang hilang atau tidak lengkap dapat mengakibatkan denda hingga €7,500,000 atau 1% dari omset global tahunan. Dokumentasi teknis Anda harus cukup detail sehingga regulator dapat memahami apa yang dilakukan sistem AI Anda dan mengapa sistem tersebut mematuhi hukum.

Deskripsi umum atau materi pemasaran tidak memenuhi persyaratan ini. Sertakan spesifikasi teknis, alur data, dan proses pengambilan keputusan.

Perbarui dokumentasi Anda setiap kali Anda memodifikasi sistem AI atau menerapkan sistem baru. Anda memerlukan proses berkelanjutan untuk memastikan bahwa sistem di masa mendatang tidak memperkenalkan praktik terlarang.

Persyaratan Literasi AI dan Pelatihan Staf

Per tanggal 2 Februari 2025, perusahaan-perusahaan Belanda yang menyediakan atau menerapkan sistem AI harus memastikan bahwa staf mereka memiliki literasi AI yang memadai. Kewajiban ini berlaku terlepas dari apakah Anda menggunakan sistem AI berisiko tinggi atau berisiko rendah.

Program pelatihan yang terdokumentasi harus disesuaikan dengan peran dan latar belakang teknis karyawan Anda.

Penjelasan tentang Kewajiban Literasi AI

Pasal 4 Undang-Undang AI Uni Eropa memberlakukan persyaratan hukum pada semua penyedia dan pengimplementasikan AI untuk memastikan literasi AI yang memadai di antara personel mereka. Anda harus mengambil langkah-langkah untuk menjamin bahwa staf dan kontraktor yang berurusan dengan sistem AI memahami teknologi yang mereka gunakan.

Kewajiban literasi AI mencakup siapa pun yang mengoperasikan, menggunakan, atau membuat keputusan tentang sistem AI atas nama Anda. Ini termasuk staf teknis yang membangun atau memelihara sistem AI, serta karyawan non-teknis yang menggunakan alat AI dalam pekerjaan sehari-hari mereka.

Anda harus menyesuaikan pelatihan literasi AI dengan peran, pengetahuan teknis, pengalaman, pendidikan, dan konteks spesifik setiap orang dalam menggunakan sistem AI. Seorang pengembang perangkat lunak yang mengimplementasikan model AI membutuhkan pelatihan yang berbeda dibandingkan dengan perwakilan layanan pelanggan yang menggunakan chatbot bertenaga AI.

Kewajiban tersebut mengharuskan Anda untuk melakukan "upaya terbaik" untuk memastikan tingkat literasi yang memadai. Anda tidak bisa hanya menawarkan pelatihan seadanya dan mengklaim telah mematuhi peraturan.

Mengembangkan Program Pelatihan yang Efektif

Program literasi AI Anda harus membahas sistem AI spesifik yang digunakan organisasi Anda, bukan memberikan informasi umum. Staf perlu memahami cara kerja alat AI tertentu yang mereka gunakan, keterbatasannya, dan potensi risikonya.

Isi pelatihan harus mencakup:

• Konsep dasar AI yang relevan dengan sistem Anda
• Cara mengoperasikan alat AI dengan benar
• Potensi bias dan kesalahan dalam keluaran AI
• Ketika pengawasan manusia diperlukan
• Kebijakan dan prosedur AI organisasi Anda

Anda harus mempertimbangkan tingkat pengetahuan awal setiap karyawan. Staf teknis mungkin memerlukan pelatihan lanjutan tentang pengembangan dan pengujian model, sementara pengguna umum memerlukan panduan praktis tentang interpretasi keluaran AI dan mengenali kapan hasil tampak tidak tepat.

Penyampaian pelatihan dapat mengambil berbagai bentuk, termasuk lokakarya, kursus daring, pelatihan di tempat kerja, atau program eksternal. Formatnya kurang penting dibandingkan memastikan staf benar-benar memperoleh pengetahuan dan keterampilan yang diperlukan.

Mendokumentasikan Aktivitas Literasi AI

Anda wajib menyimpan catatan kegiatan pelatihan literasi AI Anda untuk menunjukkan kepatuhan terhadap Undang-Undang AI Uni Eropa. Dokumentasi ini berfungsi sebagai bukti bahwa Anda telah memenuhi persyaratan Anda. kewajiban hukum.

Catatan Anda harus mencakup:

• Isi dan materi program pelatihan
• Daftar karyawan yang telah menyelesaikan pelatihan
• Tanggal dan durasi sesi pelatihan
• Hasil penilaian (jika ada)
• Bagaimana Anda menentukan tingkat literasi yang sesuai untuk berbagai peran?

Dokumentasikan proses Anda dalam mengidentifikasi kebutuhan literasi AI di seluruh organisasi Anda. Ini termasuk bagaimana Anda menilai staf mana yang membutuhkan pelatihan dan pengetahuan spesifik apa yang mereka butuhkan berdasarkan interaksi mereka dengan sistem AI.

Catatlah bagaimana Anda memperbarui pelatihan seiring perubahan sistem AI Anda atau seiring bergabungnya staf baru ke organisasi Anda. Literasi AI bukanlah persyaratan sekali saja, melainkan kewajiban berkelanjutan yang harus beradaptasi dengan penggunaan teknologi AI yang terus berkembang.

Pengawasan, Penegakan Hukum, dan Sanksi

Undang-Undang AI Uni Eropa menetapkan struktur penegakan hukum berlapis-lapis dengan dampak yang signifikan. hukuman keuangan karena ketidakpatuhan. Bisnis-bisnis Belanda menghadapi pengawasan dari otoritas nasional dan Eropa, dengan denda mencapai hingga 7% dari omset tahunan global untuk praktik AI yang dilarang.

Otoritas Pengawasan Belanda dan Uni Eropa

Otoritas Perlindungan Data Belanda bertindak sebagai badan pengawas nasional utama untuk penegakan Undang-Undang AI di Belanda. Otoritas ini bekerja sama dengan badan pengawasan pasar Belanda lainnya yang ditunjuk untuk memantau kepatuhan terhadap peraturan tersebut.

Di tingkat Eropa, Komisi Eropa mengawasi implementasi Undang-Undang AI di seluruh negara anggota. Kantor AI Eropa, yang didirikan di dalam Komisi, mengoordinasikan kegiatan penegakan hukum dan menyediakan keahlian teknis.

Dewan Perlindungan Data Eropa mendukung penerapan Undang-Undang secara konsisten, khususnya di mana sistem AI melibatkan pemrosesan data pribadi. Otoritas-otoritas ini bekerja sama untuk memastikan penegakan hukum yang seragam di seluruh Uni Eropa.

Jika Anda mengoperasikan sistem AI di beberapa negara Uni Eropa, Anda mungkin akan menghadapi pengawasan dari badan pengawas di setiap yurisdiksi tempat sistem Anda diterapkan atau berpengaruh.

Sanksi dan Tanggung Jawab Perdata

Pelanggaran terhadap praktik terlarang Pasal 5 dapat dikenakan sanksi hingga €35 juta atau 7% dari total omset tahunan global Anda, mana pun yang lebih tinggi. Denda ini berlaku mulai 2 Februari 2025.

Mahkamah Kehakiman Uni Eropa (CJEU) memiliki wewenang tertinggi untuk menafsirkan ketentuan-ketentuan dalam Undang-Undang AI. Pengadilan nasional dapat mengajukan pertanyaan kepada CJEU ketika timbul perselisihan mengenai apa yang dianggap sebagai praktik terlarang.

Selain denda administratif, Anda mungkin menghadapi klaim tanggung jawab perdata dari individu atau organisasi yang dirugikan oleh sistem AI yang tidak sesuai. Negara-negara anggota dapat menetapkan sanksi tambahan berdasarkan hukum nasional mereka.

Panduan dari Badan-badan Eropa dan Nasional

Komisi Eropa menerbitkan pedoman tentang hal-hal yang dilarang Praktik AI pada 4 Februari 2025. Dokumen-dokumen ini menjelaskan bagaimana pihak berwenang akan menafsirkan larangan Pasal 5 dan memberikan contoh praktis untuk kepatuhan.

Meskipun pedoman ini tidak mengikat, pedoman ini menawarkan wawasan berharga mengenai prioritas penegakan hukum. Hanya Mahkamah Eropa (CJEU) yang dapat memberikan interpretasi hukum yang berwenang.

Otoritas pengawas Belanda dapat mengeluarkan panduan nasional tambahan yang disesuaikan dengan konteks bisnis lokal. Anda harus memantau pembaruan dari badan-badan Eropa dan Belanda seiring dengan perkembangan pendekatan penegakan hukum.

Pedoman ini tersedia dalam semua bahasa Uni Eropa untuk mendukung pemahaman lintas batas.

Pertanyaan yang Sering Diajukan

Undang-Undang AI Eropa memberlakukan persyaratan dan pembatasan khusus yang memengaruhi bisnis Belanda mulai Februari 2025. Peraturan ini melarang praktik AI tertentu, dan mewajibkan langkah-langkah kepatuhandan menetapkan sanksi untuk pelanggaran.

Apa saja peraturan baru terkait penggunaan kecerdasan buatan di perusahaan-perusahaan Belanda mulai Februari 2025?

Undang-Undang AI Eropa mulai berlaku pada tanggal 1 Agustus 2024, dengan serangkaian larangan pertama mulai berlaku pada tanggal 2 Februari 2025. Peraturan ini berlaku untuk semua bisnis Belanda yang mengembangkan, menerapkan, atau menggunakan sistem AI di Uni Eropa.

Undang-undang ini melarang sistem AI manipulatif yang menggunakan teknik subliminal untuk memengaruhi keputusan yang biasanya tidak akan dibuat oleh orang-orang. Sistem AI yang mengeksploitasi kerentanan berdasarkan usia, disabilitas, atau status sosial ekonomi juga dilarang.

Sistem penilaian sosial yang menilai individu berdasarkan perilaku sosial atau karakteristik pribadi mereka menghadapi larangan total. Regulasi tersebut juga melarang penilaian risiko berbasis AI yang memprediksi kejahatan semata-mata melalui pembuatan profil atau analisis sifat kepribadian, bukan berdasarkan fakta yang berkaitan dengan aktivitas kriminal.

Sistem kategorisasi biometrik yang menyimpulkan ras, pandangan politik, keanggotaan serikat pekerja, kepercayaan agama, atau orientasi seksual dari gambar wajah atau sidik jari tidak diperbolehkan. Identifikasi biometrik jarak jauh secara real-time di ruang publik dilarang kecuali dalam situasi yang didefinisikan secara ketat dengan ketentuan khusus. otorisasi hukum.

Bagaimana pedoman AI Belanda Februari 2025 memengaruhi privasi dan perlindungan data bagi konsumen?

Undang-Undang AI bekerja berdampingan dengan peraturan perlindungan data yang sudah ada, termasuk GDPR. Otoritas Perlindungan Data Belanda memberikan panduan tentang bagaimana sistem AI harus mematuhi peraturan perlindungan data, khususnya terkait pengambilan keputusan otomatis.

Pengambilan gambar wajah tanpa target dari internet atau rekaman kamera untuk membuat atau memperluas basis data pengenalan wajah dilarang. Pembatasan ini melindungi hak privasi individu dan mencegah pengumpulan data biometrik tanpa izin.

Sistem AI harus menghormati hak-hak mendasar sepanjang siklus hidupnya. Otoritas publik dan entitas penyedia layanan publik harus melakukan penilaian dampak hak-hak mendasar ketika menggunakan sistem AI berisiko tinggi.

Aktivitas berbasis AI apa saja yang tidak lagi diizinkan untuk dilakukan oleh bisnis di Belanda karena perubahan legislatif baru-baru ini?

Bisnis Anda tidak dapat menggunakan sistem pengenalan emosi di tempat kerja atau lingkungan pendidikan. Sistem ini dilarang terlepas dari manfaat atau kasus penggunaan yang diklaim.

Anda tidak dapat menggunakan sistem AI yang memanipulasi orang melalui teknik subliminal atau mengeksploitasi kerentanan mereka. Ini termasuk sistem yang menargetkan individu berdasarkan disabilitas, status sosial, atau usia mereka untuk memengaruhi perilaku mereka.

Sistem kategorisasi biometrik yang mengklasifikasikan orang berdasarkan karakteristik sensitif dilarang. Anda tidak dapat menggunakan AI untuk menyimpulkan ras, opini politik, keyakinan agama, atau orientasi seksual seseorang dari data biometrik mereka.

Sistem penilaian sosial dilarang sepenuhnya. Anda tidak dapat menerapkan AI yang mengevaluasi atau mengklasifikasikan orang berdasarkan perilaku sosial atau karakteristik pribadi mereka.

Identifikasi biometrik jarak jauh secara waktu nyata di ruang publik dilarang untuk penggunaan komersial. Penegak hukum hanya dapat menggunakan sistem tersebut dalam keadaan yang terbatas dan dengan otorisasi hukum yang sesuai.

Langkah-langkah apa yang harus diambil oleh perusahaan-perusahaan Belanda untuk menyelaraskan sistem AI mereka dengan standar kepatuhan yang ditetapkan pada Februari 2025?

Anda harus mengidentifikasi semua sistem AI yang saat ini digunakan atau diterapkan oleh organisasi Anda. Inventaris ini harus mengkategorikan setiap sistem sesuai dengan klasifikasi risiko yang didefinisikan dalam Undang-Undang AI.

Periksa sistem AI Anda berdasarkan daftar praktik terlarang. Jika Anda menggunakan sistem terlarang, Anda harus segera menghentikannya untuk menghindari sanksi peraturan.

Dokumentasikan tujuan, sumber data, dan proses pengambilan keputusan dari sistem AI Anda. Dokumentasi ini membantu menunjukkan kepatuhan dan mendukung penilaian dampak yang diperlukan.

Untuk sistem AI berisiko tinggi, Anda memerlukan langkah-langkah kepatuhan tambahan. Otoritas publik harus mendaftarkan sistem berisiko tinggi dalam basis data Eropa paling lambat 2 Agustus 2026 dan melakukan penilaian dampak terhadap hak-hak fundamental.

Latih staf Anda mengenai persyaratan baru dan tetapkan proses internal untuk pemantauan kepatuhan berkelanjutan. Program kepatuhan Anda harus mencakup tinjauan berkala terhadap sistem AI untuk memastikan sistem tersebut tetap berada dalam batasan peraturan.

Apakah ada larangan khusus sektor terkait AI yang perlu diketahui oleh perusahaan-perusahaan Belanda setelah diberlakukannya peraturan baru ini?

Organisasi di sektor pendidikan menghadapi batasan khusus. Anda tidak dapat menggunakan sistem pengenalan emosi untuk memantau siswa atau menilai keadaan emosional mereka, terlepas dari manfaat pendidikan yang dimaksudkan.

Lingkungan kerja memiliki keterbatasan serupa. Pemberi kerja tidak dapat menggunakan AI pengenalan emosi untuk memantau keadaan emosional atau reaksi karyawan selama aktivitas kerja.

Lembaga penegak hukum memiliki pengecualian terbatas untuk sistem identifikasi biometrik. Pengecualian ini memerlukan otorisasi hukum yang ketat dan hanya berlaku untuk situasi tertentu seperti mencari korban penculikan, mencegah ancaman yang akan segera terjadi, atau melacak tersangka kejahatan serius.

Lembaga pemerintah yang menyediakan layanan publik menghadapi persyaratan tambahan di luar larangan umum. Anda harus melakukan penilaian dampak hak asasi manusia untuk semua sistem AI berisiko tinggi dan mendaftarkan sistem ini dalam basis data Eropa.

Apa sanksi bagi pelanggaran terhadap pembatasan AI Belanda yang diperkenalkan pada Februari 2025?

Pihak berwenang dapat mengenakan denda yang besar bagi pelanggaran terhadap Undang-Undang AI. Struktur hukuman mengikuti pendekatan bertingkat berdasarkan tingkat keparahan pelanggaran.

Penggunaan sistem AI terlarang merupakan kategori pelanggaran paling serius. Organisasi Anda berisiko menghadapi sanksi finansial yang signifikan jika terus mengoperasikan sistem terlarang setelah batas waktu Februari 2025.

Besaran denda yang tepat bergantung pada apakah organisasi Anda termasuk dalam kategori usaha kecil dan menengah atau perusahaan besar. Otoritas pengatur mempertimbangkan faktor-faktor seperti sifat pelanggaran, durasi pelanggaran, dan kerugian yang ditimbulkan.

Selain sanksi finansial, ketidakpatuhan dapat merusak reputasi organisasi Anda. Individu yang dirugikan oleh sistem AI terlarang dapat mencari upaya hukum tambahan melalui proses perdata.

Otoritas Perlindungan Data Belanda dan badan pengatur lainnya memiliki kewenangan penegakan hukum. Mereka dapat menyelidiki pengaduan, melakukan audit, dan menuntut penghentian segera praktik-praktik terlarang.