Undang-Undang AI Uni Eropa: Tonggak penting dalam regulasi AI
Pada tanggal 9 Desember 2023, Parlemen Eropa dan Dewan Uni Eropa telah mencapai kesepakatan tentang Undang-Undang Kecerdasan Buatan Uni Eropa (UU AI Uni Eropa).[1] Meskipun draf finalnya belum dipublikasikan, kontur yang luas telah ditetapkan untuk apa yang bisa menjadi tonggak penting dalam sejarah regulasi AI. Dengan ini, Uni Eropa telah menjadi salah satu regulator AI pertama di dunia.
Mengapa Undang-Undang ini dibuat?
Dalam beberapa tahun terakhir, kemajuan pesat dalam AI telah menimbulkan pertanyaan tentang kesiapan pemerintah dan badan pengatur dalam melindungi hak dan kesejahteraan warga negara. Para pemimpin industri juga telah menyatakan keprihatinannya atas potensi AI untuk mengganggu kehidupan kita dalam jangka panjang.[2] Aplikasi AI di bidang-bidang seperti kesehatan dan pendidikan, antara lain, memiliki potensi implikasi yang luas. Selain itu, industri AI itu sendiri merupakan peluang bisnis bernilai triliunan dolar[3] yang pemerintah ingin ambil bagian di dalamnya, dan tidak seperti internet, AI bukanlah produk dari laboratorium pemerintah. Komisi Eropa pertama kali hadir dengan draf untuk mengatur AI di Uni Eropa pada bulan April 2021.[4] Namun, dengan dirilisnya ChatGPT OpenAI pada tahun 2022 dan di samping kemajuan teknologi lainnya, Brussels merasa perlu untuk melihat kembali draf aslinya.[5] Dengan demikian, setelah tiga hari negosiasi yang intens, tiga cabang Uni Eropa mencapai kompromi mengenai wajah regulasi AI blok tersebut di masa mendatang, dengan demikian, bertujuan untuk memastikan pengawasan manusia atas AI.
Apa saja yang diatur dalam Undang-Undang tersebut?
Telah dilaporkan bahwa definisi AI yang diusulkan oleh Undang-Undang tersebut condong ke arah bagaimana OECD mendefinisikannya.[6] Definisi sistem AI yang diperbarui oleh OECD berbunyi sebagai[7]: “Sistem AI adalah sistem berbasis mesin yang, untuk tujuan eksplisit atau implisit, menyimpulkan, dari input yang diterimanya, bagaimana menghasilkan output seperti prediksi, konten, rekomendasi, atau keputusan yang dapat memengaruhi lingkungan fisik atau virtual. Sistem AI yang berbeda memiliki tingkat otonomi dan kemampuan beradaptasi yang berbeda-beda setelah diterapkan.”
Undang-undang ini mengikuti pendekatan “berbasis risiko”.[8] Sesuai dengan pendekatan ini, sistem AI telah diklasifikasikan ke dalam empat kategori[9] berdasarkan risiko yang ditimbulkannya: a) risiko yang tidak dapat diterima (penilaian sosial, identifikasi biometrik baik secara real-time maupun jarak jauh, kategorisasi biometrik yang menyimpulkan preferensi dan keyakinan pribadi serta manipulasi kognitif); b) risiko tinggi (sistem AI yang digunakan dalam domain seperti transportasi, pendidikan, dan juga sistem yang digunakan pada produk yang berada di bawah undang-undang keamanan produk Uni Eropa); c) AI tujuan umum dan generatif (sistem seperti ChatGPT dari OpenAI); dan, d) risiko terbatas (seperti deepfakes).
Sistem yang dikategorikan sebagai risiko yang tidak dapat diterima akan dilarang[10], sementara yang disebut berisiko tinggi akan menjalani penilaian[11] dampak hak asasi manusia sebelum dirilis ke pasar dan akan diberi label dengan tanda CE.[12] Sistem AI Tujuan Umum (GPAI) dan model yang menjadi dasarnya diwajibkan untuk mengikuti kewajiban transparansi[13]. Hal ini termasuk mematuhi undang-undang hak cipta Uni Eropa, menyiapkan dokumen teknis, dan merilis ringkasan materi pelatihan untuk sistem GPAI ini. Selain itu, sistem GPAI yang lebih canggih akan tunduk pada peraturan yang lebih ketat. Tidak ada batasan pada penggunaan sistem risiko terbatas yang ditempatkan selain dari rekomendasi penggunaan kode etik sukarela.[14]
Namun, ada beberapa pengecualian yang berlaku. Penggunaan sistem AI dengan risiko yang tidak dapat diterima hanya akan diizinkan dalam kasus kejahatan yang sangat serius.[15] Namun, hal ini akan tunduk pada persetujuan yudisial dengan daftar kejahatan yang telah ditentukan. Akan ada beberapa area tertentu di mana undang-undang ini tidak akan berlaku sama sekali[16]: militer atau pertahanan; sistem yang hanya digunakan untuk penelitian dan inovasi; dan digunakan oleh orang-orang untuk tujuan non-profesional.
Dalam hal struktur tata kelola[17], diharapkan undang-undang ini akan ditegakkan oleh lembaga nasional yang kompeten di masing-masing 27 negara anggota. Di tingkat Eropa, Kantor AI Eropa akan ditugaskan dengan administrasi dan penegakan undang-undang tersebut sementara juga akan ada Dewan AI Eropa dalam kapasitas penasihat dan akan terdiri dari perwakilan negara anggota.
Untuk membantu usaha kecil dan menengah (UKM) tumbuh[18], ketentuan untuk “Kotak pasir peraturan” dan “pengujian dunia nyata” telah disertakan.
Warga negara juga telah diberi hak untuk mencari ganti rugi di bawah rezim AI.[19] Mereka akan dapat mengajukan keluhan dan “menerima penjelasan tentang keputusan berdasarkan sistem AI berisiko tinggi yang berdampak pada hak-hak mereka.” Hukuman[20] akan dijatuhkan jika terjadi pelanggaran peraturan dan akan berkisar dari 7,5 juta Euro hingga 35 juta Euro (atau sebagai persentase dari omset mana pun yang lebih tinggi). Namun, perusahaan yang lebih kecil akan diberi kelonggaran karena denda mereka akan dibatasi.
Kelebihan
Pembacaan yang cermat terhadap draf awal 2021 dan siaran pers setelah kesepakatan dicapai menunjukkan sejumlah hal positif. Pertama, pendekatan berbasis risiko yang diikuti oleh undang-undang ini merupakan cara inovatif untuk menghadapi berbagai tantangan yang diperkirakan akan ditimbulkan oleh AI. Kedua, undang-undang ini juga menyeimbangkan kebutuhan penegakan hukum dengan hak-hak warga negara. Ketiga, ketentuan penilaian dampak hak-hak dasar menjaga kesejahteraan warga negara di garis depan. Demikian juga, memberdayakan warga negara untuk mencari ganti rugi memungkinkan warga negara yang kuat. Keempat, ketentuan yang membantu pertumbuhan UKM juga patut dipuji.
… dan kontra
Meskipun memiliki banyak fitur yang patut dipuji, UU AI UE juga telah dikritik dan kekhawatiran telah dikemukakan. Ketakutan akan regulasi[21] yang berlebihan telah disuarakan oleh berbagai pihak mengenai beberapa ketentuan ketat (seperti denda yang tinggi) dalam UU tersebut dengan pengamat yang berpendapat bahwa hal itu dapat menghambat inovasi. Undang-undang tersebut membayangkan pembentukan Kantor AI Eropa dan regulator di semua negara anggota yang dapat terbukti sulit karena ada lebih sedikit ruang[22] untuk manuver anggaran saat ini.
Naskah asli dari Undang-Undang tersebut masih harus diselesaikan.[23] Hal ini membuka berbagai kemungkinan lain karena proses ini dapat memakan waktu hingga setelah pemilihan parlemen Eropa yang dijadwalkan pada bulan Juni 2024.[24] Hal ini dapat menyebabkan perubahan pada ketentuan-ketentuan yang telah disepakati. Persetujuan akhir untuk Undang-Undang dari perwakilan negara anggota di Dewan juga akan dicari setelah rancangan teks terbentuk. Undang-undang ini mungkin tergelincir jika negara-negara anggota tidak puas dengan ketentuan akhir dari Undang-undang dan jika mereka melihat mereka melanggar kekuasaan mereka sendiri. Selain itu, UU tersebut tidak akan sepenuhnya berlaku sebelum 2026. Mempertimbangkan kecepatan pengembangan AI, ada kemungkinan[25] bahwa UU tersebut mungkin akan ditemukan kekurangannya di bidang-bidang tertentu.
Regulasi perangkat lunak AI sumber terbuka adalah masalah lain yang sangat memprihatinkan karena potensinya untuk disalahgunakan.[26]
Apa yang selanjutnya
Dengan Undang-Undang AI, Uni Eropa telah mengambil langkah pertama untuk menggunakan dan mengembangkan AI secara bertanggung jawab. Hal ini menempatkannya di depan rekan-rekannya seperti Amerika Serikat dan Inggris dalam hal mengatur AI. Undang-undang ini memiliki potensi untuk menjadi tolok ukur dalam regulasi AI seperti halnya GDPR untuk privasi dan perlindungan data. Namun, Uni Eropa perlu memastikan bahwa Undang-Undang tersebut dalam bentuk finalnya, menyeimbangkan perlindungan hak-hak warga negara dengan kebutuhan untuk mendorong inovasi sementara pada saat yang sama, mempertahankan fleksibilitas yang cukup untuk tetap relevan dengan kecepatan pengembangan AI.
[1] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[2] Online, E. (2023, November 2). Elon Musk on AI: One of humanity’s “biggest threats.” The Economic Times. https://economictimes.indiatimes.com/tech/technology/elon-musk-on-ai-one-of-humanitys-biggest-threats/videoshow/104909843.cms?from=mdr
[3] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html
[4] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[5] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html
[6] Dawn of the EU’s AI Act: political agreement reached on world’s first comprehensive horizontal AI regulation. (2023, December 14). White & Case LLP International Law Firm, Global Law Practice. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai
[7] Russel, S., Perset, K., & Grobelnik, M. (2023, November 29). Updates to the OECD’s definition of an AI system explained. OECD. https://oecd.ai/en/wonk/ai-system-definition-update
[8] European Commission. (2021, April 21). Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amendinf Certain Union Legislative Action. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF
[9] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[10] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
[11] Ibid.
[12] Davies, P. (2023, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far
[13] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
[14] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[15] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
[16] EU AI Act: European Parliament and Council reach agreement. (2024, January 17). Insights | Mayer Brown. https://www.mayerbrown.com/en/insights/publications/2023/12/eu-ai-act-european-parliament-and-council-reach-agreement
[17] Dawn of the EU’s AI Act: political agreement reached on world’s first comprehensive horizontal AI regulation. (2023b, December 14). White & Case LLP International Law Firm, Global Law Practice. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai
[18] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
[19] EU AI Act: European Parliament and Council reach agreement. (2024b, January 17). Insights | Mayer Brown. https://www.mayerbrown.com/en/insights/publications/2023/12/eu-ai-act-european-parliament-and-council-reach-agreement
[20] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
[21] Davies, P. (2023b, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far
[22] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html
[23] Accelerated scrutiny of AI systems in 2024: the EU AI Act and the U.S. strategy. (2024, January 9). JD Supra. https://www.jdsupra.com/legalnews/accelerated-scrutiny-of-ai-systems-in-1273917/
[24] Davies, P. (2023c, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far
[25] Ibid.
[26] Op.Cit.