Law Regulation

April 22 2024

Undang-Undang AI Uni Eropa: Tonggak penting dalam regulasi AI

Rifani Agnes Eka Wahyuni Europe, Politics, Security and Defence, Tech, Think Cyber security, CyberLaw, European Union, Law Regulation 0

Pada tanggal 9 Desember 2023, Parlemen Eropa dan Dewan Uni Eropa telah mencapai kesepakatan tentang Undang-Undang Kecerdasan Buatan Uni Eropa (UU AI Uni Eropa).[1] Meskipun draf finalnya belum dipublikasikan, kontur yang luas telah ditetapkan untuk apa yang bisa menjadi tonggak penting dalam sejarah regulasi AI. Dengan ini, Uni Eropa telah menjadi salah satu regulator AI pertama di dunia.

Mengapa Undang-Undang ini dibuat?

Dalam beberapa tahun terakhir, kemajuan pesat dalam AI telah menimbulkan pertanyaan tentang kesiapan pemerintah dan badan pengatur dalam melindungi hak dan kesejahteraan warga negara. Para pemimpin industri juga telah menyatakan keprihatinannya atas potensi AI untuk mengganggu kehidupan kita dalam jangka panjang.[2] Aplikasi AI di bidang-bidang seperti kesehatan dan pendidikan, antara lain, memiliki potensi implikasi yang luas. Selain itu, industri AI itu sendiri merupakan peluang bisnis bernilai triliunan dolar[3] yang pemerintah ingin ambil bagian di dalamnya, dan tidak seperti internet, AI bukanlah produk dari laboratorium pemerintah. Komisi Eropa pertama kali hadir dengan draf untuk mengatur AI di Uni Eropa pada bulan April 2021.[4] Namun, dengan dirilisnya ChatGPT OpenAI pada tahun 2022 dan di samping kemajuan teknologi lainnya, Brussels merasa perlu untuk melihat kembali draf aslinya.[5] Dengan demikian, setelah tiga hari negosiasi yang intens, tiga cabang Uni Eropa mencapai kompromi mengenai wajah regulasi AI blok tersebut di masa mendatang, dengan demikian, bertujuan untuk memastikan pengawasan manusia atas AI.

Apa saja yang diatur dalam Undang-Undang tersebut?

Telah dilaporkan bahwa definisi AI yang diusulkan oleh Undang-Undang tersebut condong ke arah bagaimana OECD mendefinisikannya.[6] Definisi sistem AI yang diperbarui oleh OECD berbunyi sebagai[7]: “Sistem AI adalah sistem berbasis mesin yang, untuk tujuan eksplisit atau implisit, menyimpulkan, dari input yang diterimanya, bagaimana menghasilkan output seperti prediksi, konten, rekomendasi, atau keputusan yang dapat memengaruhi lingkungan fisik atau virtual. Sistem AI yang berbeda memiliki tingkat otonomi dan kemampuan beradaptasi yang berbeda-beda setelah diterapkan.”

Undang-undang ini mengikuti pendekatan “berbasis risiko”.[8] Sesuai dengan pendekatan ini, sistem AI telah diklasifikasikan ke dalam empat kategori[9] berdasarkan risiko yang ditimbulkannya: a) risiko yang tidak dapat diterima (penilaian sosial, identifikasi biometrik baik secara real-time maupun jarak jauh, kategorisasi biometrik yang menyimpulkan preferensi dan keyakinan pribadi serta manipulasi kognitif); b) risiko tinggi (sistem AI yang digunakan dalam domain seperti transportasi, pendidikan, dan juga sistem yang digunakan pada produk yang berada di bawah undang-undang keamanan produk Uni Eropa); c) AI tujuan umum dan generatif (sistem seperti ChatGPT dari OpenAI); dan, d) risiko terbatas (seperti deepfakes).

Sistem yang dikategorikan sebagai risiko yang tidak dapat diterima akan dilarang[10], sementara yang disebut berisiko tinggi akan menjalani penilaian[11] dampak hak asasi manusia sebelum dirilis ke pasar dan akan diberi label dengan tanda CE.[12] Sistem AI Tujuan Umum (GPAI) dan model yang menjadi dasarnya diwajibkan untuk mengikuti kewajiban transparansi[13]. Hal ini termasuk mematuhi undang-undang hak cipta Uni Eropa, menyiapkan dokumen teknis, dan merilis ringkasan materi pelatihan untuk sistem GPAI ini. Selain itu, sistem GPAI yang lebih canggih akan tunduk pada peraturan yang lebih ketat. Tidak ada batasan pada penggunaan sistem risiko terbatas yang ditempatkan selain dari rekomendasi penggunaan kode etik sukarela.[14]

Namun, ada beberapa pengecualian yang berlaku. Penggunaan sistem AI dengan risiko yang tidak dapat diterima hanya akan diizinkan dalam kasus kejahatan yang sangat serius.[15] Namun, hal ini akan tunduk pada persetujuan yudisial dengan daftar kejahatan yang telah ditentukan. Akan ada beberapa area tertentu di mana undang-undang ini tidak akan berlaku sama sekali[16]: militer atau pertahanan; sistem yang hanya digunakan untuk penelitian dan inovasi; dan digunakan oleh orang-orang untuk tujuan non-profesional.

Dalam hal struktur tata kelola[17], diharapkan undang-undang ini akan ditegakkan oleh lembaga nasional yang kompeten di masing-masing 27 negara anggota. Di tingkat Eropa, Kantor AI Eropa akan ditugaskan dengan administrasi dan penegakan undang-undang tersebut sementara juga akan ada Dewan AI Eropa dalam kapasitas penasihat dan akan terdiri dari perwakilan negara anggota.

Untuk membantu usaha kecil dan menengah (UKM) tumbuh[18], ketentuan untuk “Kotak pasir peraturan” dan “pengujian dunia nyata” telah disertakan.

Warga negara juga telah diberi hak untuk mencari ganti rugi di bawah rezim AI.[19] Mereka akan dapat mengajukan keluhan dan “menerima penjelasan tentang keputusan berdasarkan sistem AI berisiko tinggi yang berdampak pada hak-hak mereka.” Hukuman[20] akan dijatuhkan jika terjadi pelanggaran peraturan dan akan berkisar dari 7,5 juta Euro hingga 35 juta Euro (atau sebagai persentase dari omset mana pun yang lebih tinggi). Namun, perusahaan yang lebih kecil akan diberi kelonggaran karena denda mereka akan dibatasi.

Kelebihan

Pembacaan yang cermat terhadap draf awal 2021 dan siaran pers setelah kesepakatan dicapai menunjukkan sejumlah hal positif. Pertama, pendekatan berbasis risiko yang diikuti oleh undang-undang ini merupakan cara inovatif untuk menghadapi berbagai tantangan yang diperkirakan akan ditimbulkan oleh AI. Kedua, undang-undang ini juga menyeimbangkan kebutuhan penegakan hukum dengan hak-hak warga negara. Ketiga, ketentuan penilaian dampak hak-hak dasar menjaga kesejahteraan warga negara di garis depan. Demikian juga, memberdayakan warga negara untuk mencari ganti rugi memungkinkan warga negara yang kuat. Keempat, ketentuan yang membantu pertumbuhan UKM juga patut dipuji.

… dan kontra

Meskipun memiliki banyak fitur yang patut dipuji, UU AI UE juga telah dikritik dan kekhawatiran telah dikemukakan. Ketakutan akan regulasi[21] yang berlebihan telah disuarakan oleh berbagai pihak mengenai beberapa ketentuan ketat (seperti denda yang tinggi) dalam UU tersebut dengan pengamat yang berpendapat bahwa hal itu dapat menghambat inovasi. Undang-undang tersebut membayangkan pembentukan Kantor AI Eropa dan regulator di semua negara anggota yang dapat terbukti sulit karena ada lebih sedikit ruang[22] untuk manuver anggaran saat ini.

Naskah asli dari Undang-Undang tersebut masih harus diselesaikan.[23] Hal ini membuka berbagai kemungkinan lain karena proses ini dapat memakan waktu hingga setelah pemilihan parlemen Eropa yang dijadwalkan pada bulan Juni 2024.[24] Hal ini dapat menyebabkan perubahan pada ketentuan-ketentuan yang telah disepakati. Persetujuan akhir untuk Undang-Undang dari perwakilan negara anggota di Dewan juga akan dicari setelah rancangan teks terbentuk. Undang-undang ini mungkin tergelincir jika negara-negara anggota tidak puas dengan ketentuan akhir dari Undang-undang dan jika mereka melihat mereka melanggar kekuasaan mereka sendiri. Selain itu, UU tersebut tidak akan sepenuhnya berlaku sebelum 2026. Mempertimbangkan kecepatan pengembangan AI, ada kemungkinan[25] bahwa UU tersebut mungkin akan ditemukan kekurangannya di bidang-bidang tertentu.

Regulasi perangkat lunak AI sumber terbuka adalah masalah lain yang sangat memprihatinkan karena potensinya untuk disalahgunakan.[26]

Apa yang selanjutnya

Dengan Undang-Undang AI, Uni Eropa telah mengambil langkah pertama untuk menggunakan dan mengembangkan AI secara bertanggung jawab. Hal ini menempatkannya di depan rekan-rekannya seperti Amerika Serikat dan Inggris dalam hal mengatur AI. Undang-undang ini memiliki potensi untuk menjadi tolok ukur dalam regulasi AI seperti halnya GDPR untuk privasi dan perlindungan data. Namun, Uni Eropa perlu memastikan bahwa Undang-Undang tersebut dalam bentuk finalnya, menyeimbangkan perlindungan hak-hak warga negara dengan kebutuhan untuk mendorong inovasi sementara pada saat yang sama, mempertahankan fleksibilitas yang cukup untuk tetap relevan dengan kecepatan pengembangan AI.

[1] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[2] Online, E. (2023, November 2). Elon Musk on AI: One of humanity’s “biggest threats.” The Economic Times. https://economictimes.indiatimes.com/tech/technology/elon-musk-on-ai-one-of-humanitys-biggest-threats/videoshow/104909843.cms?from=mdr

[3] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

[4] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[5] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

[6] Dawn of the EU’s AI Act: political agreement reached on world’s first comprehensive horizontal AI regulation. (2023, December 14). White & Case LLP International Law Firm, Global Law Practice. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai

[7] Russel, S., Perset, K., & Grobelnik, M. (2023, November 29). Updates to the OECD’s definition of an AI system explained. OECD. https://oecd.ai/en/wonk/ai-system-definition-update

[8] European Commission. (2021, April 21). Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amendinf Certain Union Legislative Action. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF

[9] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[10] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[11] Ibid.

[12] Davies, P. (2023, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far

[13] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[14] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[15] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[16] EU AI Act: European Parliament and Council reach agreement. (2024, January 17). Insights | Mayer Brown. https://www.mayerbrown.com/en/insights/publications/2023/12/eu-ai-act-european-parliament-and-council-reach-agreement

[17] Dawn of the EU’s AI Act: political agreement reached on world’s first comprehensive horizontal AI regulation. (2023b, December 14). White & Case LLP International Law Firm, Global Law Practice. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai

[18] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[19] EU AI Act: European Parliament and Council reach agreement. (2024b, January 17). Insights | Mayer Brown. https://www.mayerbrown.com/en/insights/publications/2023/12/eu-ai-act-european-parliament-and-council-reach-agreement

[20] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[21] Davies, P. (2023b, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far

[22] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

[23] Accelerated scrutiny of AI systems in 2024: the EU AI Act and the U.S. strategy. (2024, January 9). JD Supra. https://www.jdsupra.com/legalnews/accelerated-scrutiny-of-ai-systems-in-1273917/

[24] Davies, P. (2023c, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far

[25] Ibid.

[26] Op.Cit.

xr:d:DAEocr_tmMY:960,j:8775660273819459832,t:23071314

April 18 2024

Kecerdasan buatan dan kepribadian: Interaksi antara agensi dan tanggung jawab

Rifani Agnes Eka Wahyuni Security and Defence, Tech, Think Artificial Intelligence, Cyber security, Law Regulation 0

Kecerdasan buatan (AI) merupakan istilah umum yang mencakup berbagai pendekatan komputasi, mulai dari pembelajaran mesin hingga pemrosesan bahasa alami dan visi komputer. Hal ini mencakup beragam fungsi[1] untuk integrasi dan analisis data dan informasi melalui interaksi yang kompleks[2] antara logika, probabilitas, matematika, persepsi, penalaran, pembelajaran, atau tindakan. Sebagai hasil dari fungsi-fungsi yang luas dan aplikasi tujuan umum, AI memiliki dampak transformatif yang potensial di berbagai sektor[3] seperti keuangan, keamanan nasional, perawatan kesehatan, peradilan pidana, transportasi, kota pintar, dan pasar tenaga kerja. Teknologi ini telah menjadi aspek yang merasuk dalam kehidupan sehari-hari[4] dengan aplikasi pengenalan suara, layanan pelanggan, klasifikasi gambar, dan mesin rekomendasi yang digunakan di berbagai aplikasi dan produk seluler komersial, mulai dari Apple Siri dan Amazon Alexa hingga kendaraan otonom.

Namun, baru-baru ini, munculnya AI generatif[5] menimbulkan pertanyaan kritis tentang implikasi[6] dampak transformatifnya di berbagai isu[7] seperti hak cipta dan kekayaan intelektual, privasi data dan perlindungan konsumen, masa depan pekerjaan, dan keamanan produk. Hal ini, pada gilirannya, menimbulkan pertanyaan tentang badan hukum untuk AI, yaitu apakah AI harus dianggap sebagai badan hukum yang terpisah untuk regulasi.

Menentukan tanggung jawab perdata AI[8] telah menjadi aspek penting dalam penetapan standar dan inovasi AI, terutama karena adanya kekhawatiran seputar potensi bias, misrepresentasi, ‘halusinasi’ atau pembuatan informasi palsu, dan teka-teki etika yang kompleks yang mungkin harus dinavigasi oleh sistem AI. Sebuah contoh ilustratif diberikan melalui proyek Moral Machine dari MIT[9], yang merupakan alat perangkat lunak online yang dirancang[10] untuk mengumpulkan umpan balik dari masyarakat tentang keputusan moral yang harus diambil oleh mobil tanpa sopir. Ini termasuk dilema moral[11] seperti siapa yang harus diprioritaskan oleh mobil jika terjadi kecelakaan yang akan datang-penumpang atau pejalan kaki? Atau apakah mereka harus menentukan hasilnya dengan mengurutkan orang berdasarkan usia mereka (seperti anak-anak di atas orang dewasa) atau jumlah (menyelamatkan lebih banyak orang di atas satu orang) atau kriteria lain yang relevan.

Badan buatan dan pendekatan peraturan

Menerapkan pendekatan tradisional dalam menangani tanggung jawab menjadi rumit[12] ketika menyangkut AI karena ketidakpastian dan agen penyebab tanpa badan hukum. Hal ini melibatkan ketidakjelasan atau ketidakjelasan algoritme AI atau ketidakmampuan untuk melacak rantai sebab akibat di balik keluaran AI untuk menentukan di mana letak tanggung jawab jika terjadi konsekuensi yang merugikan. Hal ini menjadi sangat diperdebatkan ketika isu-isu dibingkai[13] di sekitar apakah pilihan yang dibuat oleh sistem dan model AI bergantung pada agen, yang kemudian menimbulkan pertanyaan tentang siapa agen itu ketika datang untuk menentukan tanggung jawab atas dasar keluaran AI generatif – apakah pengembang, penyebar, atau sistem AI itu sendiri? Masalah-masalah ini semakin diperparah dalam kasus sistem AI multi-model[14] dan multimodal[15], yang melibatkan penggabungan model-model AI dasar seperti Large Language Models (LLM) dengan kemampuan AI yang lebih luas, serta di mana sistem AI dapat menarik wawasan dari berbagai jenis data yang melibatkan teks, gambar, suara, dan video.

Subjek hukum dapat mencakup orang perseorangan dan badan hukum, di mana badan hukum mengacu pada subjek hukum yang bukan orang perseorangan, misalnya, korporasi.[16] Gagasan tentang orang menjadi penting bagi suatu entitas untuk bertindak dalam hukum, bertanggung jawab, atau bahkan bertindak atas nama orang lain seperti dalam hubungan prinsipal-agen. Yang terakhir ini mengasumsikan hubungan hukum yang spesifik antara prinsipal dan agen, di mana agen bertindak atas nama prinsipal, di mana menjadi sangat penting untuk menetapkan otoritas agen atau sejauh mana agen diizinkan untuk bertindak atas nama prinsipal. Namun, konsepsi keagenan hukum dan gagasan tentang keagenan artifisial memunculkan pertanyaan-pertanyaan penting seputar lokasi tanggung jawab dan kewajiban.

Agen artifisial berasal dari seperangkat elemen yang saling terkait dalam suatu sistem, yang merespons lingkungan mereka dan yang menjalankan fungsi untuk agen lain di mana otonominya berasal dari sifat mengarahkan diri sendiri dan mengatur diri sendiri. Dalam konsepsi ini, agen-agen buatan akan dikualifikasikan sebagai objek atau alat hukum, bukan sebagai subjek hukum. Hal ini menyebabkan munculnya seruan untuk mengatur sistem semacam itu dalam rezim pertanggungjawaban produk melalui pendekatan manajemen risiko[17] di mana pihak yang paling mampu mengendalikan atau mengelola risiko terkait teknologi bertanggung jawab secara ketat sebagai pintu masuk tunggal litigasi. Hal ini selaras dengan pendekatan Eropa[18] yang lebih luas dan rekomendasi Kelompok Ahli tentang pertanggungjawaban untuk AI dan teknologi baru lainnya yang tidak memberikan kedudukan hukum kepada AI.[19] Hal ini membuat para pengembang dan penyebar bertanggung jawab atas risiko bahaya atau kerusakan yang timbul dari sistem sambil mewajibkan pengguna untuk mengoperasikan dan memelihara teknologi dengan aman.[20]

Namun, ada beberapa kekurangan dari posisi ini. Sebagian besar sistem AI cenderung merupakan produk dari perjanjian lintas batas yang kompleks antara banyak pengembang[21], penyebar, dan pengguna sebelum mencapai pengguna akhir di mana mungkin menjadi tidak mungkin untuk mengidentifikasi seseorang yang bertanggung jawab dalam jaringan internasional yang saling bergantung ini. Selain itu, karena sifat sistem AI yang tidak jelas dan dapat belajar sendiri, risiko bahaya atau kerusakan dapat terjadi dengan cara yang tidak dapat diprediksi[22] oleh pihak-pihak yang bertanggung jawab atas pengembangan dan penerapannya, sehingga sulit untuk menentukan tanggung jawab pada entitas tertentu.

Namun, pemberian personalitas hukum AI juga perlu menghadapi pertanyaan hukum yang pelik di berbagai dimensi hukum[23], yaitu apakah AI dapat memiliki properti, menandatangani kontrak, mengajukan atau disebutkan dalam gugatan, memiliki hak khusus, dan kompetensi hukum lainnya seperti membeli dan menjual sebagai aktor komersial atau memiliki kekayaan intelektual. Lebih lanjut, memberikan AI sebagai badan hukum akan membebaskan pemilik[24], produsen, atau pengembang dari tanggung jawab atas kreasi mereka. Meskipun hukum dapat memberikan badan hukum[25] kepada suatu entitas jika legislatif menganggapnya penting untuk melindungi hak dan kepentingan warganya, badan hukum yang melibatkan hukum pidana atau pelanggaran hak-hak konstitusional seperti privasi dan non-diskriminasi tampaknya membutuhkan entitas yang dapat dimintai pertanggungjawaban atas tindakan mereka. Ketika badan hukum seperti korporasi dimintai pertanggungjawaban dalam kondisi seperti itu, meskipun mereka tidak dapat dipenjara, bentuk hukuman lain dapat diterapkan seperti pengenaan denda, penghentian operasi, atau penutupan organisasi. Mengingat pesatnya laju perkembangan teknologi dan konsekuensinya terhadap masyarakat dan ekonomi, masih harus dilihat bagaimana isu-isu ini akan diselesaikan, apakah melalui undang-undang dan/atau inovasi hukum atau komersial.

Langkah ke depan

Personalitas hukum untuk AI masih menjadi topik yang diperdebatkan dengan argumen yang sama kuatnya di kedua sisi perdebatan dengan dilema etika dan hukum yang belum terselesaikan. Beberapa komentator berpendapat bahwa ada versi khusus dari personalitas hukum terbatas untuk sistem AI yang analog dengan karakteristik spesifik mereka.[26] Di sisi lain, dapat dikatakan bahwa pertanyaan tentang personalitas hukum harus ditangguhkan ketika kecerdasan umum buatan atau AI yang memiliki kesadaran menjadi sebuah kenyataan. Sementara itu, pendekatan komputasi AI yang ada saat ini dapat ditangani dengan memperbarui hukum yang ada[27], menyusun undang-undang baru, atau memasukkan rezim perizinan seperti pra-otorisasi aplikasi yang dapat diterima atau model yang mirip dengan operasi Food and Drug Administration di AS. Pertanyaan tentang AI dan personalitas hukum terus menjadi pertanyaan terbuka tanpa adanya yurisdiksi di dunia yang saat ini memberikan hak atau tanggung jawab hukum kepada AI.[28]

Namun, seiring dengan meningkatnya kekhawatiran akan pelanggaran hak cipta dan privasi, terutama di era deepfake, semakin menjadi pusat perhatian[29], begitu pula dengan pertanyaan seputar hak, tanggung jawab, dan kewajiban. Risiko bahaya tidak lagi terbatas pada dilema moral teoretis tetapi telah memiliki implikasi dunia nyata bagi warga negara. Ketika India berupaya menyeimbangkan transformasi yang dipimpin oleh AI[30] sembari mengurangi bahaya dari dampak buruknya[31], India telah mengakui perlunya menetapkan standar untuk pertanggungjawaban perdata untuk AI dengan membangun pembelajaran dari berbagai yurisdiksi. Draf laporan[32] dari Komite Keamanan Siber, Keselamatan, Hukum, dan Masalah Etika yang diselenggarakan oleh MeitY (Kementerian Elektronik dan Teknologi Informasi) menyoroti perlunya para pemangku kepentingan untuk mempertimbangkan pertanyaan tentang kedudukan hukum untuk sistem AI. Namun, mereka memperingatkan bahwa pemberian status hukum tersebut harus disertai dengan skema asuransi atau dana kompensasi untuk mengganti kerugian. Ke depannya, regulasi untuk AI perlu mengidentifikasi cara untuk menyeimbangkan inovasi, hak, dan tanggung jawab untuk menentukan pendekatan hukum atau peraturan di mana kewajiban dan pemulihan dapat dengan jelas dibagi dan digambarkan. Hal ini akan melibatkan konseptualisasi kemampuan agen sistem AI bersama dengan pertimbangan pragmatis untuk proses penyelarasan kapasitas otonom, agensi kausal, dan tanggung jawab yang akan membantu mengidentifikasi dan merancang instrumen hukum atau kerangka kerja peraturan yang sesuai.

[1] West, D. M., & Allen, J. R. (2018, April 24). How artificial intelligence is transforming the world. Brookings. https://www.brookings.edu/articles/how-artificial-intelligence-is-transforming-the-world/

[2] Artificial Intelligence: A Modern Approach, 4th US ed. (n.d.). https://aima.cs.berkeley.edu/

[3] West, D. M., & Allen, J. R. (2018b, April 24). How artificial intelligence is transforming the world. Brookings. https://www.brookings.edu/articles/how-artificial-intelligence-is-transforming-the-world/

[4] What is Artificial Intelligence (AI)? (n.d.). IBM. https://www.ibm.com/topics/artificial-intelligence

[5] Ibid.

[6] Guest. (2023, October 2). Role of generative AI in India. Financial Express. https://www.financialexpress.com/business/digital-transformation-role-of-generative-ai-in-india-3260455

[7] Papakonstantinou, V. (2020, November 25). Refusing to award legal personality to AI: Why the European Parliament got it wrong. European Law Blog. https://europeanlawblog.eu/2020/11/25/refusing-to-award-legal-personality-to-ai-why-the-european-parliament-got-it-wrong/

[8] Civil liability of artificial intelligence. (n.d.). INDIAai. https://indiaai.gov.in/ai-standards/civil-liability-of-artificial-intelligence

[9] Project Overview ‹ Moral Machine – MIT Media Lab. (n.d.). MIT Media Lab. https://www.media.mit.edu/projects/moral-machine/overview/

[10] Moral machine. (n.d.). Moral Machine. https://www.moralmachine.net/

[11] The MIT Press, Massachusetts Institute of Technology. (2024, January 12). Book details – MIT Press. MIT Press. https://mitpress.mit.edu/9780262045797/

[12] Civil liability of artificial intelligence. (n.d.). INDIAai. https://indiaai.gov.in/ai-standards/civil-liability-of-artificial-intelligence

[13] Hildebrandt, M. (2019, June 2). 9. Legal personhood for AI? Law For Computer Scientists. https://lawforcomputerscientists.pubpub.org/pub/4swyxhx5/release/5

[14] Miskawi, F. (2023, September 18). The future of artificial intelligence is a multi-model ecosystem. CGI. https://www.cgi.com/en/blog/artificial-intelligence/future-artificial-intelligence-multi-model-ecosystem

[15] Chatterjee, P. (2023, October 10). What is multimodal artificial intelligence and why is it important? The Hindu. https://www.thehindu.com/sci-tech/technology/what-is-multimodal-artificial-intelligence-and-why-is-it-important/article67401139.ece

[16] Hildebrandt, M. (2019b, June 2). 9. Legal personhood for AI? Law For Computer Scientists. https://lawforcomputerscientists.pubpub.org/pub/4swyxhx5/release/5

[17] Artificial Intelligence and Civil Liability. (2020, July 14). European Parliament. https://www.europarl.europa.eu/thinktank/en/document/IPOL_STU(2020)621926

[18] REPORT FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL AND THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE. (2020, February 19). EUROPEAN COMMISSION. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52020DC0064

[19]Publications Office of the European Union. (2019). Liability for artificial intelligence and other emerging digital technologies. Publications Office of the EU. https://op.europa.eu/en/publication-detail/-/publication/1c5e30be-1197-11ea-8c1f-01aa75ed71a1/language-en

[20] Papakonstantinou, V. (2020b, November 25). Refusing to award legal personality to AI: Why the European Parliament got it wrong. European Law Blog. https://europeanlawblog.eu/2020/11/25/refusing-to-award-legal-personality-to-ai-why-the-european-parliament-got-it-wrong/

[21] Ibid.

[22] Hildebrandt, M. (2019b, June 2). 9. Legal personhood for AI? Law For Computer Scientists. https://lawforcomputerscientists.pubpub.org/pub/4swyxhx5/release/5

[23] Eliot, L. (2023, October 5). Legal personhood for AI is taking a sneaky path that makes AI law and AI ethics very nervous indeed. Forbes. https://www.forbes.com/sites/lanceeliot/2022/11/21/legal-personhood-for-ai-is-taking-a-sneaky-path-that-makes-ai-law-and-ai-ethics-very-nervous-indeed/?sh=3a6b603ef48a

[24] Should India recognise Artificial Intelligence as an artificial person? (2023, February 15). Moneycontrol. https://www.moneycontrol.com/news/opinion/should-india-recognise-artificial-intelligence-as-an-artificial-person-10085551.html

[25] Hildebrandt, M. (2019b, June 2). 9. Legal personhood for AI? Law For Computer Scientists. https://lawforcomputerscientists.pubpub.org/pub/4swyxhx5/release/5

[26] Eliot, L. (2023b, October 5). Legal personhood for AI is taking a sneaky path that makes AI law and AI ethics very nervous indeed. Forbes. https://www.forbes.com/sites/lanceeliot/2022/11/21/legal-personhood-for-ai-is-taking-a-sneaky-path-that-makes-ai-law-and-ai-ethics-very-nervous-indeed/?sh=3a6b603ef48a

[27] Civil liability of artificial intelligence. (n.d.-b). INDIAai. https://indiaai.gov.in/ai-standards/civil-liability-of-artificial-intelligence

[28] Anand, S. (2023, May 24). Opinion: Time To Explore AI’s Legal Rights? NDTV. https://www.ndtv.com/opinion/time-to-determine-legal-rights-for-robots-4057252

[29] Citron, D. K., & Chesney, R. (2019, December). Deep Fakes: a looming challenge for privacy, democracy, and national security. Scholarly Commons at Boston University School of Law. https://scholarship.law.bu.edu/faculty_scholarship/640/

[30] Seven MeitY AI Working Groups submit first edition of India AI Report. (2023, October 13). Ministry of Electronics & IT. https://pib.gov.in/PressReleaseIframePage.aspx?PRID=1967487

[31] Ians. (2024, January 17). Centre to notify strict IT rules soon to tackle deepfake issue: Rajeev Chandrasekhar. The Economic Times. https://economictimes.indiatimes.com/tech/technology/centre-to-notify-strict-it-rules-soon-to-tackle-deepfake-issue-rajeev-chandrasekhar/articleshow/106922098.cms?from=mdr

[32] Ministry of Electronics & Information Technology Government of India.Report of Committee- D on Cyber Security, Safety, Legal and Ethnical Issues. https://www.meity.gov.in/writereaddata/files/Committes_D-Cyber-n-Legal-and-Ethical.pdf

Autonomousvehiclesandselfdrivingcars-1200x675

October 23 2023

Blind Navigation by Autonomous Vehicles

Samuel Djuarsa Security and Defence, Social and Culture, Tech, Think Artificial Intelligence, Autonomous Vehicles, breaking, Law Regulation 0

San Francisco witnessed a distressing incident this month as a woman endured severe injuries after being hit by a driver and subsequently propelled into the path of one of the numerous self-driving cars traversing the city’s streets. In a recent testimony, San Francisco’s fire chief, Jeanine Nicholson, revealed that autonomous vehicles have been causing disruptions to firefighting operations on 55 occasions this year, as reported until August. Since 2019, Tesla’s autopilot software, which serves as a driver-assistance system, has been implicated in 736 crashes and has tragically resulted in the loss of 17 lives nationwide.

Amidst the ongoing debate surrounding the potential future threat of artificial intelligence to humanity, there appears to be a conspicuous absence of dialogue regarding how it poses a threat. In self-driving cars, navigating uncharted territory becomes a prominent concern.

The absence of federal software safety testing standards for autonomous vehicles has created a significant loophole that industry giants such as Elon Musk, General Motors, and Waymo have been able to exploit by deploying thousands of cars. In the United States, the regulation of car hardware, including components like windshield wipers, airbags, and mirrors, falls under the purview of the National Highway Traffic Safety Administration (NHTSA). The authority to grant driver’s licenses is decentralized in a system where the responsibility of licensing human drivers lies with the states. In order to obtain the privilege of operating a motor vehicle, most individuals are required to complete a series of assessments, including a visual examination, a written assessment, and a practical driving evaluation.

Without government scrutiny, the AI assumes control of the wheel without undergoing any regulatory oversight. In California, businesses can obtain a license to run driverless cars if they declare that their vehicles have been tested and that the “manufacturer has reasonably determined that it is safe to operate the vehicle.”

A glaring discrepancy has emerged regarding the jurisdiction responsible for licensing a computer driver in a perplexing conundrum. The question looms large: Does the authority lie with the esteemed National Highway Traffic Safety Administration (NHTSA), or does it rest within the purview of the state? This puzzling gap in oversight has left experts scratching their heads as the lines of responsibility remain blurred and unresolved. Missy Cummings, a professor and the esteemed director of the Mason Autonomy and Robotics Center at George Mason University, is queried.

In a curious twist of fate, the prevailing narrative surrounding the rise of artificial intelligence has fixated on the apprehension that machines will surpass human intelligence and seize dominion over our world. However, today’s stark reality is quite the opposite: computers frequently exhibit a lamentable lack of discernment, leading to inadvertent harm inflicted upon us mere mortals.

In a bold assertion, the autonomous vehicle companies maintain that, notwithstanding the highly publicized instances of malfunction, their software surpasses the capabilities of human drivers. While it is plausible to consider the advantages of autonomous vehicles, such as their immunity to fatigue, impairment, and distractions like texting while driving, it is essential to acknowledge the lack of sufficient data to support such claims definitively. In the realm of autonomous vehicles, a disconcerting aspect emerges as these cutting-edge machines are found to commit their errors. Though distinct from the conventional blunders made by human drivers, these mistakes are not without their own set of consequences. One such instance involves autonomous cars halting in manners that inadvertently obstruct the path of emergency vehicles, impeding their crucial mission to provide urgent medical assistance. Additionally, there have been distressing reports of these self-driving vehicles inadvertently trapping crash victims, further exacerbating the dire circumstances they find themselves in. These unsettling incidents shed light on the imperfections that persist within autonomous transportation.

In a recent display of legislative concern, Representatives Nancy Pelosi and Kevin Mullin penned a letter to the National Highway Traffic Safety Administration (NHTSA), urging the agency to intensify its efforts to gather comprehensive data on autonomous vehicle incidents. Of particular interest to the representatives are incidents involving stationary vehicles that obstruct the path of emergency responders. The user suggests that additional comparison data regarding human-driven car crashes would be beneficial, as the information provided by the NHTSA is limited to crash estimates derived from sampling.

Nevertheless, why can’t we take action based on the information we gather?

After all, artificial intelligence often produces unexpected errors. One of GM’s Cruise autonomous vehicles collided with a bus last year after making an inaccurate prediction of its path. The event resulted in a software update from GM. In 2017, a driverless car slammed on its brakes while attempting a left turn, seemingly out of fear that an oncoming vehicle might suddenly swerve into its path from the right. Instead, the oncoming car slammed with the driverless car that had halted suddenly. Both vehicles had injured passengers.

These cars’ computer vision systems are highly fragile, the author writes. “They will fail in ways that we simply do not understand,” writes Dr Cummings, who argues that AI should be subject to licensing regulations similar to the eyesight and performance tests that pilots and drivers must pass. Automobiles are not the only ones affected. Artificial intelligence chatbots are failing in new and surprising ways every day, such as by making up their cases or sexually harassing their human users. We have been struggling with the shortcomings of AI recommendation systems for quite some time now, such as when it pushed ideologically biased content on YouTube or promoted gun components and drug paraphernalia on Amazon despite the company’s ban on such things. Despite all of these concrete examples of harm, many regulators continue to be preoccupied with the hypothetical and, to some, far-fetched disaster scenarios generated by the AI doomers, who are prominent tech experts and executives who claim that the biggest fear is the possibility of human extinction in the distant future. Politico says such pessimists are in charge of Britain’s AI task group ahead of the country’s next AI Safety Summit in November.

The United States Congress has witnessed the emergence of a diverse range of proposals in AI legislation. These legislative endeavours predominantly revolve around apprehensions associated with potential doomsday scenarios. Key focal points include prohibiting AI systems from assuming control over nuclear launch determinations and imposing licensing and registration requirements for specific high-risk AI models.

In a scathing critique, Heidy Khalaf, an esteemed software safety engineer and engineering director at Trail of Bits, a renowned technical security firm, dismisses the doomer theories as nothing more than a cunning ploy to divert people’s attention towards an endless array of perils. With her piercing analysis, Khlaaf exposes the underlying motive behind these theories, suggesting that they serve as a mere distraction tactic designed to keep individuals perpetually chasing after infinite risks. In a recent scholarly article, Dr. Khlaaf put forth a compelling argument advocating a more targeted approach to AI safety testing. The crux of the argument lies in the need to tailor safety measures to the specific domains in which artificial intelligence operates. For instance, Dr. Khlaaf highlights the importance of implementing safety testing protocols designed explicitly for AI systems like ChatGPT, which are intended for use by legal professionals. This nuanced perspective sheds light on the significance of domain-specific safety considerations in artificial intelligence.

The user asserts that it is imperative to recognize the solvability of the issue of AI safety and emphasizes the urgency to address it promptly by utilizing the existing resources at our disposal. In a call for caution and thorough evaluation, experts across various domains emphasize the need to assess the artificial intelligence (AI) employed in their respective fields. As suggested by these experts, a crucial starting point involves subjecting a fleet of autonomous vehicles to rigorous vision and driving tests. This meticulous approach examines the potential risks of implementing AI technology in autonomous transportation.

In a relatively lacklustre manner, the user asserts that safety, despite its seemingly mundane nature, is paramount. The endeavour involves a cadre of seasoned professionals meticulously conducting experiments and formulating comprehensive assessments. The urgency of the matter necessitates immediate action.