CyberLaw

May 20 2024

Mempromosikan investasi di ruang angkasa itu penting, tetapi memiliki undang-undang itu lebih penting lagi

Rifani Agnes Eka Wahyuni Asia Pacific, Politics, Tech, Think Cyber security, CyberLaw, India, Ruang Angkasa 0

Pada tahun 2023, Organisasi Penelitian Antariksa India (ISRO), badan antariksa nasional India, melakukan rekor tujuh misi dan juga meraih penghargaan sebagai negara keempat yang berhasil mendaratkan pesawat ruang angkasa di bulan. [1]Setelah keberhasilan misi Chandrayaan 3 dan Aditya L1, ISRO berencana untuk melakukan 12 misi luar angkasa ambisius tahun ini. Tahun 2024 merupakan “tahun untuk Gaganyaan” sebagaimana India mempersiapkan misi penerbangan luar angkasa manusia pertamanya, yang akan membawa tiga kru astronot ke sebuah orbit 400 km di atas permukaan bumi. Sementara keberhasilan misi-misi ISRO memperkuat kemunculan India sebagai sebuah kekuatan luar angkasa, India juga melembagakan keterlibatan para pemain swasta di sektor luar angkasa. [2]

Reformasi sektor ruang angkasa yang meningkatkan partisipasi swasta di India dimulai pada tahun 2020 dengan deregulasi kontrol pemerintah yang ketat terhadap aktivitas ruang angkasa. Pada tahun 2023, Pemerintah India merilis Kebijakan Ruang Angkasa India untuk melembagakan keterlibatan aktor-aktor swasta dan mengizinkan entitas-entitas non-pemerintah untuk meningkatkan kemampuan ruang angkasa.[3] Sesuai dengan Kebijakan 2023, Pusat Promosi dan Otorisasi Ruang Angkasa Nasional India (IN-SPACe) akan beroperasi sebagai sebuah entitas otonom yang akan mempromosikan secara langsung, mengawasi, dan mengesahkan kegiatan-kegiatan yang berhubungan dengan ruang angkasa di negara ini. Teknologi dan platform ruang angkasa yang dikembangkan dengan pendanaan publik akan dikomersialisasikan oleh NewSpace India Limited (NSIL), sebuah badan usaha sektor publik dari Departemen Antariksa. Mekanisme institusional ini tampaknya sangat penting mengingat pentingnya sektor ruang angkasa komersial dalam membangun ekonomi India.

Mulai dari telekomunikasi, telemedicine, pertambangan sumber daya, dan manufaktur hingga mitigasi perubahan iklim, teknologi ruang angkasa mengubah cara hidup manusia. Saat ini, data satelit digunakan untuk memperkuat ketahanan pangan, satelit memantau Bumi untuk menilai dampak pemanasan global, dan negara-negara membangun domain operasional militer di luar angkasa untuk memperkuat keamanan nasional mereka. Karena banyak dari aplikasi ruang angkasa ini tidak dapat hanya mengandalkan investasi sektor publik, masa depan kegiatan ruang angkasa komersial sangat bergantung pada investasi dari sektor swasta. Investasi-investasi ini juga akan datang dari perusahaan-perusahaan luar negeri dan untuk melembagakan hal ini, India perlu meliberalisasi jalur masuk dan meningkatkan kemudahan dalam melakukan bisnis.

Pusat ini baru-baru ini mengubah Kebijakan Penanaman Modal Asing (PMA) untuk mengizinkan 100 persen investasi langsung asing di sektor ruang angkasa.[4] Amandemen ini dibuat di bawah Ayat 5.2.12 dari Surat Edaran Kebijakan FDI Konsolidasi tahun 2020. Diharapkan hal ini akan menciptakan lapangan pekerjaan, mengadopsi teknologi modern dan memperkuat rantai nilai global.[5] Menurut Pemerintah India, “dengan peningkatan investasi, mereka akan dapat mencapai kecanggihan produk, skala operasi global, dan peningkatan pangsa ekonomi ruang angkasa global.”

Menurut Laporan Ruang Angkasa Kuartal Kedua 2023 dari Space Foundation[6], nilai ekonomi ruang angkasa global adalah sebesar 546 miliar dolar AS. Diperkirakan bahwa ruang angkasa akan menjadi sebuah ekonomi senilai US$ 800 miliar dalam lima tahun mendatang. India merupakan pemain penting dalam ekonomi ruang angkasa global dengan pangsa pasar domestiknya sebesar 6,400 crore Rupee (US$ 8.1 miliar), yang merupakan sekitar 2 persen dari ekonomi ruang angkasa global. Sesuai dengan proyeksi IN-SPACe, ekonomi ruang angkasa India dapat mencapai INR 35.200 crore (US$ 44 miliar) pada tahun 2033 dengan sekitar 8 persen – 10 persen dari pangsa global. Dengan lebih dari 90 negara, lebih dari 10.000 perusahaan dan sekitar 5.000 investor di industri ruang angkasa, ekosistem ruang angkasa yang kompetitif ini akan menjadi industri bernilai triliunan dolar pada tahun 2050.

Terdapat lebih dari 200 perusahaan rintisan luar angkasa di India.[7] Para pemain komersial yang sedang berkembang seperti Dhruva Space, Skyroot Aerospace, Agnikul dan Digantara bekerja untuk mengembangkan teknologi ruang angkasa mulai dari peluncuran pribadi, mengembangkan kendaraan peluncuran yang dapat digunakan kembali, dan analisis puing-puing ruang angkasa hingga pembuatan komponen-komponen yang berhubungan dengan ruang angkasa. Sementara kami merayakan keberhasilan misi luar angkasa kami dan kebijakan FDI yang futuristik, sama pentingnya untuk melihat kerangka kerja peraturan yang berkaitan dengan kegiatan luar angkasa di India. Meskipun merupakan negara yang kuat dalam bidang luar angkasa, India tidak memiliki undang-undang luar angkasa nasional. Meskipun upaya-upaya signifikan telah dilakukan melalui Rancangan Undang-Undang Kegiatan Luar Angkasa tahun 2017 dan revisinya pada tahun 2022, undang-undang yang sangat dibutuhkan ini masih harus menunggu waktu yang tepat.

Kebijakan Ruang Angkasa 2023 yang baru tidak didasarkan pada kerangka kerja legislatif, yang sangat penting untuk mencegah ekses eksekutif. Kebijakan ini juga tidak membahas banyak masalah termasuk peran Antrix Corporation Limited (Antrix), bagian komersial dari ISRO, aspek-aspek kekayaan intelektual, kewajiban-kewajiban hukum internasional dan masih banyak lagi. Kekhawatiran yang muncul dari semua ini hanya dapat diselesaikan melalui undang-undang ruang angkasa nasional. Saat ini, sektor multi-miliar dolar ini berfungsi tanpa kerangka hukum yang jelas yang diamanatkan oleh parlemen di India. Fungsi-fungsi inti dari badan legislatif seperti mengizinkan masuknya pemain swasta ke dalam sektor ruang angkasa beresiko dikelola sepenuhnya melalui tindakan eksekutif. Hal ini mencerminkan perilaku bullish, yang rentan terhadap tantangan di hadapan peradilan di masa depan. Dengan meningkatnya investasi swasta untuk membangun fasilitas peluncuran ruang angkasa atau mengembangkan stasiun ruang angkasa komersial, mega-konstelasi, penambangan sumber daya ruang angkasa, dan lain-lain, ketidakpastian akan meningkat seiring dengan munculnya pertanyaan mengenai akuntabilitas, transparansi, dan tanggung jawab negara. Hal ini akan berakhir dengan munculnya sengketa bernilai jutaan dolar seperti kasus Antrix-Devas yang membawa malapetaka.[8]

Era perlombaan ruang angkasa abad ke-20 ditentukan oleh geopolitik, tetapi saat ini eksplorasi ruang angkasa ditentukan oleh ekonomi. Sementara aspek komersial baru dari sektor ruang angkasa India dapat membangkitkan minat bahkan di antara para pemain global seperti SpaceX, Virgin Galactic, dan Blue Origin, akan sangat penting untuk melihat bagaimana kebijakan liberalisasi yang baru ini akan berjalan tanpa adanya undang-undang ruang angkasa nasional. Sebagai negara yang bertanggung jawab terhadap ruang angkasa, kita tidak boleh melupakan komitmen untuk mematuhi pendekatan berbasis aturan dalam mempromosikan investasi ruang angkasa swasta.

[1] Digital, T. N. (2024, January 1). “Year for Gaganyaan”: ISRO’s ambitious plan for 2024 includes launch of 12 missions. Times Now. https://www.timesnownews.com/india/year-for-gaganyaan-isros-ambitious-plan-for-2024-includes-launch-of-12-missions-article-106458079#:~:text=The%20space%20body%20plans%20to,said%20at%20a%20media%20briefing.

[2] Banerjee, A., & Banerjee, A. (2023, April 16). India’s Ambitious Space Policy 2023 Set To Spur Private Sector Involvement In The Country’s Cosmic. Indian Aerospace and Defence Bulletin – News for Aerospace and Defence in India – India Based Aerospace News Covering Airlines, Aerospace, Air Transport, Defence and Business Aviation. https://www.iadb.in/2023/04/14/indias-ambitious-space-policy-2023-set-to-spur-private-sector-involvement-in-the-countrys-cosmic-ventures/#:~:text=Under%20the%20leadership%20of%20Prime,least%2010%25%20in%20the%20near

[3] https://www.isro.gov.in/media_isro/pdf/IndianSpacePolicy2023.pdf

[4] Cabinet approves amendment in the Foreign Direct Investment (FDI) policy on Space Sector. (2024, February 21). https://pib.gov.in/PressReleaseIframePage.aspx?PRID=2007876

[5] Ibid.

[6] Space Foundation. (2023, September 7). Space Foundation releases the Space Report 2023 Q2, showing annual growth of global space economy to $546B. https://www.spacefoundation.org/2023/07/25/the-space-report-2023-q2/

[7] https://pib.gov.in/PressReleaseIframePage.aspx?PRID=1988864

[8] https://www.orfonline.org/research/devas-v-antrix-lessons-for-india-in-navigating-bilateral-investment-treaty-disputes#:~:text=Antrix%20Corporation%20Ltd%2C%20the%20Supreme,is%20a%20multimedia%20services%20company.

May 15 2024

Meningkatkan Keamanan Siber di Luar Angkasa

Rifani Agnes Eka Wahyuni Asia Pacific, Politics, Security and Defence, Tech, Think Cyber security, Cyber Space, CyberLaw 0

Baru-baru ini, ada beberapa pengumuman kebijakan keamanan siber yang relevan dengan luar angkasa. Badan Antariksa Eropa (ESA) mengeluarkan dokumen kebijakan, ESA Security for Space: Membentuk Masa Depan, Melindungi Masa Kini, pada bulan November 2023.[1] Dokumen ini dibuat dengan tujuan untuk “melindungi infrastruktur ruang angkasa penting ESA.” Pada bulan Desember 2023, Badan Penerbangan dan Antariksa Nasional AS (NASA) mengumumkan Keamanan Antariksa: Panduan Praktik Terbaik untuk “meningkatkan upaya keamanan siber misi baik untuk aktivitas ruang angkasa sektor publik maupun sektor swasta.”[2]

Hal ini dilakukan dengan latar belakang badan-badan intelijen AS yang memperingatkan bahwa sektor luar angkasa AS dapat disusupi oleh agen mata-mata asing. Dalam arahan yang dikeluarkan pada Agustus 2023[3], FBI, Pusat Kontra Intelijen dan Keamanan Nasional (National Counterintelligence and Security Center – NCSC), dan Kantor Investigasi Khusus Angkatan Udara (Air Force Office of Special Investigations – AFOSI) menyampaikan peringatan bahwa badan-badan intelijen asing tertentu menggunakan serangkaian tindakan, termasuk serangan siber dan investasi strategis (termasuk usaha patungan dan akuisisi), untuk menyasar industri luar angkasa. Dalam hal implikasi keamanan nasional, arahan tersebut mencatat bahwa serangan siber atau cara lain ditujukan untuk “mengumpulkan data sensitif yang terkait dengan muatan satelit; mengganggu dan menurunkan kemampuan komunikasi, penginderaan jarak jauh, dan pencitraan satelit A.S.; menurunkan kemampuan Amerika Serikat untuk menyediakan layanan penting selama keadaan darurat; mengidentifikasi kerentanan dan menargetkan infrastruktur ruang angkasa komersial A.S. selama konflik.”

Sebelumnya, pada bulan April 2023, laporan Cyberspace Solarium Commission (CSC) membuat kasus untuk mengidentifikasi ruang angkasa sebagai sektor infrastruktur kritis ke-17, dengan tujuan untuk mengadopsi langkah-langkah keamanan siber yang ditingkatkan di antara operator satelit. Laporan setebal 24 halaman ini memberikan rekomendasi khusus bagi para pemangku kepentingan, termasuk memprioritaskan pengembangan norma dan standar melalui kemitraan dengan mitra yang berpikiran sama.[4]

Keamanan siber sendiri telah menjadi masalah serius bagi para pembuat kebijakan di berbagai wilayah, terutama mereka yang telah merangkul digitalisasi dengan cepat pada periode pasca-COVID. Keamanan luar angkasa, meskipun sama pentingnya, kurang dipahami dalam hal kerentanan dan kesenjangan dalam mengamankan luar angkasa. Namun, saat ini dengan semakin meningkatnya keterkaitan antara berbagai teknologi,[5] kita dihadapkan pada kombinasi dari ancaman-ancaman ini yang sedang berlangsung dan mungkin mengancam akses kita ke luar angkasa.[6]

Faktanya, dokumen ESA pada bulan November menyoroti dengan tepat skenario ancaman yang berubah. Dokumen tersebut menyatakan bahwa “evolusi lanskap ancaman tidak hanya memengaruhi jaringan TI tetapi juga ekosistem ruang angkasa secara keseluruhan, termasuk segmen ruang angkasa (satelit, peluncur, dll.), segmen bumi (stasiun bumi, jaringan bumi, segmen bumi data muatan, dll.), dan sinyal di ruang angkasa (SiS).” Dokumen tersebut menambahkan bahwa seiring dengan evolusi teknologi, telah terjadi pertumbuhan ancaman yang hampir bersamaan. Dokumen tersebut mencatat bahwa “bahkan kelompok peretas kecil yang terorganisir atau hacktivist berada dalam posisi untuk mengidentifikasi kerentanan sistem ruang angkasa dan meluncurkan serangan hibrida, biasanya didorong oleh keinginan untuk bereksperimen dengan strategi peretasan baru atau oleh pengakuan dan visibilitas publik.”

Selain itu, masuknya persaingan dan persaingan kekuatan besar telah memperparah kompleksitas di luar angkasa. Luar angkasa tampaknya agak kebal terhadap persaingan kekuatan besar selama beberapa dekade, setelah persaingan antara Amerika Serikat dan Uni Soviet berakhir pada akhir Perang Dingin. Namun akhir-akhir ini, dengan dinamika keseimbangan kekuatan yang berubah-ubah – yang tampaknya tidak akan selesai dalam waktu dekat – ruang angkasa telah menjadi satu domain lagi di mana kompetisi dan persaingan ini dimainkan.

Ada juga keterkaitan yang semakin meningkat antara pemain sektor publik dan swasta dan keduanya juga berhubungan dengan militer, membuat kondisi ruang angkasa yang muncul menjadi cukup kompleks. Dengan meluasnya penggunaan ruang angkasa oleh sipil, komersial, dan militer, gangguan apa pun di sini bisa sangat berpengaruh. Efek dari gangguan apa pun[7] akan terasa di berbagai domain termasuk peringatan dan respons bencana, data arah, dan transaksi keuangan. Militer di seluruh dunia juga akan terpengaruh dalam kemampuan mereka mengumpulkan data intelijen, pengawasan, pengintaian (ISR); data posisi, navigasi, waktu (PNT), dan bahkan mungkin data kesadaran situasi ruang angkasa (SSA)[8] yang sangat penting. Semua ini menyoroti pentingnya memastikan keamanan sistem siber di ruang angkasa.

Serangan siber dalam bentuk peretasan terhadap sistem luar angkasa juga berpotensi membuat penjahat mengambil alih dan memberikan data yang salah dengan cara yang memungkinkan pelaku untuk mendapatkan kendali atas sistem penting dan mengambil data rahasia. Jamming dan spoofing[9] telah menjadi pilihan yang cukup menarik bagi negara dan penjahat untuk menciptakan gangguan dan kerusakan di ruang angkasa. Mengingat bahwa metode ini mudah dilakukan, biaya rendah dan penyangkalan yang masuk akal adalah kualitas menarik yang telah mendorong banyak pelaku untuk mengejar opsi tersebut. Pengacauan dan sarana siber lainnya telah digunakan dengan cukup efektif dalam perang Rusia di Ukraina. Serangan terhadap terminal Starlink SpaceX adalah contoh kasusnya.[10]

Seperti yang dicatat oleh para analis, keamanan siber dalam konteks ruang angkasa sangat penting untuk “menjaga jalur komunikasi yang aman, navigasi yang akurat, dan kontrol yang tepat.”[11]

Membuat norma, standar, praktik terbaik, dan peraturan yang tepat untuk memastikan langkah-langkah keamanan siber yang lebih baik dan lebih efektif untuk mencegah gangguan dalam operasi satelit telah mulai mendapatkan perhatian dalam beberapa tahun terakhir. Namun, seperti yang dicatat dalam laporan Forum Ekonomi Dunia pada tahun 2022[12], tantangannya adalah agar kebijakan dan peraturan terkait “dapat mengimbangi evolusi teknologi.”

Jelas, ini bukan masalah yang unik untuk keamanan siber/antariksa. Meskipun peraturan di tingkat nasional mungkin relatif lebih mudah untuk dikembangkan, ini merupakan tantangan yang jauh lebih besar jika kita melihat kondisi upaya tata kelola global. Hal ini sangat sulit mengingat persaingan kekuatan besar dan ketidakmampuan untuk mengembangkan konsensus di antara negara-negara besar yang telah menjadi penghalang utama dalam mengembangkan peraturan baru. Kemitraan internasional, terutama yang melibatkan mitra yang berpikiran sama, juga sangat penting, baik untuk mengembangkan aturan dan tindakan baru maupun dalam mengembangkan pertahanan teknologi terhadap ancaman siber dan kerentanan di ruang angkasa.[13]

[1] ESA. ESA Security for Space: Shaping the Future Protecting the Present. https://esamultimedia.esa.int/docs/corporate/ESA_Cyber_Security_Resilience_Achievement.pdf

[2] 7.22 – Space Security: Best Practices Guide – SW Engineering Handbook Ver D – Global Site. (2024, January 19). NASA. https://swehb.nasa.gov/display/SWEHBVD/7.22+-+Space+Security%3A+Best+Practices+Guide?preview=/146540183/154501144/Space%20Security%20Best%20Practices%20Guide%20BPG%20REV%20B.pdf

[3]NCSC. Safeguarding the US Space Industry. https://www.dni.gov/files/NCSC/documents/SafeguardingOurFuture/FINAL%20FINAL%20Safeguarding%20the%20US%20Space%20Industry%20-%20Digital.pdf

[4] F.Cilluffo, Mark Montgomery, Sharon Cardashm & Kelsey Shields. Time to Designate Space Systems as Critical Infrastructure. https://www.fdd.org/wp-content/uploads/2023/04/CSC2.0_Report_Space.pdf

[5] Why we need increased cybersecurity for space-based services. (2022, June 2). World Economic Forum. https://www.weforum.org/agenda/2022/05/increased-cybersecurity-for-space-based-services/

[6] Kaczmarek, S. (2024, February 20). We need cybersecurity in space to protect satellites. Scientific American. https://www.scientificamerican.com/article/we-need-cybersecurity-in-space-to-protect-satellites/

[7] Technologies, S. (2023, September 25). Space Cybersecurity: Exploring challenges, and opportunities. Sangfor Technologies. https://www.sangfor.com/blog/cybersecurity/space-cybersecurity-exploring-challenges-and-opportunities

[8] James Pavur & Ivan Martino. The Cyber-ASAT: On the Impact of Cyber Weapons in Outer Space. https://ora.ox.ac.uk/objects/uuid:6e4194fa-474b-41cb-81fa-dbe5c5e94a68/files/r9c67wn16n

[9] Memorandum on Space Policy Directive-5—Cybersecurity Principles for Space Systems – The White House. (2020, September 4). The White House. https://trumpwhitehouse.archives.gov/presidential-actions/memorandum-space-policy-directive-5-cybersecurity-principles-space-systems/

[10] EVONA. (2023, August 15). Elon Musk’s Starlink hacked with $25 device | EVONA. https://www.evona.com/blog/elon-musks-starlink-hacked/

[11] Technologies, S. (2023b, September 25). Space Cybersecurity: Exploring challenges, and opportunities. Sangfor Technologies. https://www.sangfor.com/blog/cybersecurity/space-cybersecurity-exploring-challenges-and-opportunities

[12] Why we need increased cybersecurity for space-based services. (2022b, June 2). World Economic Forum. https://www.weforum.org/agenda/2022/05/increased-cybersecurity-for-space-based-services/

[13] Jewett, R., & Jewett, R. (2024, April 10). Allied Nations align their messaging for deterring conflict in space. Via Satellite. https://www.satellitetoday.com/government-military/2024/04/10/allied-nations-align-their-messaging-for-deterring-conflict-in-space/

April 22 2024

Undang-Undang AI Uni Eropa: Tonggak penting dalam regulasi AI

Rifani Agnes Eka Wahyuni Europe, Politics, Security and Defence, Tech, Think Cyber security, CyberLaw, European Union, Law Regulation 0

Pada tanggal 9 Desember 2023, Parlemen Eropa dan Dewan Uni Eropa telah mencapai kesepakatan tentang Undang-Undang Kecerdasan Buatan Uni Eropa (UU AI Uni Eropa).[1] Meskipun draf finalnya belum dipublikasikan, kontur yang luas telah ditetapkan untuk apa yang bisa menjadi tonggak penting dalam sejarah regulasi AI. Dengan ini, Uni Eropa telah menjadi salah satu regulator AI pertama di dunia.

Mengapa Undang-Undang ini dibuat?

Dalam beberapa tahun terakhir, kemajuan pesat dalam AI telah menimbulkan pertanyaan tentang kesiapan pemerintah dan badan pengatur dalam melindungi hak dan kesejahteraan warga negara. Para pemimpin industri juga telah menyatakan keprihatinannya atas potensi AI untuk mengganggu kehidupan kita dalam jangka panjang.[2] Aplikasi AI di bidang-bidang seperti kesehatan dan pendidikan, antara lain, memiliki potensi implikasi yang luas. Selain itu, industri AI itu sendiri merupakan peluang bisnis bernilai triliunan dolar[3] yang pemerintah ingin ambil bagian di dalamnya, dan tidak seperti internet, AI bukanlah produk dari laboratorium pemerintah. Komisi Eropa pertama kali hadir dengan draf untuk mengatur AI di Uni Eropa pada bulan April 2021.[4] Namun, dengan dirilisnya ChatGPT OpenAI pada tahun 2022 dan di samping kemajuan teknologi lainnya, Brussels merasa perlu untuk melihat kembali draf aslinya.[5] Dengan demikian, setelah tiga hari negosiasi yang intens, tiga cabang Uni Eropa mencapai kompromi mengenai wajah regulasi AI blok tersebut di masa mendatang, dengan demikian, bertujuan untuk memastikan pengawasan manusia atas AI.

Apa saja yang diatur dalam Undang-Undang tersebut?

Telah dilaporkan bahwa definisi AI yang diusulkan oleh Undang-Undang tersebut condong ke arah bagaimana OECD mendefinisikannya.[6] Definisi sistem AI yang diperbarui oleh OECD berbunyi sebagai[7]: “Sistem AI adalah sistem berbasis mesin yang, untuk tujuan eksplisit atau implisit, menyimpulkan, dari input yang diterimanya, bagaimana menghasilkan output seperti prediksi, konten, rekomendasi, atau keputusan yang dapat memengaruhi lingkungan fisik atau virtual. Sistem AI yang berbeda memiliki tingkat otonomi dan kemampuan beradaptasi yang berbeda-beda setelah diterapkan.”

Undang-undang ini mengikuti pendekatan “berbasis risiko”.[8] Sesuai dengan pendekatan ini, sistem AI telah diklasifikasikan ke dalam empat kategori[9] berdasarkan risiko yang ditimbulkannya: a) risiko yang tidak dapat diterima (penilaian sosial, identifikasi biometrik baik secara real-time maupun jarak jauh, kategorisasi biometrik yang menyimpulkan preferensi dan keyakinan pribadi serta manipulasi kognitif); b) risiko tinggi (sistem AI yang digunakan dalam domain seperti transportasi, pendidikan, dan juga sistem yang digunakan pada produk yang berada di bawah undang-undang keamanan produk Uni Eropa); c) AI tujuan umum dan generatif (sistem seperti ChatGPT dari OpenAI); dan, d) risiko terbatas (seperti deepfakes).

Sistem yang dikategorikan sebagai risiko yang tidak dapat diterima akan dilarang[10], sementara yang disebut berisiko tinggi akan menjalani penilaian[11] dampak hak asasi manusia sebelum dirilis ke pasar dan akan diberi label dengan tanda CE.[12] Sistem AI Tujuan Umum (GPAI) dan model yang menjadi dasarnya diwajibkan untuk mengikuti kewajiban transparansi[13]. Hal ini termasuk mematuhi undang-undang hak cipta Uni Eropa, menyiapkan dokumen teknis, dan merilis ringkasan materi pelatihan untuk sistem GPAI ini. Selain itu, sistem GPAI yang lebih canggih akan tunduk pada peraturan yang lebih ketat. Tidak ada batasan pada penggunaan sistem risiko terbatas yang ditempatkan selain dari rekomendasi penggunaan kode etik sukarela.[14]

Namun, ada beberapa pengecualian yang berlaku. Penggunaan sistem AI dengan risiko yang tidak dapat diterima hanya akan diizinkan dalam kasus kejahatan yang sangat serius.[15] Namun, hal ini akan tunduk pada persetujuan yudisial dengan daftar kejahatan yang telah ditentukan. Akan ada beberapa area tertentu di mana undang-undang ini tidak akan berlaku sama sekali[16]: militer atau pertahanan; sistem yang hanya digunakan untuk penelitian dan inovasi; dan digunakan oleh orang-orang untuk tujuan non-profesional.

Dalam hal struktur tata kelola[17], diharapkan undang-undang ini akan ditegakkan oleh lembaga nasional yang kompeten di masing-masing 27 negara anggota. Di tingkat Eropa, Kantor AI Eropa akan ditugaskan dengan administrasi dan penegakan undang-undang tersebut sementara juga akan ada Dewan AI Eropa dalam kapasitas penasihat dan akan terdiri dari perwakilan negara anggota.

Untuk membantu usaha kecil dan menengah (UKM) tumbuh[18], ketentuan untuk “Kotak pasir peraturan” dan “pengujian dunia nyata” telah disertakan.

Warga negara juga telah diberi hak untuk mencari ganti rugi di bawah rezim AI.[19] Mereka akan dapat mengajukan keluhan dan “menerima penjelasan tentang keputusan berdasarkan sistem AI berisiko tinggi yang berdampak pada hak-hak mereka.” Hukuman[20] akan dijatuhkan jika terjadi pelanggaran peraturan dan akan berkisar dari 7,5 juta Euro hingga 35 juta Euro (atau sebagai persentase dari omset mana pun yang lebih tinggi). Namun, perusahaan yang lebih kecil akan diberi kelonggaran karena denda mereka akan dibatasi.

Kelebihan

Pembacaan yang cermat terhadap draf awal 2021 dan siaran pers setelah kesepakatan dicapai menunjukkan sejumlah hal positif. Pertama, pendekatan berbasis risiko yang diikuti oleh undang-undang ini merupakan cara inovatif untuk menghadapi berbagai tantangan yang diperkirakan akan ditimbulkan oleh AI. Kedua, undang-undang ini juga menyeimbangkan kebutuhan penegakan hukum dengan hak-hak warga negara. Ketiga, ketentuan penilaian dampak hak-hak dasar menjaga kesejahteraan warga negara di garis depan. Demikian juga, memberdayakan warga negara untuk mencari ganti rugi memungkinkan warga negara yang kuat. Keempat, ketentuan yang membantu pertumbuhan UKM juga patut dipuji.

… dan kontra

Meskipun memiliki banyak fitur yang patut dipuji, UU AI UE juga telah dikritik dan kekhawatiran telah dikemukakan. Ketakutan akan regulasi[21] yang berlebihan telah disuarakan oleh berbagai pihak mengenai beberapa ketentuan ketat (seperti denda yang tinggi) dalam UU tersebut dengan pengamat yang berpendapat bahwa hal itu dapat menghambat inovasi. Undang-undang tersebut membayangkan pembentukan Kantor AI Eropa dan regulator di semua negara anggota yang dapat terbukti sulit karena ada lebih sedikit ruang[22] untuk manuver anggaran saat ini.

Naskah asli dari Undang-Undang tersebut masih harus diselesaikan.[23] Hal ini membuka berbagai kemungkinan lain karena proses ini dapat memakan waktu hingga setelah pemilihan parlemen Eropa yang dijadwalkan pada bulan Juni 2024.[24] Hal ini dapat menyebabkan perubahan pada ketentuan-ketentuan yang telah disepakati. Persetujuan akhir untuk Undang-Undang dari perwakilan negara anggota di Dewan juga akan dicari setelah rancangan teks terbentuk. Undang-undang ini mungkin tergelincir jika negara-negara anggota tidak puas dengan ketentuan akhir dari Undang-undang dan jika mereka melihat mereka melanggar kekuasaan mereka sendiri. Selain itu, UU tersebut tidak akan sepenuhnya berlaku sebelum 2026. Mempertimbangkan kecepatan pengembangan AI, ada kemungkinan[25] bahwa UU tersebut mungkin akan ditemukan kekurangannya di bidang-bidang tertentu.

Regulasi perangkat lunak AI sumber terbuka adalah masalah lain yang sangat memprihatinkan karena potensinya untuk disalahgunakan.[26]

Apa yang selanjutnya

Dengan Undang-Undang AI, Uni Eropa telah mengambil langkah pertama untuk menggunakan dan mengembangkan AI secara bertanggung jawab. Hal ini menempatkannya di depan rekan-rekannya seperti Amerika Serikat dan Inggris dalam hal mengatur AI. Undang-undang ini memiliki potensi untuk menjadi tolok ukur dalam regulasi AI seperti halnya GDPR untuk privasi dan perlindungan data. Namun, Uni Eropa perlu memastikan bahwa Undang-Undang tersebut dalam bentuk finalnya, menyeimbangkan perlindungan hak-hak warga negara dengan kebutuhan untuk mendorong inovasi sementara pada saat yang sama, mempertahankan fleksibilitas yang cukup untuk tetap relevan dengan kecepatan pengembangan AI.

[1] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[2] Online, E. (2023, November 2). Elon Musk on AI: One of humanity’s “biggest threats.” The Economic Times. https://economictimes.indiatimes.com/tech/technology/elon-musk-on-ai-one-of-humanitys-biggest-threats/videoshow/104909843.cms?from=mdr

[3] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

[4] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[5] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

[6] Dawn of the EU’s AI Act: political agreement reached on world’s first comprehensive horizontal AI regulation. (2023, December 14). White & Case LLP International Law Firm, Global Law Practice. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai

[7] Russel, S., Perset, K., & Grobelnik, M. (2023, November 29). Updates to the OECD’s definition of an AI system explained. OECD. https://oecd.ai/en/wonk/ai-system-definition-update

[8] European Commission. (2021, April 21). Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amendinf Certain Union Legislative Action. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF

[9] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[10] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[11] Ibid.

[12] Davies, P. (2023, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far

[13] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[14] EU AI Act: first regulation on artificial intelligence. (2023, August 6). European Parliament. https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

[15] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[16] EU AI Act: European Parliament and Council reach agreement. (2024, January 17). Insights | Mayer Brown. https://www.mayerbrown.com/en/insights/publications/2023/12/eu-ai-act-european-parliament-and-council-reach-agreement

[17] Dawn of the EU’s AI Act: political agreement reached on world’s first comprehensive horizontal AI regulation. (2023b, December 14). White & Case LLP International Law Firm, Global Law Practice. https://www.whitecase.com/insight-alert/dawn-eus-ai-act-political-agreement-reached-worlds-first-comprehensive-horizontal-ai

[18] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[19] EU AI Act: European Parliament and Council reach agreement. (2024b, January 17). Insights | Mayer Brown. https://www.mayerbrown.com/en/insights/publications/2023/12/eu-ai-act-european-parliament-and-council-reach-agreement

[20] Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. (2023, December 19). European Parliament. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

[21] Davies, P. (2023b, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far

[22] Adam Satariano. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rule. The New York Times. https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

[23] Accelerated scrutiny of AI systems in 2024: the EU AI Act and the U.S. strategy. (2024, January 9). JD Supra. https://www.jdsupra.com/legalnews/accelerated-scrutiny-of-ai-systems-in-1273917/

[24] Davies, P. (2023c, December 17). “Potentially disastrous” for innovation: Tech sector reacts to the EU AI Act saying it goes too far. Euronews. https://www.euronews.com/next/2023/12/15/potentially-disastrous-for-innovation-tech-sector-says-eu-ai-act-goes-too-far

[25] Ibid.

[26] Op.Cit.

July 13 2021

China Menyusun Rencana Industri Keamanan Siber Baru

Rifani Agnes Eka Wahyuni News China, CyberLaw, Cyberspace Administration of China, Keamanan Siber 0

Kementerian Perindustrian dan Teknologi Informasi China mengatakan pada hari Senin (12/07) bahwa pihaknya telah mengeluarkan rancangan rencana aksi tiga tahun untuk mengembangkan industri keamanan siber negara itu, memperkirakan sektor tersebut mungkin bernilai lebih dari 250 miliar yuan ($38,6). miliar) pada tahun 2023.

Draf tersebut muncul ketika otoritas China sedang meningkatkan upaya untuk merancang peraturan untuk mengatur penyimpanan data, transfer data, dan privasi data pribadi dengan lebih baik. Cyberspace Administration of China (CAC) mengusulkan rancangan aturan yang menyerukan semua perusahaan teknologi kaya data dengan lebih dari 1 juta pengguna untuk menjalani tinjauan keamanan sebelum mendaftar di luar negeri.

Peraturan itu muncul setelah penyelidikan regulasi dari raksasa ride-hailing China Didi Chuxing karena diduga melanggar undang-undang privasi data. CAC menyatakan pada hari Minggu(11/07) bahwa mereka telah memerintahkan toko aplikasi smartphone untuk berhenti menawarkan aplikasi Didi Global Inc (didi) setelah menemukan bahwa raksasa ride-hailing ini telah mengumpulkan data pribadi pengguna secara ilegal.

Pihak didi telah mendapat pemeberitahuan dari CAC untuk membuat perubahan untuk mematuhi aturan perlindungan data China, empat hari setelah Didi mulai berdagang di New York Stock Exchange, pasca mengumpulkan $4,4 miliar dalam penawaran umum perdana. CAC sendiri tidak merinci sifat pelanggaran Didi dalam sebuah pernyataan di umpan media sosialnya.Pihak Didi sendiri menanggapi hal ini dengan mengatakan bahwasanya pihaknya telah berhenti mendaftarkan pengguna baru dan akan menghapus aplikasinya dari toko aplikasi, serta akan membuat perubahan guna mematuhi aturan dan melindungi hak pengguna.

Otoritas China saat ini sedang giat menekan raksasa teknologi dalam negerinya guna megatasi masalah antimonopoli dan keamanan data.