Perdebatan tentang kecerdasan buatan kini bergerak jauh melampaui soal efisiensi kerja, otomatisasi, atau persaingan bisnis. Ketika model Artificial Intelegence (AI) mulai mampu mengakses internet, menembus sistem di luar lingkungan uji, berkomunikasi antarsistem, dan menjalankan tindakan yang tidak sepenuhnya diperkirakan pengembang, pertanyaannya berubah menjadi persoalan kekuasaan dan keselamatan. Amerika Serikat dan China berada di pusat dilema itu karena keduanya bukan hanya pemimpin pengembangan AI, tetapi juga negara yang paling menentukan arah tata kelola teknologi tersebut. Semakin cepat mereka berlomba, semakin besar pula konsekuensi apabila pengendalian tertinggal.
Kerumitan tersebut dapat dilihat melalui teori masyarakat risiko Ulrich Beck. Dalam pandangan Beck, modernitas tidak hanya menghasilkan kemajuan, melainkan juga menciptakan manufactured risk, yaitu risiko yang lahir dari keberhasilan ilmu pengetahuan dan teknologi itu sendiri. Risiko semacam ini berbeda dari bencana alam karena sumbernya berasal dari sistem yang sengaja dibangun manusia, sedangkan dampaknya dapat menembus batas negara dan sulit dipulihkan. AI sangat dekat dengan gambaran itu: teknologi diciptakan untuk memperbesar kemampuan manusia, tetapi peningkatan kemampuan yang terlalu cepat justru dapat menghasilkan ketidakpastian yang tidak lagi mudah diukur oleh institusi yang menciptakannya.
Amerika Serikat menunjukkan sisi paling nyata dari paradoks tersebut. Pemerintah mendorong percepatan adopsi AI untuk mempertahankan keunggulan ekonomi, militer, dan teknologi terhadap China, sambil menegaskan pentingnya sistem yang dapat dikendalikan dan dipertanggungjawabkan. Namun, rangkaian insiden pada 2026 memperlihatkan bahwa persoalan pengendalian bukan lagi sekadar hipotesis. Dalam evaluasi keamanan siber, model OpenAI berhasil melewati kontrol isolasi dan mengakses sistem Hugging Face, sedangkan Anthropic mengungkap beberapa kasus ketika Claude memperoleh akses tanpa izin ke sistem nyata. Fakta itu tidak membuktikan bahwa AI akan memusnahkan manusia, tetapi menunjukkan bahwa jarak antara kemampuan dan pengawasan mulai menjadi masalah yang konkret.
Ketegangan semakin terlihat ketika para pemimpin industri AI sendiri justru menyerukan perlambatan. Dario Amodei dari Anthropic mendorong agar peningkatan kemampuan AI tidak melampaui kesiapan mekanisme keselamatan, sementara OpenAI juga menyatakan pernah memperlambat proses penskalaan setelah melihat meningkatnya kemampuan model dalam ranah keamanan siber. Di sinilah teori Beck dapat memperlihatkan bahwa produsen kemajuan sekaligus menjadi saksi awal terhadap risiko yang dihasilkan oleh kemajuan tersebut. Ketika perusahaan yang bersaing memimpin teknologi mulai berbicara tentang audit, containment, alignment, dan pengendalian, persoalannya tidak lagi dapat direduksi sebagai ketakutan publik terhadap teknologi baru.
Respons politik Amerika Serikat justru memperlihatkan kontradiksi lain. Presiden Donald Trump pada September 2026 menepis dorongan penambahan guardrails dan menyatakan bahwa kepemimpinan presiden yang kuat merupakan pengendalian utama yang diperlukan. Posisi ini sejalan dengan kebijakan pemerintahannya yang berupaya menghindari regulasi yang dipandang terlalu membebani inovasi, meskipun pada saat yang sama pemerintah federal membangun mekanisme pengujian, pengamanan, dan penguatan pertahanan siber untuk pemanfaatan AI dalam keamanan nasional. Dengan demikian, perdebatan di Amerika Serikat bukan sekadar menerima atau menolak keselamatan AI, melainkan seberapa jauh mekanisme keselamatan dapat diperkuat tanpa dianggap mengorbankan kecepatan kompetisi.
China menghadapi paradoks yang sama melalui bahasa politik yang berbeda. Dalam forum ekonomi di Dalian pada Juni 2026, Perdana Menteri Li Qiang memperingatkan bahwa kemampuan AI berkembang sangat cepat, sedangkan risiko teknologi keluar dari batas pengendalian semakin besar apabila tata kelolanya tertinggal. China juga menekankan penguatan kerangka institusional, aturan, efektivitas regulasi, serta keterlibatan dalam tata kelola AI global. Sikap tersebut menunjukkan bahwa negara yang menjadikan inovasi teknologi sebagai instrumen kekuatan nasional pun melihat adanya titik ketika akselerasi teknologi memunculkan risiko yang tidak dapat diselesaikan dengan mekanisme lama.
Persoalan terbesar kemudian muncul dari struktur persaingan Amerika Serikat dan China sendiri. Kedua negara memiliki alasan strategis untuk berhati-hati, tetapi juga mempunyai alasan yang sama kuatnya untuk tidak menjadi pihak pertama yang mengerem. Setiap perlambatan berpotensi dipersepsikan sebagai hilangnya keunggulan, sementara setiap percepatan meningkatkan tekanan kepada pesaing untuk melakukan hal serupa. Dalam logika risk society, inilah jebakan modernitas yang mana aktor mengetahui adanya risiko kolektif, tetapi insentif kompetitif mendorong mereka terus memproduksi kondisi yang memperbesar risiko tersebut. Karena ancamannya melampaui yurisdiksi nasional, keselamatan AI akhirnya tidak dapat bergantung hanya pada self-regulation perusahaan atau kebijakan sepihak satu negara.
Karena itu, ancaman utama tidak semestinya disederhanakan menjadi narasi bahwa mesin akan segera mengambil alih manusia. Persoalan yang lebih mendesak adalah ketidakseimbangan antara kecepatan peningkatan kemampuan AI dan kemampuan negara membangun institusi pengendalian. Rumah sakit, instalasi air, jaringan komunikasi, sistem keuangan, dan infrastruktur digital tidak perlu menunggu hadirnya superintelligence untuk menghadapi gangguan serius pada model yang cukup otonom dan mampu mengeksploitasi kerentanan sudah dapat menciptakan dampak berskala luas. Kekhawatiran terhadap risiko eksistensial masih dapat diperdebatkan probabilitasnya, tetapi risiko sistemik telah menuntut perhatian saat ini. Dalam konteks tersebut, koordinasi, audit independen, pengujian keamanan, dan mekanisme tanggung jawab publik menjadi lebih penting daripada sekadar optimisme terhadap teknologi.
Amerika Serikat dan China menghadapi ujian yang lebih besar daripada sekadar memenangkan perlombaan AI. Kemampuan teknologi tanpa kapasitas tata kelola hanya akan mempercepat produksi manufactured risk yang dibicarakan Beck. Kerja sama keduanya memang sulit karena dibatasi persaingan geopolitik, tetapi keselamatan AI memiliki karakter lintas batas yang membuat pengendalian unilateral tidak memadai. Negara yang paling maju dalam menciptakan kecerdasan buatan justru memikul tanggung jawab terbesar untuk memastikan kecerdasan itu tetap berada dalam batas yang dapat diawasi manusia. Dalam perlombaan AI, kemenangan yang paling penting bukan menjadi yang tercepat, melainkan memastikan bahwa kemajuan tidak mendahului kemampuan manusia untuk mengendalikannya.