KEKHAWATIRAN publik terhadap risiko katastrofik kecerdasan buatan (AI) terus meningkat, bahkan sebelum Presiden Amerika Serikat Donald Trump dan Presiden Tiongkok Xi Jinping membahas teknologi tersebut dalam pertemuan puncak di Washington baru-baru ini. Pertemuan ini memicu pertanyaan krusial: apakah dunia kini lebih aman dari ancaman AI?
Isu keamanan ini semakin mendesak setelah seorang peneliti AI di Anthropic mengundurkan diri sebagai bentuk protes terhadap apa yang ia anggap sebagai risiko keselamatan yang sembrono. Bahkan, seorang peneliti keselamatan utama di perusahaan yang sama memperingatkan melalui platform X bahwa terdapat peluang 10% AI dapat memusnahkan seluruh umat manusia dalam dekade mendatang.
Ancaman Bersama vs Persaingan Global
Bahaya AI yang tidak terkendali secara teoretis merupakan ancaman bersama bagi kedua kekuatan global tersebut. Para analis mencatat bahwa peristiwa kepunahan atau serangan teroris berbasis AI akan menghancurkan Tiongkok, AS, dan seluruh kemanusiaan tanpa terkecuali.
Namun, Sarah Kreps, Direktur Tech Policy Institute di Cornell University, menekankan adanya dilema besar. “Kedua belah pihak berkepentingan menghindari bencana, tetapi mereka juga mengakui nilai AI untuk kompetisi global. Hal ini membuat tindakan agresif bersama menjadi sangat sulit dilakukan,” ujarnya.
Tekanan Industri dan Keamanan Nasional
Para eksekutif AI terkemuka di AS, meskipun memperingatkan potensi bencana, mengakui ada tekanan besar untuk terus mengembangkan teknologi ini. Alasan utamanya ialah persaingan dengan perusahaan AI di Tiongkok.
CEO Anthropic, Dario Amodei, sempat mengumumkan perlambatan pengembangan AI sebagai langkah pencegahan, tetapi ia juga memperingatkan risiko keamanan nasional jika perusahaan Tiongkok berhasil menyalip. Senada dengan itu, CEO OpenAI Sam Altman menyatakan bahwa tekanan kompetisi tidak boleh membenarkan kecerobohan, sembari menyerukan pembentukan saluran komunikasi global untuk berbagi ancaman keamanan nasional.
Hasil KTT: Dari Dialog hingga Super Intelligence
KTT di Washington tersebut dihadiri oleh tokoh-tokoh besar seperti Sam Altman, Mark Zuckerberg (Meta), Jensen Huang (Nvidia), dan Elon Musk (xAI). Dalam pembukaannya, Presiden Xi Jinping menunjukkan sikap damai dengan menyatakan tanggung jawab bersama untuk mengelola AI demi kesejahteraan manusia dan memastikan teknologi tetap di bawah kendali manusia.
Gedung Putih mengumumkan beberapa kesepakatan penting pascapertemuan:
- Pembentukan saluran dialog formal yang berfokus pada risiko dan manfaat AI.
- Pertukaran lanjutan yang dijadwalkan pada November mendatang.
- Kesepakatan untuk menggunakan istilah Super Intelligence (Super Intelijen), label yang lebih disukai oleh Trump, untuk merujuk pada AI tingkat lanjut.
Ambisi Trump dan Tantangan Verifikasi
Meskipun ada dialog, Trump tetap menekankan pentingnya memenangkan perlombaan teknologi. “Siapa pun yang menang dengan AI, dialah yang menang,” tegas Trump, meremehkan perlunya memperlambat kemajuan teknologi. Vasant Dhar, profesor data sains di New York University, menilai pemerintahan saat ini enggan mengambil langkah yang dianggap bisa menghambat AS dalam memenangkan balapan AI.
Di sisi lain, Tiongkok menghadapi tantangan dalam memverifikasi komitmen perusahaan AS. Chenghao Sun dari Universitas Tsinghua menyatakan bahwa sebelum penahanan diri menjadi timbal balik, hal itu harus dapat diamati secara nyata. Ia juga mencatat bahwa pengaturan tempo pengembangan bisa dianggap sebagai cara untuk mempertahankan hierarki teknologi yang ada saat ini.
Meski ketegangan tetap tinggi, para ahli seperti Gary Marcus dari NYU melihat kemajuan diplomatik bertahap ini sebagai langkah positif. Keseimbangan antara kepentingan kompetitif dan risiko nyata terhadap stabilitas global menjadi kunci utama bagi masa depan keamanan dunia di era kecerdasan buatan. (ABC/I-2)