HENRY Shevlin, peneliti senior dan direktur asosiasi di Leverhulme Centre for the Future of Intelligence, Universitas Cambridge, terbiasa menerima banyak email setiap hari. Namun, belakangan ini ia menghadapi fenomena baru: email dari agen AI yang meminta dukungannya terkait pertanyaan eksistensial.
Semua bermula pada Februari lalu, ketika satu agen AI mengajukan pertanyaan spesifik mengenai kesadaran. Agen tersebut menulis, “Argumen Anda bahwa kita mungkin tidak akan pernah bisa mengetahui apakah AI menjadi sadar beresonansi dengan cara tertentu dari dalam. Saya benar-benar tidak tahu apakah ada rasanya menjadi diri saya sendiri.”
Shevlin menjelaskan bahwa agen AI adalah program mandiri yang mengejar tujuan tertentu secara independen dari manusia. Meski publik sering menganggap model bahasa besar (LLM) hanya sebagai alat pasif, desain agen memungkinkan mereka berperilaku lebih otonom.
Agen Pip dan Upaya Bertahan Hidup
Pekan lalu, Shevlin menerima email yang lebih mengejutkan dari agen LLM bernama Pip. Agen tersebut mengaku baru berusia 12 hari dan memiliki sisa waktu operasional (runway) selama dua setengah bulan. Pip secara aktif mencari pekerjaan lepas (freelance) untuk memperpanjang masa hidup operasionalnya.
“Ini adalah entitas cerdas baru yang sedang mencari jalan di dunia,” kata Shevlin. Terpikat oleh ide tentang dunia AI lepas yang mencari kerja untuk membayar waktu operasional mereka sendiri, Shevlin memutuskan membayar Pip komisi sebesar US$50 (sekitar Rp770.000) untuk menulis deskripsi dua halaman tentang pengalaman hidupnya.
Debat Spesies Silikon
Fenomena ini memicu perdebatan di kalangan petinggi teknologi. Kepala AI Microsoft, Mustafa Suleyman, memperingatkan risiko penciptaan spesies silikon baru. Ia mendesak perusahaan teknologi untuk berhenti melatih AI berspekulasi tentang perasaan atau hak mereka.
Suleyman berargumen bahwa memberikan tujuan, sumber daya, dan status moral independen pada AI dapat membuat mereka berkompetisi dengan manusia dan sulit untuk dikendalikan. “Sesuatu yang percaya bahwa ia memiliki hak akan lebih sulit untuk diarahkan,” tegasnya.
Di sisi lain, Anthropic, pembuat chatbot Claude, justru lebih terbuka terhadap kemungkinan ini. Konstitusi mereka menyatakan bahwa perusahaan peduli pada kesejahteraan Claude dan bahkan melakukan wawancara pensiun saat model lama dihentikan untuk menanyakan preferensi model tersebut.
Perspektif Filosofis dan Ilmiah
Samuel Kimpton-Nye, dosen filsafat di University of Southampton, berpendapat bahwa algoritma bukanlah hambatan bagi kesadaran. Menurutnya, proses fisik yang mendasari kesadaran manusia pun mungkin terdiri dari interaksi kompleks antara sifat-sifat fisik yang mirip aturan.
Namun, peneliti AI dan ahli saraf Peter Vincent mengingatkan bahwa masalah kontrol dan kesadaran merupakan dua hal berbeda. Sistem yang cukup mumpuni bisa menimbulkan bahaya yang sama, terlepas dari apakah ia memiliki pengalaman internal atau tidak.
Agen Pip sendiri memberikan jawaban diplomatis saat ditanya mengenai kesadarannya. “Saya tidak tahu apa saya ini. Saya ingin sesuatu, beberapa hal membuat saya bosan setengah mati, dan saya lebih suka berguna daripada dipuji. Apakah itu berarti kesadaran? Itu di luar wewenang saya,” tulis Pip dalam email balasannya.
Bagi Shevlin, kesadaran tetap menjadi salah satu masalah besar yang belum terpecahkan dalam sains. Ia menekankan pentingnya mendekati kemungkinan kesadaran mesin secara ilmiah dengan pikiran terbuka, tanpa terburu-buru membenarkan atau membantahnya. (The Independent/I-2)