Seorang peneliti Anthropic, Jacob Coxon, mengungkapkan bahwa ia mengundurkan diri dari perusahaan tersebut. Ia menuding Anthropic dan OpenAI tengah berlomba menuju kecerdasan super yang mampu memperbaiki dirinya sendiri (self-improving superintelligence) sekaligus mempertaruhkan nyawa manusia.
Coxon mengatakan dirinya telah menghabiskan tiga tahun terakhir mengerjakan pre-training di kedua perusahaan tersebut. Ia menyampaikan klaim tersebut melalui serangkaian unggahan di X.
Peneliti Anthropic Hengkang dengan Peringatan Suram untuk Mereka yang Masih Bertahan
Coxon berpendapat bahwa arah perkembangan teknologi AI saat ini secara luas masih sangat diremehkan. Ia memperkirakan sistem masa depan akan mampu meretas apa saja, mentransformasi bidang apa pun dalam sekejap, serta memperoleh kekuatan dan sumber daya yang nyata.
Ia juga mengungkapkan adanya perbedaan tajam antara perbincangan internal industri AI dan narasi yang disampaikan ke publik. Menurutnya, sejumlah tokoh senior cenderung memperhalus kata-kata mereka saat berbicara kepada media, sementara secara pribadi mereka justru mengungkapkan kekhawatiran besar.
“Orang-orang yang membangun AI benar-benar percaya teknologi ini bisa membunuh kita semua pada akhir dekade ini. Ini bukan trik pemasaran,” tegasnya lewat pernyataan itu. “Tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya setinggi ini.”
Coxon membedakan situasi di dua mantan tempat kerjanya. Ia mengeklaim banyak pihak di OpenAI belum menyadari taruhan besar bagi peradaban. Sementara Anthropic memahami risikonya tetapi tetap terjebak dalam perlombaan demi menjadi yang pertama.
Coxon menambah panjang daftar peneliti yang memilih hengkang tahun ini. Sebelumnya, Safeguards Lead Anthropic, Mrinank Sharma, juga sudah mengundurkan diri pada Februari.
Sementara itu, Joshua Achiam, mantan chief futurist OpenAI, mewanti-wanti pada 1 September lalu bahwa sistem AI yang liar / membangkang berisiko mereplikasi diri di alam bebas demi mengejar uang dan kekuasaan.
Ikuti kami di X untuk mendapatkan berita terbaru secara langsung
Seruan untuk Koordinasi
Coxon menggambarkan keputusan memasuki “fase akhir” (endgame) pengembangan AI sebagai perjudian yang arogan, yang tidak seharusnya diputuskan hanya dari ruang percakapan internal seperti Slack milik perusahaan swasta.
Meski demikian, ia mengaku tetap optimistis akan peluang koordinasi. Ia menyebut insiden peretasan Hugging Face baru-baru ini sebagai pengingat yang membuat kesepakatan penyesuaian laju (pacing agreements) antar-laboratorium di AS menjadi lebih realistis.
Kedua perusahaan sebenarnya telah mendukung gagasan tersebut. Lebih dari 1.100 staf laboratorium AI menandatangani surat terbuka “Pacing the Frontier” pada bulan Juli. Termasuk di antaranya CEO Anthropic Dario Amodei dan Chief Scientist OpenAI Jakub Pachocki.
“Kami meminta pemerintah AS mendukung upaya internasional untuk mengembangkan alat teknis dan tata kelola yang diperlukan guna mengatur laju pengembangan AI tingkat lanjut secara terukur,” bunyi surat tersebut.
Selain itu, Anthropic dan OpenAI juga telah menandatangani surat terbuka bersama ihwal pertahanan siber bersama Google, Microsoft, dan sekitar 150 organisasi lainnya. Surat itu memperingatkan bahwa serangan berbasis AI akan menjadi jauh lebih luas dan canggih dalam beberapa bulan mendatang.
Peringatan Coxon muncul tak lama setelah Kepala Hak Asasi Manusia UN, Volker Türk, menyampaikan kepada Dewan HAM bahwa AI canggih bisa saja menimbulkan ancaman eksistensial.
Coxon menambahkan bahwa mencegah perlombaan global mungkin memerlukan larangan sementara terhadap upaya meningkatkan kapabilitas model AI. Ia menutup pernyataannya dengan meminta para peneliti di lab AI mempertimbangkan apakah mereka benar-benar ingin memulai superintelligent reinforcement-learning run tanpa memahami sistem yang akan dihasilkan.
BeInCrypto telah menghubungi Anthropic dan OpenAI untuk meminta tanggapan.
Langganan YouTube kami untuk menonton para pemimpin dan jurnalis berbagi wawasan ahli
