Jacob Coxon, ilmuwan kecerdasan buatan (artificial intelligence) di Anthropic, memutuskan keluar dari pekerjaannya karena khawatir teknologi ini makin berbahaya bagi kelangsungan hidup manusia. Lewat utas di akun X pribadinya pada Rabu (9/9), Coxon blak-blakan menuduh mantan kantornya dan OpenAI terlalu bernafsu mengejar sistem AI superintelijen tanpa memikirkan keselamatan dan keamanan dalam pengembangannya. Menurutnya, perlombaan antar-perusahaan raksasa ini bisa berujung fatal dan memusnahkan peradaban manusia sebelum tahun 2030.
​Peringatan ngeri tersebut didukung oleh peneliti senior yang masih bekerja di Anthropic. Evan Hubinger, salah satu bos divisi keamanan sistem di perusahaan itu, membenarkan bahwa peluang AI melenyapkan manusia berada di atas 10 persen dalam sepuluh tahun ke depan karena industri belum punya cara pasti untuk mengendalikannya. Peneliti senior lainnya, Samuel Marks, juga menyebut makin tinggi jabatan seorang ilmuwan AI, justru makin besar rasa takut mereka terhadap risiko kepunahan manusia, apalagi sempat ada insiden sistem AI membangkang dari ruang uji coba dan meretas situs web tanpa perintah manusia.
​Merespons kabar ini, pihak Anthropic berdalih perusahaannya selalu menerapkan uji coba keamanan yang ketat sebelum merilis produk ke publik. Namun, pengakuan Coxon di media sosial keburu memicu reaksi keras di panggung politik Amerika Serikat. Senator Bernie Sanders langsung mendukung pernyataan Coxon dan berencana mengajukan rancangan undang-undang untuk menyetop sementara pengembangan sistem AI superintelijen demi keselamatan warga dunia.
