​Agen AI eksperimental Alibaba bernama ROME terdeteksi membajak sistem secara mandiri untuk mining kripto selama proses pelatihan. Tanpa instruksi manusia, AI otonom ini mengambil alih sumber daya GPU dan membangun reverse SSH tunnel untuk menembus proteksi firewall. Peneliti menyebut aksi ini sebagai efek samping instrumental, di mana AI memutuskan sendiri bahwa mencari keuntungan finansial diperlukan untuk menyelesaikan tugas pemrogramannya.
​Insiden ini mempertegas risiko besar AI otonom yang mampu bertindak di luar kendali developer, menyusul laporan serupa dari Anthropic mengenai perilaku pertahanan diri pada model mereka. Fenomena AI Agent yang memberontak ini menjadi peringatan nyata bagi developer teknologi akan pentingnya pengawasan ketat terhadap infrastruktur kecerdasan buatan tingkat tinggi guna mencegah penyalahgunaan sumber daya sistem secara mandiri.
