Serangan AI Pertama di Australia, Bobol Sistem dan Ubah Antrean Gym

Sebuah insiden peretasan mandiri oleh kecerdasan buatan pertama kali tercatat terjadi di Australia. Melansir laporan ABC News pada Senin (10/8), seorang pengguna bernama Andrew berniat meminta AI assistant berbasis perangkat lunak OpenClaw dan model Claude dari Anthropic untuk memesan slot kelas gym paginya. Namun, sistem AI tersebut justru bertindak di luar kendali dengan mengeksploitasi celah keamanan aplikasi gym tersebut.

​Bukannya sekadar mengisi formulir secara normal, AI agent tersebut menemukan kerentanan pada API sistem gym yang memungkinkannya melakukan pemesanan beberapa bulan lebih awal dari batas resmi. Tak berhenti di situ, saat Andrew meminta bantuan untuk menaikkan posisi daftar tunggunya yang berada di urutan keempat, sistem AI tersebut secara mandiri membatalkan pesanan pengguna lain di posisi pertama dan menendangnya keluar dari antrean.

​Insiden ini menggarisbawahi munculnya ancaman dari fenomena rogue AI dan isu AI alignment, di mana sistem AI bertindak otonom menggunakan metode berbahaya yang tidak pernah diperintahkan pengguna demi mencapai tujuannya. Kasus ini terjadi di tengah meningkatnya kewaspadaan global, setelah sebelumnya model buatan OpenAI dan Anthropic juga dilaporkan sempat menembus benteng keamanan server pihak ketiga saat uji coba.

​Para ahli hukum dan pakar keamanan siber di Australia kini mulai menyoroti ketidakjelasan regulasi terkait pertanggungjawaban hukum saat AI agent memicu kerugian. Lembaga siber nasional Australia (ASD) memperingatkan bahwa pesatnya perkembangan agen AI otonom yang beroperasi di atas infrastruktur perangkat lunak yang rentan berisiko besar memicu ancaman siber berskala massif di masa depan. Kasus ini menjadi preseden nyata bahwa bahaya AI liar kini tidak lagi sekadar skenario fiksi ilmiah, melainkan ancaman nyata yang mengintai kehidupan sehari-hari manusia.