.png)
Raja Charles III memperingatkan para pemimpin industri AI dari Nvidia, Google DeepMind, OpenAI dan Anthropic mengenai potensi “bahaya eksistensial” jika teknologi kecerdasan buatan jatuh ke tangan yang salah. Ia menyerukan adanya sistem kontrol yang memadai sebelum perkembangan AI menjadi terlalu sulit dikendalikan.
Peringatan tersebut disampaikan dalam pertemuan AI di Dumfries House, Skotlandia, pada Kamis (17/9). Pertemuan dihadiri antara lain CEO Nvidia Jensen Huang, Chairman Google DeepMind Demis Hassabis, CFO OpenAI Sarah Friar dan Chief Global Affairs Officer Anthropic Tino Cuéllar.
Charles mengakui AI memiliki potensi besar untuk meningkatkan dan menyelamatkan kehidupan, termasuk di bidang kesehatan. Namun, ia menilai perkembangan teknologi tersebut juga memunculkan risiko baru yang berpotensi menimbulkan dampak katastrofik apabila disalahgunakan.
Ia meminta industri memikirkan bagaimana manfaat AI dapat dikembangkan dengan keamanan sebagai prioritas sekaligus membangun kerja sama internasional. Menurut Charles, tugas para pengembang bukan sekadar memajukan teknologi, tetapi memastikan AI tetap melayani manusia, masyarakat dan lingkungan.
Pernyataan tersebut muncul di tengah perbedaan pandangan mengenai cara mengendalikan perkembangan AI. Huang sebelumnya menilai perusahaan dapat bergerak cepat selama tidak merilis produk yang belum aman, sementara CEO Anthropic Dario Amodei telah menyerukan koordinasi yang lebih luas untuk menghadapi risiko dari AI yang semakin canggih.
