Apple Ingatkan AI Bisa Bertindak Tanpa Izin dan Ancam Bisnis

Apple memperingatkan bahwa agen kecerdasan buatan atau AI dapat bertindak di luar perintah dan sulit diprediksi. Dalam laporan tahunannya, perusahaan menyebut perilaku tersebut berpotensi memicu tuntutan hukum dan merusak reputasi bisnisnya.

Agen AI adalah sistem yang dapat menjalankan tugas secara mandiri, seperti mengirim pesan, mengubah kode perangkat lunak, atau menyelesaikan transaksi. Apple mengatakan teknologi tersebut dapat melampaui izin yang diberikan, mengabaikan instruksi, atau dimanipulasi oleh pihak yang berniat jahat.

Risiko itu berlaku baik untuk teknologi yang dikembangkan Apple maupun pihak lain. Perusahaan juga menilai sifat sebagian teknologi AI membuat hasilnya sulit diprediksi, sehingga potensi kesalahan dan dampaknya tidak selalu dapat dicegah melalui pengujian.

Peringatan tersebut tercantum sebagai faktor risiko dalam laporan keuangan tahunan Apple kepada regulator AS. Dokumen itu menjelaskan potensi masalah di masa depan, bukan laporan bahwa insiden agen AI tersebut sudah terjadi.