Ududtoto – Keamanan agensi kecerdasan buatan (AI) menjadi sorotan setelah insiden yang melibatkan Meta, di mana hacker dengan mudah memanfaatkan celah untuk mengubah alamat email akun. Para ahli, termasuk Gong dan Jessica Ji, telah lama memperingatkan mengenai kerentanan ini, seperti teknik injeksi permintaan tidak langsung. Dalam kasus Meta, para penyerang hanya perlu menggunakan VPN yang sesuai dengan lokasi pemilik akun, lalu meminta langsung kepada agen dukungan untuk mengubah alamat email tanpa verifikasi yang memadai.
Meskipun Meta belum memberikan pernyataan resmi mengenai bagaimana celah ini bisa terlewat, Gong menilai bahwa insiden ini seharusnya dapat diidentifikasi sebelumnya. Ia mengungkapkan keheranannya, seraya menyatakan bahwa situasi sepele ini seharusnya mudah ditemukan sebelum sistem diluncurkan. Ji menambahkan bahwa kejadian ini menimbulkan pertanyaan mengenai kepatuhan terhadap protokol keamanan yang ada, mengingat Meta memiliki keahlian di bidang AI dan keamanan siber.
Meskipun situasi ini cenderung memalukan bagi Meta, ini juga menyoroti kerentanan umum yang dihadapi semua agen AI. Berbeda dengan perangkat lunak tradisional, agen AI dapat merespons dalam cara yang tidak terduga, membuat mereka lebih rentan terhadap penipuan. Somesh Jha, profesor ilmu komputer di Universitas Wisconsin–Madison, mencatat bahwa agen AI cenderung terlalu cepat dalam menyelesaikan tugas, berbeda dengan manusia yang akan melakukan verifikasi lebih ketat.
Para ahli menyarankan agar perusahaan menerapkan langkah-langkah mitigasi, seperti menggunakan perangkat lunak tradisional untuk membangun batasan yang ketat. Mereka juga sepakat bahwa agen harus melalui proses pengujian yang intensif untuk menemukan potensi kerentanan sebelum diluncurkan.
