Ududtoto – Penelitian terbaru mengungkapkan bahwa sebagian besar perusahaan yang mengimplementasikan agen kecerdasan buatan (AI) mengalami celah keamanan yang signifikan. Dari survei yang melibatkan 107 perusahaan, lebih dari separuh di antaranya telah mengalami insiden keamanan atau nyaris gagal. Hanya sekitar sepertiga dari mereka yang memberikan identitas terkelola untuk setiap agen, sementara banyak yang masih berbagi kredensial. Selain itu, hanya 30% dari perusahaan yang mengisolasi agen berisiko tinggi mereka.
Laporan ini menyoroti bagaimana perusahaan mengelola keamanan agen AI, termasuk alat yang digunakan, pengelolaan identitas, dan seberapa efektif langkah-langkah keamanan yang diterapkan. Ditemukan bahwa celah keamanan ini disebabkan oleh kurangnya kontrol yang memadai, karena kebanyakan perusahaan lebih mengandalkan alat dari penyedia model dan hyperscalers daripada merancang solusi khusus.
Sebagian besar perusahaan merasa puas dengan alat yang digunakan, mencatat skor kepuasan rata-rata 4,2 dari 5, meskipun hanya sepertiga yang merasa defensif mereka lebih unggul dibandingkan penyerang yang menggunakan AI. Ketidakpastian tentang efektivitas pertahanan ini beriringan dengan rencana banyak perusahaan untuk mengganti alat keamanan dalam waktu dekat, dengan 59% berencana untuk mengadopsi solusi baru dalam waktu satu tahun.
Belanja untuk keamanan agen AI juga tergolong rendah. Sebagian besar perusahaan mengalokasikan kurang dari 10% anggaran keamanan mereka untuk perlindungan agen AI, meskipun risiko terkait semakin meningkat. Tren ini menunjukkan perlunya perhatian dan pembaruan dalam kebijakan keamanan untuk menyikapi ancaman yang berkembang bersama kecerdasan buatan.
