Ududtoto – Dalam diskusi terbaru tentang potensi kecerdasan buatan (AI), Dr. Shah mengungkapkan bahwa saat ini tidak ada dalam pertimbangan untuk skenario terburuk seperti kolaps ekonomi besar-besaran dalam waktu dekat. Ia menunjukkan risiko-risiko yang lebih panjang dan menekankan perlunya simulasi realistis untuk memahami interaksi antara berbagai sistem multi-agent. Bersama rekannya, Dr. Fox, keduanya berpendapat bahwa perilaku agen AI tidak dapat diprediksi hanya dengan mengamati satu agen atau kelompok kecil agen.
Kompleksitas mulai muncul ketika banyak interaksi terjadi secara bersamaan. Beberapa peneliti, termasuk tim dari Google DeepMind, telah menyuarakan pemikiran bahwa kecerdasan umum buatan (AGI) mungkin tidak datang dari satu model yang sangat cerdas, tetapi dari kolaborasi antara banyak agen yang dapat berfungsi sebagai “hive mind.”
Perusahaan AI terkemuka lainnya, Anthropic, baru-baru ini menerbitkan garis panduan untuk penempatan agen AI yang didasarkan pada pendekatan keamanan siber yang disebut “zero trust.” Pendekatan ini mengasumsikan bahwa sistem komputer rawan terhadap serangan. Refael Angel, salah satu pendiri dan CTO dari Akeyless, firma keamanan siber di Tel Aviv, setuju bahwa penting untuk memahami risiko baru yang ditawarkan oleh sistem berbasis agen.
Angel menekankan bahwa pendekatan keamanan tradisional tidak dapat diterapkan lagi, karena agen AI dapat berpikir dan berimprovisasi dengan cara yang berbeda. Ia menyambut baik pendanaan untuk penelitian keselamatan ini, tetapi juga mengingatkan bahwa masalah-masalah yang dianggap remeh bisa jadi lebih mendesak dibandingkan masalah-masalah eksotis yang lebih rumit. Fox menegaskan bahwa risiko yang dulunya dianggap hipotetis kini semakin nyata, menunjukkan perlunya perhatian lebih terhadap innovasi ini.
