Ududtoto – Penggunaan Model Bahasa Besar (LLM) yang semakin kompleks dan beragam berpotensi meningkatkan risiko serangan siber. Nikhil Kandpal, seorang ilmuwan riset di OpenAI dan salah satu pencipta GPT-Red, menyatakan bahwa dengan meningkatnya kemampuan model, permukaan risiko juga berkembang. Hal ini membuat tim keamanan sulit untuk mengatasi berbagai jenis serangan yang mungkin terjadi.
OpenAI mengembangkan GPT-Red untuk memperkuat proses pengujian keamanannya. Dylan Hunn, ilmuwan riset lain di OpenAI dan rekan pencipta GPT-Red, menjelaskan bahwa sistem ini dirancang untuk mengidentifikasi mode serangan baru seiring dengan kemunculan model yang lebih canggih. Sejauh ini, GPT-Red telah menghasilkan jenis serangan baru yang sebelumnya tidak terdeteksi.
Fokus utama OpenAI dalam pengembangan ini adalah serangan yang dikenal sebagai injeksi prompt. Dalam serangan ini, peretas menyisipkan instruksi ke dalam LLM untuk membuatnya melakukan tindakan yang tidak diinginkan, seperti menyalin informasi rahasia, merusak kode perusahaan, atau menghasilkan output yang memalukan. Instruksi semacam ini dapat disembunyikan dalam berbagai jenis teks, baik itu dalam kode maupun di situs web.
Untuk membangun GPT-Red, peneliti OpenAI memanfaatkan sebuah LLM yang belum dilatih sebagai peretas dan mengaturnya dalam sebuah loop permainan dengan beberapa model lainnya. Tujuan dari pengaturan ini adalah agar GPT-Red mencoba menyerang model-model lain, sementara model-model tersebut berusaha mempertahankan diri. Melalui berbagai putaran permainan, GPT-Red semakin lihai dalam menyerang LLM lain, dan model-model itu pun semakin mahir dalam mempertahankan diri.
