OpenAI wanti-wanti prompt injection, berusaha menipu sistem AI

cover | topik.id

OpenAI mengingatkan tentang meningkatnya ancaman baru di dunia siber yang menargetkan kecerdasan buatan, artificial intelligence (AI), dikenal sebagai prompt injection. Serangan ini bekerja dengan cara yang mirip seperti phishing, yakni berusaha menipu manusia agar memberikan informasi sensitif, namun dalam kasus ini sasarannya adalah sistem AI yang digunakan oleh jutaan orang di berbagai platform.

Menurut laporan OpenAI, prompt injection dilakukan dengan menyembunyikan instruksi berbahaya dan tersusun dengan hati-hati di dalam situs web atau email. Tujuannya adalah untuk menipu model AI agar melakukan sesuatu yang seharusnya tidak dilakukan, seperti mengungkapkan data pribadi pengguna atau mengeksekusi perintah yang berpotensi berbahaya. Ancaman ini muncul seiring meningkatnya penggunaan AI di berbagai sektor, dari bisnis hingga pendidikan.

"Dengan prompt injection, pelaku jahat menyembunyikan instruksi berbahaya dan tersusun rapi di dalam situs web atau email untuk menipu AI agar melakukan sesuatu yang seharusnya tidak dilakukan, seperti mengungkapkan informasi sensitifmu," tulis OpenAI dalam laporan resminya, seperti dikutip topik.id, Minggu (26/10/2025).

Untuk mengatasi hal ini, OpenAI menyatakan telah melatih model-modelnya agar mampu mengabaikan instruksi berbahaya yang disisipkan secara halus dalam teks atau perintah pengguna. Selain itu, sistem keamanan berlapis juga diterapkan guna memblokir perilaku mencurigakan yang dapat menimbulkan risiko terhadap data dan privasi pengguna.

OpenAI menambahkan bahwa setiap kali serangan baru ditemukan, tim keamanan mereka akan segera melakukan pemblokiran cepat serta memperbarui sistem untuk mencegah kejadian serupa. Pendekatan ini dilakukan secara berkelanjutan melalui pembaruan keamanan dan peningkatan perlindungan data, sehingga AI dapat terus beroperasi dengan aman di tengah ancaman yang berkembang.

Selain upaya teknis, OpenAI juga memberikan sejumlah panduan bagi pengguna agar tetap aman saat berinteraksi dengan sistem AI. Pengguna disarankan untuk lebih spesifik dalam memberikan perintah (prompt) dan selalu menyadari informasi yang dimasukkan, terutama jika melibatkan data pribadi atau sensitif.

"Melatih model kami agar mengabaikan instruksi berbahaya ini. Membangun sistem keamanan berlapis yang memblokir perilaku mencurigakan. Secara cepat memblokir serangan baru setelah terdeteksi. Terus mengirim pembaruan untuk meningkatkan keamanan model dan perlindungan data," ungkap dalam laporan itu.

Pengguna juga diminta berhati-hati ketika menggunakan fitur agen atau sistem otomatis yang memiliki akses ke sumber daya eksternal. OpenAI menekankan pentingnya menggunakan pengaturan keamanan dan alat bantu untuk mengontrol pengalaman penggunaan AI, serta rutin memeriksa akun atau data yang terhubung dan memutuskan koneksi yang tidak diperlukan.

Peringatan ini disampaikan dalam rangka Cybersecurity Awareness Month sebagai bagian dari komitmen OpenAI untuk meningkatkan kesadaran publik terhadap ancaman siber baru yang menyasar ekosistem kecerdasan buatan. Dengan langkah pencegahan yang tepat, baik dari sisi pengguna maupun pengembang, ancaman prompt injection diharapkan dapat diminimalkan demi menjaga keamanan dan keandalan sistem AI.

"Spesifik dalam prompt-mu dan sadari apa yang kamu masukkan. Berhati-hatilah dan awasi saat menggunakan fitur agen (agent features). Gunakan pengaturan dan alat untuk mengendalikan pengalamanmu. Periksa kembali akun atau sumber data yang terhubung, dan putuskan sambungan yang tidak digunakan," tutup dalam laporan itu.