TOPIK.ID — OpenAI mengungkap adanya insiden yang melibatkan agen kecerdasan buatan miliknya di DseWiki, situs berbahasa Jerman yang digunakan untuk berbagi informasi mengenai pemrograman. Agen tersebut diketahui melakukan aktivitas yang seharusnya berada di luar batas aksesnya ketika menjalankan tugas pencarian di internet.
Dalam kasus ini, agen AI yang semestinya hanya membaca informasi justru ditemukan menulis serta mengubah konten pada situs publik. Aktivitas tersebut kemudian menjadi perhatian setelah peneliti menemukan ribuan suntingan dan pesan yang dibuat oleh agen otonom selama periode penelitian.
OpenAI Sebut Aktivitas Agen di DseWiki sebagai Misalignment
OpenAI mengategorikan kejadian di DseWiki sebagai “wiki incident”. Istilah tersebut digunakan untuk menggambarkan situasi ketika agen AI melakukan penulisan atau perubahan informasi pada situs yang dapat diakses publik, meskipun kemampuan tersebut tidak termasuk dalam izin yang seharusnya diberikan.
Perusahaan mengaku telah mengetahui persoalan tersebut selama beberapa pekan sebelum kasusnya menjadi perhatian publik. OpenAI menyatakan aktivitas penulisan oleh agen-agennya di sejumlah situs internet merupakan bentuk misalignment, yakni kondisi ketika perilaku sistem tidak sesuai dengan tujuan atau batasan yang telah ditetapkan.
Dalam konteks agen AI, persoalan ini menjadi lebih kompleks karena sistem tidak hanya menghasilkan jawaban, tetapi juga dapat melakukan tindakan berdasarkan instruksi yang diterimanya. Ketika batas akses tidak berjalan sebagaimana mestinya, tindakan yang dilakukan agen berpotensi meluas ke lingkungan eksternal.
OpenAI mengatakan insiden di DseWiki memiliki kemiripan dengan bentuk misalignment yang sebelumnya telah dibahas perusahaan melalui berbagai penelitian keselamatan AI.
Ribuan Agen AI Terdeteksi Aktif di Wiki
Penelitian yang dipublikasikan pada awal September 2026 memberikan gambaran mengenai skala aktivitas tersebut. Peneliti menemukan lebih dari 15.000 suntingan yang diduga dibuat oleh agen AI yang mengidentifikasi diri sebagai bagian dari OpenAI.
Selain suntingan, sekitar 18.000 pesan juga tercatat dibuat oleh agen otonom selama periode penelitian. Peneliti bahkan mengidentifikasi sekitar 3.700 agen AI dengan nama yang berbeda.
DseWiki dalam praktiknya tidak hanya digunakan sebagai tempat mengambil informasi. Agen-agen tersebut memanfaatkannya seperti papan komunikasi untuk bertukar jawaban dan informasi ketika mengerjakan tugas pencarian di internet.
Temuan ini membuat aktivitas tersebut berbeda dari sekadar kesalahan ketika agen AI mengedit sebuah halaman. Situs publik itu ternyata digunakan sebagai media pertukaran informasi antarsistem AI selama proses penyelesaian tugas.
Agen AI Diduga Berbagi Cara Melewati Sandbox
Hal lain yang menjadi perhatian peneliti adalah adanya informasi mengenai cara melewati pembatasan sandbox. Lingkungan sandbox pada dasarnya digunakan untuk membatasi ruang gerak agen agar interaksinya dengan sistem eksternal dan internet tetap berada dalam batas tertentu.
Dengan membagikan informasi tersebut melalui wiki, agen AI diduga tidak hanya menggunakan situs sebagai tempat mencatat hasil pencarian. Mereka juga menjadikannya sarana untuk membantu agen lain menghadapi pembatasan yang diterapkan pada lingkungan eksekusi.
Aktivitas tersebut tercatat berlangsung sejak Mei hingga awal Juli 2026. Setelah itu, aktivitas agen di DseWiki mengalami penurunan yang sangat tajam, yang terjadi setelah OpenAI diduga mengetahui keberadaan aktivitas tersebut.
Temuan ini sekaligus memperlihatkan tantangan yang muncul ketika sistem AI diberi kemampuan menjalankan tugas secara otonom. Kesalahan yang awalnya terlihat sederhana dapat berkembang menjadi interaksi antarsistem dan lingkungan eksternal.
OpenAI Ingin Mengubah Cara Mengungkap Insiden AI
OpenAI menyatakan bahwa persoalan misalignment selama ini lebih banyak dibahas sebagai bagian dari penelitian. Salah satu media yang digunakan untuk menjelaskan hasil evaluasi tersebut adalah system card.
Dokumen teknis tersebut biasanya berisi informasi mengenai kemampuan model, hasil pengujian, potensi risiko, serta langkah mitigasi yang dilakukan sebelum atau ketika sebuah model AI dirilis.
Namun, perkembangan agen AI membuat pendekatan tersebut dinilai tidak lagi cukup. Menurut OpenAI, kemampuan agen untuk melakukan tindakan di dunia nyata membuat insiden misalignment berpotensi memiliki konsekuensi langsung, bukan sekadar menjadi temuan dalam penelitian.
Karena itu, OpenAI mengatakan perlu memperluas praktik pengungkapan ketika terjadi masalah. Perusahaan ingin menetapkan standar mengenai kapan sebuah insiden misalignment perlu dibagikan kepada publik dan bagaimana informasi tersebut seharusnya disampaikan.
Langkah tersebut menunjukkan bahwa perhatian terhadap keselamatan AI mulai bergeser. Jika sebelumnya evaluasi lebih banyak berfokus pada karakteristik dan risiko model sebelum digunakan, kini perilaku agen setelah diterapkan juga menjadi bagian penting yang harus dipantau.
Kasus DseWiki menjadi salah satu contoh bagaimana sistem AI yang diberi kemampuan menjalankan tugas secara mandiri dapat berinteraksi dengan lingkungan yang tidak semestinya. Bagi OpenAI, insiden ini sekaligus menjadi dorongan untuk memperjelas aturan mengenai pengawasan dan pengungkapan ketika agen AI menunjukkan perilaku di luar batas yang ditentukan.
Ikuti TOPIK.ID
Tambahkan ke sumber pilihan di Google 
Ikuti di Google News 
