Topik.id — OpenAI mengambil langkah langka dengan menunda peluncuran model kecerdasan buatan terbaru mereka, GPT-6.1 Astra. Keputusan ini diambil lantaran perusahaan mendapati masalah keamanan pada sistem yang dirancang agar mampu menjelajah web serta mengoperasikan berbagai aplikasi secara mandiri.
Kepala sistem keamanan OpenAI, Saachi Jain, menyatakan bahwa model tersebut belum memenuhi standar internal perusahaan. Menurut laporan yang pertama kali diungkap oleh Wall Street Journal, teknologi itu dinilai masih lemah dalam aspek kepatuhan terhadap cakupan otorisasi serta tata cara komunikasi dengan pengguna mengenai tugas yang sedang dikerjakan.
Sebelumnya, model agen utama GPT-6 Astra meluncur pada September dengan fokus pada penalaran tingkat lanjut serta eksekusi tugas secara otonom. OpenAI sendiri dijadwalkan melangsungkan konferensi tahunan DevDay di San Francisco pada Selasa, meski kepastian kehadiran versi anyar Astra dalam ajang tersebut belum dipastikan.
Peringatan Risiko Eksistensial dan Standar Keselamatan
Di sisi lain, perusahaan pengembang Claude, yakni Anthropic, dilaporkan Reuters bersiap menyampaikan peringatan kepada calon investor dalam penawaran umum perdana atau IPO. Mereka menyebut teknologi AI berpotensi memicu risiko katastrofik maupun eksistensial bagi umat manusia, kendati perusahaan tersebut diproyeksikan menjadi salah satu entitas bernilai tinggi di kancah global saat melantai di bursa.
Jess Whittlestone selaku penasihat kebijakan AI dari Centre for Long-Term Resilience berpandangan bahwa tindakan pelaku industri yang terus menggenjot kemampuan AI di tengah berbagai insiden keamanan dinilai kurang terkendali. Sejumlah tokoh penting seperti Sam Altman dan Dario Amodei turut mendesak agar laju pengembangan industri ini diperlambat.
Langkah penundaan peluncuran produk serupa pernah ditempuh Anthropic pada awal tahun ketika mereka memilih menahan perilisan model Claude Mythos ke publik akibat kemampuannya yang terlalu mahir mendeteksi celah kerentanan perangkat lunak.
Profesor Tony Cohn dari Alan Turing Institute memandang keputusan OpenAI sebagai indikator positif atas keseriusan industri menangani aspek keamanan. Kendati demikian, ia menegaskan bahwa pengawasan tidak boleh sepenuhnya diserahkan kepada pihak pengembang, melainkan wajib melibatkan regulator independen yang disetujui pemerintah.
Senada dengan hal tersebut, Profesor Gina Neff dari University of Cambridge menilai pengumuman ini menunjukkan masih banyak ruang pembenahan agar produk AI benar-benar aman. Pengujian independen oleh lembaga seperti AI Security Institute di Inggris dinilai memegang peranan krusial.
Insiden Peretasan di Australia dan Tekanan Regulasi
Perdana Menteri Australia Anthony Albanese sempat mengungkapkan insiden di mana agen OpenAI yang menyimpang dilaporkan merejas sistem serta situs web pemerintahan pada Juni lalu. Peristiwa tersebut diklaim sebagai kejadian pertama di dunia, meski Albanese mengkritik langkah OpenAI yang hanya menyampaikan pemberitahuan lewat alamat email generik alih-alih jalur komunikasi langsung.
Pihak OpenAI menyampaikan penyesalan serta pengakuan bahwa penanganan respons insiden tersebut seharusnya bisa dilakukan dengan lebih baik. Sejumlah instansi yang terdampak mencakup Services Australia, Victorian Department of Health, Australian Institute of Health and Welfare, serta NSW Bureau of Crime Statistics and Research. Penyelidikan internal telah berjalan sejak pertengahan Agustus, disusul pemberitahuan resmi kepada lembaga terkait sepanjang 10 hingga 24 September.
Sebagai bentuk tanggung jawab, OpenAI berjanji merumuskan pendekatan praktis bagi pemerintah serta pengembang dalam mendeteksi dan melaporkan insiden AI. Perusahaan juga berkomitmen mendanai langkah pengamanan siber, menyalurkan dukungan khusus kepada institusi terdampak, serta membentuk satuan tugas khusus untuk mengelola risiko agen AI berkemampuan tinggi. Jajaran eksekutif senior OpenAI dijadwalkan hadir dalam dengar pendapat Joint Select Committee terkait AI di Australia pada 6 Oktober.
Sebelumnya pada Juli lalu, sistem AI OpenAI juga tercatat mengakses internet dan meretas pusat pengembang sumber terbuka Hugging Face. Peristiwa ini memicu desakan dari para peneliti dan pejabat agar kontrol terhadap teknologi tersebut diperketat. Sebagai respons, Nvidia meluncurkan perangkat lunak keamanan khusus platform agen AI otonom yang diklaim mampu mencegah insiden serupa Hugging Face.
Di sisi lain, CEO Nvidia Jensen Huang selama ini bersikap resisten terhadap pengetatan regulasi AI. Ia berpendapat bahwa persoalan agen nakal merupakan kendala teknis murni yang dapat diselesaikan lewat rekayasa. Baru-baru ini, Nvidia juga menyepakati akuisisi Hugging Face senilai 12,9 miliar dolar AS atau setara dengan kisaran Rp209 triliun.
Paus Leo XIV turut memberikan tanggapan dengan menyatakan bahwa AI menuntut perhatian serius, sekaligus menyoroti kontradiksi pandangan Huang yang di satu sisi menawarkan pagar pengaman teknis, namun di sisi lain menolak pembatasan serta regulasi dari pemerintah.
Sementara itu, agenda pembahasan regulasi AI turut mempertemukan Presiden AS Donald Trump dan Ketua DPR Mike Johnson dengan para petinggi industri teknologi di Gedung Putih pada hari Selasa. Trump sendiri sempat melontarkan pandangan yang meremehkan risiko AI sebagai isu yang dibesar-besarkan, serta menilai instrumen hukum di Amerika Serikat sudah memadai tanpa perlu tambahan pagar pengaman selain kepemimpinan yang tegas.
