 |
| cover | topik.id |
Kecerdasan buatan, artificial intelligence (AI) kini menjadi 'senjata' utama dunia modern skala global, mendorong produktivitas dan inovasi di berbagai sektor. Namun, di balik manfaat luar biasa itu, hadir pula ancaman baru yang tak kalah besar, risiko keamanan siber yang diperkuat oleh agen AI.
Wakil Presiden Eksekutif Keamanan Microsoft, Charlie Bell menegaskan bahwa organisasi kini menghadapi dilema besar, AI dapat menjadi sekutu pelindung terkuat atau justru musuh tersembunyi yang menghancurkan pertahanan digital dari dalam.
"AI dengan cepat menjadi tulang punggung dunia kita, menjanjikan produktivitas dan inovasi yang tak tertandingi. Namun, seiring organisasi menerapkan agen AI untuk membuka peluang baru dan mendorong pertumbuhan, mereka juga menghadapi ancaman keamanan siber jenis baru," ungkap Bell di laman resmi Microsoft, seperti dilansir topik.id, Sabtu (8/11/2025).
Riset terbaru IDC memperkirakan bahwa pada tahun 2028 akan ada lebih dari 1,3 miliar agen AI aktif di dunia. Setiap agen memiliki potensi besar untuk membantu, tetapi juga risiko untuk menjadi “agen ganda” jika tidak dikelola dengan baik.
Dalam analogi yang terinspirasi dari karakter Data dan Lore di Star Trek, Bell menggambarkan dualitas AI—mampu bertindak sebagai penjaga kebenaran, atau sebaliknya, menjadi ancaman jika diarahkan oleh niat jahat.
Lanskap serangan digital pun berubah drastis. Agen AI, yang bersifat adaptif dan otonom, dapat disalahgunakan oleh aktor jahat untuk mencuri data atau memanipulasi sistem tanpa terdeteksi.
Bell menyebut fenomena ini sebagai “Masalah Wakil yang Bingung”, di mana agen AI yang awalnya dirancang untuk membantu justru dapat dieksploitasi oleh pihak luar. Lebih berbahaya lagi, munculnya “agen bayangan”, AI tanpa pengawasan atau izin resmi—menambah titik buta yang memperbesar risiko keamanan.
"Riset IDC, memprediksi akan ada 1,3 miliar agen yang beredar pada tahun 2028. Ketika kita memikirkan masa depan agen di bidang AI, dualitas Data dan Lore tampaknya menjadi cara yang tepat untuk membayangkan apa yang akan kita hadapi dengan agen AI dan bagaimana menghindari agen ganda yang menjungkirbalikkan kendali dan kepercayaan. Para pemimpin harus mempertimbangkan tiga prinsip dan menyesuaikannya dengan kebutuhan spesifik organisasi mereka," ungkapnya.
Untuk menghadapi situasi ini, Microsoft mengusulkan pendekatan Agentic Zero Trust, yakni menerapkan prinsip keamanan “tidak pernah percaya, selalu verifikasi” pada setiap agen AI. Konsep ini menekankan dua prinsip utama, Penahanan dan Penyelarasan.
Penahanan berarti membatasi hak akses setiap agen sesuai perannya, sementara penyelarasan memastikan agen beroperasi sesuai tujuan yang telah disetujui dan mampu menolak upaya manipulasi dari luar. Pendekatan ini memperkuat akuntabilitas serta memastikan setiap agen memiliki identitas dan pemilik yang jelas dalam organisasi.
Namun, teknologi saja tidak cukup. Bell menekankan pentingnya budaya organisasi yang menempatkan keamanan sebagai bagian dari DNA perusahaan. Dialog lintas fungsi antara bagian hukum, SDM, kepatuhan, dan teknologi harus menjadi kebiasaan sehari-hari.
Lanjutnya, dengan membangun budaya inovasi yang aman, organisasi dapat mendorong karyawan untuk bereksperimen dengan AI secara bertanggung jawab tanpa menciptakan celah baru bagi pelanggaran keamanan.
"AI bukan sekadar babak baru — melainkan sebuah plot twist yang mengubah segalanya. Peluangnya sangat besar, tetapi risikonya juga besar. Meningkatnya AI membutuhkan keamanan ambien, yang diciptakan oleh para eksekutif dengan menjadikan keamanan siber sebagai prioritas harian. Ini berarti memadukan langkah-langkah teknis yang tangguh dengan edukasi berkelanjutan dan kepemimpinan yang jelas sehingga kesadaran keamanan memengaruhi setiap keputusan yang dibuat," terangnya.
