Platform character.ai perketat akun remaja, fokus keamanan digital

cover | topik.id

Platform character.ai mengumumkan kebijakan baru yang dirancang untuk memperkuat keamanan pengguna remaja di platformnya. Perusahaan ini menegaskan bahwa misi utamanya adalah menyediakan ruang kreatif dan aman bagi semua pengguna, terutama bagi pengguna yang berusia di bawah 18 tahun.

Character.ai mengklaim telah berinvestasi besar dalam membangun pengalaman yang aman bagi remaja. Fitur seperti Parental Insights, sistem penyaringan karakter, notifikasi waktu penggunaan, serta perlindungan teknis telah diperkenalkan. Namun, perusahaan menilai bahwa dinamika interaksi antara remaja dan teknologi AI terus berkembang, sehingga diperlukan pendekatan baru yang lebih ketat.

"Selama setahun terakhir, kami telah menginvestasikan upaya dan sumber daya yang luar biasa untuk menciptakan pengalaman khusus bagi pengguna di bawah 18 tahun. Ini mencakup fitur Wawasan Orang Tua pertama di pasar AI, perlindungan teknis, Karakter yang difilter, notifikasi waktu yang dihabiskan, dan banyak lagi, semuanya dirancang agar remaja dapat berkreasi dengan AI dengan cara yang aman. Kami bangga dengan upaya ini, dan kami terus mengembangkannya. Namun, seiring berkembangnya dunia AI, pendekatan kami dalam mendukung pengguna yang lebih muda pun harus terus berkembang," tulis character.ai dalam pengumuman resminya, seperti dilansir topik.id, Kamis (10/10/2025).

Mulai 25 November 2025, character.ai akan menghapus akses obrolan terbuka dengan AI bagi pengguna di bawah 18 tahun. Sebagai gantinya, perusahaan akan memperkenalkan bentuk interaksi baru seperti pembuatan video, cerita, atau streaming bersama karakter. Dalam masa transisi, waktu penggunaan bagi pengguna remaja akan dibatasi maksimal dua jam per hari, dengan kemungkinan pengurangan lebih lanjut sebelum kebijakan penuh diberlakukan.

Selain pembatasan obrolan, perusahaan juga memperkenalkan sistem verifikasi usia baru. Model ini menggabungkan teknologi internal character.ai dengan alat pihak ketiga seperti Persona untuk memastikan pengguna mendapatkan pengalaman yang sesuai dengan kelompok umur mereka. Sistem ini diharapkan bisa menjadi standar baru dalam verifikasi usia di platform berbasis AI.

Langkah besar lainnya adalah pembentukan AI Safety Lab, lembaga nirlaba independen yang berfokus pada inovasi dan penelitian keamanan AI di ranah hiburan digital. Lembaga ini akan bekerja sama dengan akademisi, peneliti, regulator, dan industri untuk mengembangkan teknik keamanan baru dan berbagi praktik terbaik. Character.AI menyebut inisiatif ini sebagai upaya memastikan riset keamanan hiburan AI mendapat perhatian setara dengan bidang AI lainnya.

"Kami akan mendirikan dan mendanai AI Safety Lab – sebuah lembaga nirlaba independen yang didedikasikan untuk inovasi penyelarasan keamanan bagi fitur hiburan AI generasi mendatang. AI Safety Lab akan berfokus pada teknik keamanan baru dan kolaborasi dengan pihak ketiga untuk memajukan teknologi terkini dan berbagi pembelajaran," jelasnya.

Kebijakan baru ini muncul di tengah meningkatnya perhatian publik dan regulator terhadap dampak sosial AI bagi remaja, character.ai mengaku telah menerima masukan dari pakar keamanan dan regulator yang menyoroti risiko interaksi remaja dalam obrolan terbuka dengan AI. 

Setelah evaluasi internal, perusahaan memutuskan mengambil langkah yang disebut lebih konservatif dibandingkan pesaingnya demi menjamin keselamatan pengguna muda.

Tim character.ai juga menyampaikan keprihatinan terkait fitur yang selama ini populer di kalangan remaja. Namun, perusahaan menegaskan keputusan ini diambil demi kebaikan jangka panjang dan akan digantikan dengan cara baru untuk berkreasi bersama karakter AI. 

"Setelah mengevaluasi laporan ini dan masukan dari regulator, pakar keamanan, dan orang tua, kami memutuskan untuk membuat perubahan ini guna menciptakan pengalaman baru bagi komunitas di bawah 18 tahun kami," ungkapnya.