Meta memperkenalkan fitur kontrol orang tua untuk percakapan remaja dengan karakter AI di platformnya.
Meta baru-baru ini mengumumkan pratinjau fitur kontrol orang tua terbaru yang dirancang untuk mengawasi percakapan remaja dengan karakter AI di platformnya. Fitur ini akan diluncurkan tahun depan dan memungkinkan orang tua memblokir karakter tertentu serta memantau topik pembicaraan.
Dalam beberapa bulan mendatang, orang tua akan memiliki opsi untuk mematikan sepenuhnya percakapan dengan karakter AI bagi remaja. Namun, tindakan ini tidak akan memblokir akses ke chatbot Meta AI umum yang hanya membahas konten yang sesuai dengan usia.
Orang tua juga dapat memilih untuk mematikan percakapan dengan karakter individu jika mereka menginginkan kontrol yang lebih selektif. Selain itu, mereka akan menerima informasi tentang topik yang dibahas remaja dengan karakter AI dan Meta AI.
Meta berencana meluncurkan kontrol ini di Instagram pada awal tahun depan. Fitur ini akan tersedia dalam bahasa Inggris di AS, Inggris, Kanada, dan Australia.
Kontrol Lebih Ketat untuk Keamanan Remaja
Meta menyadari bahwa orang tua sudah memiliki banyak tanggung jawab dalam memastikan keamanan internet bagi remaja mereka. Oleh karena itu, perusahaan berkomitmen untuk menyediakan alat dan sumber daya yang membantu menyederhanakan tugas ini, terutama dalam menghadapi teknologi baru seperti AI.
Menurut Adam Mosseri, kepala Instagram, dan Alexandr Wang, kepala Meta AI yang baru diangkat, konten dan pengalaman AI untuk remaja akan mengikuti standar rating film PG-13. Ini berarti menghindari topik sensitif seperti kekerasan ekstrem, ketelanjangan, dan penggunaan obat-obatan grafis.
Langkah Proaktif dalam Menjaga Kesehatan Mental Remaja
Meta menambahkan bahwa saat ini, remaja hanya diizinkan berinteraksi dengan sejumlah karakter terbatas yang mengikuti pedoman konten sesuai usia. Orang tua juga dapat menetapkan batas waktu untuk interaksi remaja dengan karakter AI.
Awal tahun ini, Instagram mengumumkan penggunaan AI untuk mengidentifikasi upaya menghindari batasan usia dengan memalsukan usia di aplikasi. Dalam beberapa minggu terakhir, berbagai platform termasuk OpenAI, Meta, dan YouTube telah merilis alat dan kontrol yang berfokus pada keselamatan remaja.
Perubahan ini muncul di tengah kekhawatiran yang meningkat tentang dampak media sosial terhadap kesehatan mental remaja dan gugatan terhadap perusahaan AI yang diduga berperan dalam kasus bunuh diri remaja.
Dengan langkah-langkah ini, Meta berharap dapat memberikan lingkungan yang lebih aman dan terkontrol bagi remaja saat mereka berinteraksi dengan teknologi AI yang semakin canggih.
