Meta Bakal Terapkan Fitur Pengawasan Interaksi Remaja dengan AI

JAKARTA - Meta mengumumkan pratinjau fitur kendali orang tua terbaru yang secara spesifik ditujukan untuk mengawasi percakapan pengguna remaja dengan karakter berbasis kecerdasan buatan (AI) di platformnya. Fitur yang dikabarkan akan diluncurkan tahun depan akan memberi kesempatan orang tua untuk mengawasi interaksi anak-anak dengan AI yang belakangan sudah menjadi bagian tak terpisahkan dari kehidupan.

Meta AI telah berkembang menjadi dunia yang begitu eksploratif bagi banyak remaja di dunia. Di platform ini, setiap orang kini dapat membuat karakter kecerdasan buatan (Artificial Intelligence/AI) sendiri dan saling berinteraksi.

Dilansir dari Antara, dari berdasarkan laporan Tech Crunch pada Sabtu (18/10), fitur tersebut akan mulai diluncurkan tahun depan yang memungkinkan opsi untuk memblokir karakter tertentu dan memantau topik percakapan. Meski demikian, langkah tersebut tidak akan memblokir akses ke Meta AI, chatbot AI utama milik perusahaan dan perusahaan memastikan mereka hanya akan menyajikan konten yang dinilai sesuai usia.

Selain itu, orang tua juga dapat menonaktifkan percakapan dengan karakter AI tertentu jika ingin pengawasan lebih selektif. Mereka juga akan menerima informasi mengenai topik yang dibahas pengguna remaja dengan karakter AI maupun Meta AI.

Meta menyebutkan fitur ini akan pertama kali tersedia di Instagram pada awal tahun depan, dan diluncurkan dalam bahasa Inggris di Amerika Serikat, Inggris, Kanada, dan Australia.

"Kami memahami bahwa orang tua sudah memiliki banyak tanggung jawab dalam memastikan anak remaja mereka aman di internet, dan kami berkomitmen menyediakan alat serta sumber daya yang memudahkan mereka, terutama dalam menghadapi teknologi baru seperti AI," kata Meta.

Baca juga: Meta Perkuat Keamanan Untuk Lindungi Anak Dari Percakapan Dewasa

Awal pekan ini, Meta menyampaikan bahwa konten dan penggunaan fitur AI untuk pengguna Instagram di bawah umur akan mengikuti standar klasifikasi film PG-13 serta menghindari topik sensitif seperti kekerasan ekstrem, ketelanjangan, dan penggunaan narkoba secara eksplisit.

Meta menambahkan bahwa saat ini pengguna berusia remaja hanya diizinkan berinteraksi dengan karakter AI yang telah dikurasi sesuai pedoman konten ramah usia.

Orang tua juga dapat menetapkan batas waktu penggunaan AI oleh anak mereka. Sebelumnya, Instagram telah memanfaatkan AI untuk mendeteksi upaya pengguna memalsukan usia guna menghindari batasan umur aplikasi.

Langkah ini seturut gelombang peningkatan keamanan yang dilakukan Meta terkait penggunaan teknologi baru oleh anak-anak dan remaja. Upaya peningkatan keamanan untuk penggunaan media sosial dan AI telah menjadi isu krusial belakangan ini, di mana sejumlah platform digital seperti OpenAI, Meta, dan YouTube merilis fitur pengamanan baru yang berfokus pada keselamatan remaja.

Langkah ini muncul di tengah meningkatnya kekhawatiran soal dampak media sosial terhadap kesehatan mental remaja. Ditambah, sudah ada banyak gugatan terhadap perusahaan AI yang diduga berkontribusi pada berbagai masalah remaja, termasuk di antaranya kasus bunuh diri remaja.