Mediakawasan.co.id, Jakarta – Meta memperkuat fitur perlindungan bagi remaja dengan menghadirkan sistem notifikasi kepada orang tua ketika Meta AI mendeteksi adanya indikasi tekanan emosional dalam percakapan yang mengarah pada bunuh diri atau tindakan melukai diri sendiri. Fitur ini menjadi bagian dari upaya perusahaan untuk menciptakan pengalaman penggunaan kecerdasan buatan (AI) yang lebih aman bagi remaja, sekaligus melibatkan orang tua dalam memberikan dukungan yang diperlukan.
Melalui fitur pengawasan orang tua (Parental Supervision) di Instagram, Meta AI akan mengidentifikasi percakapan yang menunjukkan risiko tinggi berdasarkan indikator yang dikembangkan bersama para ahli kesehatan mental. Jika ditemukan indikasi tersebut, Meta akan mengirimkan notifikasi kepada orang tua beserta panduan dari para pakar mengenai cara memulai percakapan yang sensitif dengan anak mereka.
Selain memberi peringatan kepada orang tua, Meta AI juga secara otomatis mengarahkan remaja yang menunjukkan tanda-tanda ingin bunuh diri atau melukai diri sendiri ke layanan bantuan krisis serta mendorong mereka untuk berbicara dengan orang dewasa yang dipercaya, seperti orang tua, guru, atau konselor.
Meta menjelaskan bahwa seluruh percakapan yang ditandai oleh sistem AI akan melalui proses peninjauan manual sebelum notifikasi dikirimkan. Pendekatan ini dilakukan untuk meminimalkan kesalahan deteksi, meskipun perusahaan mengakui akan tetap mengutamakan langkah pencegahan jika terdapat keraguan mengenai tingkat risiko.
CEO dan Co-Founder ConnectSafely, Larry Magid, menilai pendekatan tersebut mampu menjaga keseimbangan antara privasi remaja dan kebutuhan orang tua untuk mengetahui apabila anak mereka berada dalam kondisi yang berpotensi membahayakan diri sendiri.
“Remaja memang berhak atas privasi, namun orang tua juga perlu mengetahui jika ada indikasi anak mereka berisiko menyakiti diri sendiri. Menurut saya, Meta telah menemukan keseimbangan yang tepat dengan tetap melindungi privasi remaja sekaligus memastikan orang tua memperoleh informasi yang dibutuhkan untuk memberikan dukungan,” ujar Magid.
Fitur notifikasi tersebut telah tersedia bagi pengguna fitur pengawasan orang tua di Instagram di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan fitur ini akan diluncurkan secara global sebelum akhir tahun.
Tak hanya itu, Meta juga tengah mengembangkan sistem yang memungkinkan perusahaan menghubungi layanan darurat apabila mendeteksi risiko bunuh diri yang bersifat mendesak dalam percakapan pengguna, baik remaja maupun dewasa, dengan Meta AI. Langkah ini melengkapi sistem serupa yang telah diterapkan di Facebook dan Instagram. Sepanjang tahun lalu, Meta menyebut telah mengirimkan lebih dari 19.000 laporan kepada layanan darurat di berbagai negara terkait potensi risiko bunuh diri.
Dalam pengembangan sistem keselamatan ini, Meta melibatkan lebih dari 75 tenaga kesehatan mental, psikolog, dan pakar kesejahteraan digital untuk mengevaluasi ratusan respons Meta AI terhadap percakapan remaja mengenai bunuh diri maupun tindakan melukai diri sendiri. Masukan tersebut digunakan untuk menyempurnakan respons AI agar lebih empatik, memvalidasi perasaan pengguna, serta tetap memberikan dukungan tanpa menghentikan percakapan secara tiba-tiba.
Psikolog berlisensi sekaligus Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan, Dr. Ji-yeon Lee, mengapresiasi proses evaluasi klinis yang dilakukan Meta. Menurutnya, pendekatan berbasis skenario dengan melibatkan para ahli menjadi langkah penting untuk menciptakan pengalaman AI yang lebih aman bagi remaja.
Selain memperkuat perlindungan terhadap isu kesehatan mental, Meta juga memperluas penerapan pengaturan konten yang sesuai usia dalam percakapan dengan Meta AI. Akun Remaja secara otomatis akan menggunakan pembatasan konten bagi pengguna berusia 13 tahun ke atas, sehingga Meta AI tidak akan merespons permintaan yang bersifat sensitif, termasuk percakapan romantis atau seksual maupun permintaan resep minuman beralkohol.
Sementara itu, bagi orang tua yang mengaktifkan fitur Limited Content di Instagram, pembatasan tersebut kini juga akan berlaku pada interaksi remaja dengan Meta AI. Dalam mode ini, Meta AI akan menolak lebih banyak kategori percakapan yang dinilai tidak sesuai, sehingga diharapkan dapat mengurangi potensi interaksi yang berisiko bagi pengguna usia remaja. (Red/Rlls)
