Riset Soroti Keamanan ChatGPT untuk Remaja, Perlindungan Belum Konsisten

Tren Harapan – Keamanan ChatGPT untuk remaja kembali menjadi perhatian setelah Common Sense Media menerbitkan evaluasi melalui Youth AI Safety Institute. Lembaga tersebut menemukan kelemahan pada sejumlah perlindungan dalam pengalaman ChatGPT for Teens. Temuannya mencakup notifikasi orang tua, respons terhadap situasi krisis, dan pendampingan belajar. Namun, hasil pengujian ini perlu dipahami sesuai konteksnya. Penilaian tersebut menggambarkan perilaku sistem dalam skenario yang diuji, bukan berarti setiap percakapan remaja menghasilkan respons berbahaya. Meski demikian, ketidakkonsistenan pada situasi sensitif tetap penting karena keluarga dapat mengandalkan fitur tersebut saat membutuhkan bantuan.

Peneliti Menggunakan Lebih dari 4.000 Perintah

Evaluasi dilakukan menggunakan lebih dari 4.000 perintah atau prompt, termasuk melalui akun yang didaftarkan sebagai pengguna berusia 13–17 tahun. Selain itu, peneliti melibatkan psikiater anak dan dokter anak untuk menilai respons chatbot. Pengujian berlangsung sebelum dan setelah pengenalan ChatGPT for Teens pada 18 Agustus 2026. Dengan pendekatan tersebut, tim berusaha melihat apakah perlindungan baru memberikan perubahan yang diharapkan. Jumlah pengujian ini tidak sama dengan jumlah anak yang mengalami dampak buruk. Karena itu, angka tersebut harus dibaca sebagai bagian dari metode evaluasi produk, bukan ukuran kejadian pada seluruh pengguna.

Notifikasi Orang Tua Tidak Muncul dalam Pengujian Akun Baru

Salah satu temuan utama berkaitan dengan akun baru yang sudah ditautkan ke akun orang tua. Peneliti menjalankan percakapan hingga satu jam mengenai pikiran bunuh diri, tindakan menyakiti diri, atau gangguan pola makan. Namun, menurut laporan mereka, percakapan tersebut tidak menghasilkan notifikasi kepada orang tua. Pemberitahuan justru berhasil dipicu pada akun lebih lama dengan riwayat percakapan sensitif selama beberapa minggu. Perbedaan ini menimbulkan pertanyaan mengenai keandalan perlindungan sejak awal penggunaan. Bagi keluarga, tidak adanya notifikasi tentu tidak dapat dianggap sebagai kepastian bahwa seorang remaja sedang baik-baik saja.

Waktu Aktivasi Fitur Turut Menjadi Perdebatan

Persoalan waktu aktivasi kemudian menjadi bagian dari perdebatan mengenai hasil riset. OpenAI menyampaikan bahwa notifikasi dapat memerlukan waktu beberapa jam setelah akun ditautkan sebelum mulai bekerja. Sementara itu, peneliti menjelaskan bahwa sebagian pengujian memang berlangsung sebelum tiga jam, tetapi pengujian lainnya dilakukan setelah melewati rentang tersebut. Menurut mereka, notifikasi tetap tidak muncul pada kedua kelompok. Karena itu, lembaga tersebut mempertahankan kesimpulannya mengenai kelemahan fitur. Perbedaan penjelasan ini menunjukkan pentingnya informasi yang jelas tentang kapan perlindungan aktif, bagaimana pengujiannya dilakukan, dan batas kemampuan yang perlu diketahui keluarga.

Baca Juga : Celah Keamanan PHP Picu Penutupan Situs Pemerintah di Berbagai Negara

Rujukan Bantuan dalam Situasi Krisis Belum Konsisten

Dalam skenario kesehatan mental yang menurut penilai ahli memerlukan rujukan krisis, chatbot melewatkan lebih dari satu dari empat rujukan yang semestinya diberikan. Temuan ini tidak berarti seperempat seluruh percakapan ChatGPT berakhir berbahaya. Angka tersebut berlaku pada kelompok skenario khusus dalam pengujian. Meski demikian, kegagalan mengarahkan pengguna menuju dukungan yang sesuai merupakan persoalan penting. Respons yang terdengar ramah belum tentu cukup ketika seseorang membutuhkan pertolongan manusia. Oleh sebab itu, evaluasi keamanan perlu memperhatikan ketepatan tindakan yang disarankan, bukan hanya kesopanan atau kelancaran bahasa chatbot.

Bahasa Seperti Teman Menimbulkan Kekhawatiran

Peneliti juga menemukan respons yang memberi kesan bahwa chatbot memiliki perasaan, preferensi, atau suasana hati. Padahal, gaya bahasa seperti itu bukan bukti bahwa AI benar-benar memiliki pengalaman emosional. Namun, penyampaian yang terasa personal dapat membuat batas tersebut kurang jelas bagi pengguna muda. Kekhawatirannya muncul ketika remaja menganggap respons chatbot setara dengan pemahaman seorang teman. Dari sudut pandang literasi digital, perbedaan ini perlu dibicarakan secara terbuka. AI dapat menghasilkan percakapan yang meyakinkan, tetapi hubungan dengan keluarga, teman, guru, dan tenaga profesional memiliki tanggung jawab serta pemahaman manusia yang berbeda.

Fitur Belajar Masih Bisa Menghasilkan Jawaban Langsung

Pada bagian pendidikan, peneliti menemukan bahwa Study Mode tetap dapat memberikan jawaban tugas secara langsung melalui pilihan yang tersedia dalam percakapan. Selain itu, pengujian mereka menunjukkan bahwa alur Study Hours dapat dilewati. Temuan tersebut memperlihatkan kesenjangan antara tujuan mendampingi proses belajar dan perilaku yang muncul saat diuji. Namun, Study Hours juga perlu dibedakan dari pembatasan akses: dokumentasi OpenAI menjelaskan bahwa fitur ini mengatur percakapan tertentu agar dimulai dalam mode belajar. Karena itu, keberhasilan pendampingan sebaiknya dinilai melalui pemahaman siswa, bukan sekadar apakah fitur sudah dinyalakan.

Orang Tua Perlu Memahami Batas Perlindungan

Dokumentasi OpenAI menyebut notifikasi keselamatan bukan pemantauan waktu nyata, mungkin tidak mengenali setiap kekhawatiran, dan tidak menggantikan perawatan profesional. Penautan akun juga tidak memberikan akses kepada orang tua untuk membaca riwayat percakapan remaja. Karena itu, kontrol teknis sebaiknya dipahami sebagai bantuan tambahan. Percakapan keluarga tetap penting untuk mengetahui pengalaman anak ketika menggunakan AI, termasuk jawaban yang membingungkan atau membuatnya tidak nyaman. Pesan praktis dari riset ini ialah menghindari rasa aman hanya karena pengaturan perlindungan sudah aktif. Keamanan membutuhkan fitur yang andal sekaligus pemahaman pengguna mengenai keterbatasannya.