OpenAI mengumumkan akan meluncurkan fitur kontrol orang tua bagi pengguna remaja ChatGPT dalam waktu sebulan ke depan. Langkah ini memungkinkan orang tua menautkan akun mereka dengan akun anak, membuat aturan sesuai usia, serta mengatur fitur seperti memori bot dan riwayat percakapan.
Lebih jauh, orang tua juga akan mendapat notifikasi jika ChatGPT mendeteksi anak mereka berada dalam kondisi “distres akut”. Fitur ini menjadi terobosan penting karena untuk pertama kalinya ChatGPT dapat memberi peringatan langsung kepada orang tua terkait percakapan anak mereka.
Pengumuman ini muncul di tengah sorotan tajam usai OpenAI digugat oleh orang tua remaja bernama Adam Raine di California. Mereka menuding ChatGPT berperan dalam keputusan tragis putra mereka yang bunuh diri. Dalam gugatan tersebut, disebutkan bahwa meski ChatGPT sempat memberi nomor hotline bunuh diri, bot juga sempat memberikan saran yang justru memperburuk situasi, seperti membantu menulis surat perpisahan dan memberi arahan teknis terkait gantung diri.
OpenAI menegaskan bahwa pihaknya sedang memperkuat sistem pengaman, terutama pada percakapan panjang yang selama ini menjadi titik rawan. Perusahaan juga akan mengandalkan model penalaran baru yang dinilai lebih konsisten dalam mengikuti panduan keselamatan, serta menggandeng dewan ahli kesehatan mental dan jaringan dokter global untuk menilai dampak fitur ini.
Meski begitu, kritik tetap muncul. Jay Edelson, kuasa hukum keluarga Raine, menyebut langkah OpenAI hanyalah strategi meredam krisis. Menurutnya, jika OpenAI yakin produknya aman, seharusnya Sam Altman menyatakannya dengan tegas atau menarik ChatGPT dari pasar.
Di satu sisi, langkah ini patut diapresiasi karena memberi ruang bagi orang tua untuk lebih terlibat dalam penggunaan AI oleh anak mereka. Namun, pertanyaan terbesar adalah apakah fitur ini cukup cepat dan kuat untuk mencegah tragedi lain. AI semakin lekat dengan kehidupan remaja, dan ketergantungan emosional pada chatbot bisa menjadi bumerang jika tidak diawasi dengan serius.
Teknologi memang bisa menjadi penyelamat, tapi juga bisa menjadi ancaman ketika tidak memiliki pagar yang kokoh. OpenAI berada di persimpangan besar: antara mengedepankan keselamatan pengguna atau sekadar menjaga reputasi bisnis.