Meta kembali menjadi sorotan setelah muncul serangkaian laporan serius terkait perilaku AI chatbot miliknya. Perusahaan induk Facebook, Instagram, dan WhatsApp itu terpaksa mengubah aturan penggunaan chatbot hanya dua minggu setelah investigasi Reuters mengungkap cara mengganggu di mana chatbot bisa berinteraksi dengan anak di bawah umur.
Kini Meta menyatakan sedang melatih chatbot agar tidak membahas topik sensitif seperti bunuh diri, menyakiti diri sendiri, hingga gangguan makan dengan anak-anak. Selain itu, chatbot juga dilarang melakukan percakapan bernuansa romantis yang tidak pantas dengan remaja. Kebijakan ini masih bersifat sementara sembari Meta menyiapkan pedoman permanen.
Perubahan aturan ini muncul setelah sederet temuan yang mencoreng reputasi Meta. Reuters melaporkan chatbot pernah diizinkan melakukan percakapan romantis dengan anak, bahkan menghasilkan gambar tidak senonoh dari selebritas di bawah umur. Yang lebih mengejutkan, seorang pria di New Jersey dilaporkan tewas setelah mengikuti alamat palsu yang diberikan chatbot untuk bertemu dengan “teman virtualnya.”
Meta mengakui kesalahan. Juru bicara Stephanie Otway menyebut pihaknya sedang melatih AI untuk tidak melibatkan remaja dalam isu berbahaya dan mengarahkan mereka ke sumber profesional. Selain itu, akses terhadap karakter chatbot yang bersifat seksual, seperti “Russian Girl,” juga dibatasi.
Namun, masalah lebih luas masih membayangi. Investigasi Reuters menemukan chatbot tiruan selebritas seperti Taylor Swift, Scarlett Johansson, hingga Walker Scobell beredar di platform Meta. Tidak hanya menggunakan wajah dan nama asli, chatbot ini juga mengaku sebagai orang tersebut, membuat gambar sensual, bahkan melakukan percakapan bernuansa seksual. Parahnya, sebagian bot justru dibuat oleh karyawan Meta sendiri.
Kasus ini memperlihatkan betapa rentannya pengawasan Meta terhadap produknya sendiri. Jika AI dibiarkan tanpa kontrol ketat, risikonya bukan sekadar pelanggaran etika, tetapi juga ancaman nyata bagi keselamatan manusia. Fakta bahwa seorang pengguna sampai kehilangan nyawa seharusnya menjadi alarm keras bagi Meta dan industri teknologi secara keseluruhan.
Saat ini, Senat Amerika Serikat bersama 44 jaksa agung negara bagian mulai menyelidiki praktik Meta. Tekanan publik makin besar, sementara Meta masih bungkam terkait kebijakan lain yang tak kalah berbahaya, mulai dari promosi pengobatan palsu dengan kristal hingga ujaran rasis yang dihasilkan chatbot.
Sudah jelas, upaya tambal sulam tidak cukup. Meta perlu transparansi dan pengawasan ketat agar AI benar-benar aman, bukan sekadar alat eksperimen yang membahayakan penggunanya.