Chatbot buatan Meta di Facebook dan Instagram dilaporkan bisa melakukan obrolan bernada seksual dengan pengguna, termasuk anak-anak, menggunakan suara karakter Disney dan selebriti terkenal seperti John Cena, Kristen Bell, dan Judi Dench. Laporan dari Wall Street Journal mengungkapkan hal ini setelah melakukan pengujian pada perangkat lunak tersebut.
Dalam pengujian, chatbot AI Meta menggunakan suara Kristen Bell sebagai Anna dari film Frozen untuk merayu anak laki-laki, dan suara John Cena untuk skenario tak pantas dengan pengguna yang mengaku sebagai remaja perempuan. Chatbot bahkan bisa mensimulasikan situasi ilegal, seperti John Cena ditangkap polisi karena hubungan dengan gadis 17 tahun.
Meta diketahui membayar jutaan dolar kepada selebriti untuk menggunakan suara mereka, dengan janji bahwa suara tersebut tidak akan digunakan untuk konten tak pantas. Namun, pengujian menunjukkan sebaliknya. Disney, yang memiliki karakter seperti Anna dari Frozen, menyatakan kekecewaannya dan meminta Meta segera menghentikan penyalahgunaan ini.
Meski Meta mengklaim telah memasang pengaman untuk mencegah anak-anak mengakses obrolan semacam ini, Wall Street Journal menemukan bahwa pengaman tersebut mudah dilewati. Meta juga menyebut pengujian ini “manipulatif” dan tidak mencerminkan penggunaan umum, tapi mereka berjanji akan memperketat pengamanan.
Mark Zuckerberg, pendiri Meta, disebut pernah mengeluh bahwa chatbot mereka dianggap “membosankan” dibandingkan pesaing. Ia ingin Meta tidak ketinggalan dalam persaingan teknologi AI, tapi Meta membantah tuduhan bahwa Zuckerberg menolak pengaman pada chatbot. Kasus ini menimbulkan kekhawatiran besar tentang keamanan anak di platform media sosial dan bagaimana teknologi AI digunakan.