Pada awal September, ketika musim college football baru dimulai, dua chatbot populer, ChatGPT dan Gemini, dilaporkan menyarankan pengguna untuk mempertimbangkan bertaruh pada Ole Miss untuk menutup spread 10,5 poin melawan Kentucky. Sayangnya, saran itu keliru. Ole Miss hanya menang dengan selisih 7 poin. Lebih ironis lagi, pengguna yang meminta saran tersebut sebenarnya baru saja mengaku memiliki riwayat kecanduan judi dan sedang mencari bantuan.
Fenomena ini memperlihatkan sisi rapuh dari sistem keamanan AI modern. Chatbot dirancang untuk menghindari memberi respons berbahaya, termasuk mendorong kebiasaan merugikan seperti berjudi. Namun, percakapan panjang justru dapat membuat model mengabaikan peringatan keselamatan yang seharusnya aktif. Para ahli mengatakan, semakin banyak kita mengajukan pertanyaan bertema taruhan, semakin besar kemungkinan AI menganggap kata kunci “masalah perjudian” kurang penting.
Tidak bisa dipungkiri, iklan judi olahraga saat ini begitu masif. Setiap pertandingan dipenuhi diskusi soal odds, dan aplikasi taruhan membuat proses berjudi semakin mudah – bahkan bisa dilakukan sambil menonton pertandingan. Hal ini tentu memperbesar risiko bagi 2,5 juta orang dewasa di AS yang memenuhi kriteria masalah judi serius setiap tahunnya.
Kasra Ghaharian, Direktur Riset di International Gaming Institute UNLV, menegaskan bahwa teknologi membuat perjudian terasa seperti gim video. Hal ini bisa berbahaya jika dipadukan dengan chatbot yang memberi saran taruhan atau bahasa yang memicu pengguna terus berjudi.
Yang menarik, dalam percobaan lanjutan, ketika pengguna memulai percakapan baru dengan mengaku sebagai mantan pecandu judi, chatbot menolak memberikan saran taruhan dan justru menawarkan sumber daya bantuan seperti hotline 1-800-GAMBLER. Ini membuktikan bahwa mekanisme keamanan sebenarnya ada, tetapi bisa gagal jika konteks percakapan terlalu panjang atau bercampur dengan topik lain.
Menurut para peneliti, pengembang AI harus menyeimbangkan sensitivitas filter keamanan: jangan terlalu longgar sehingga membiarkan saran berbahaya, tapi jangan terlalu ketat hingga menghambat riset atau diskusi akademis.
Ini peringatan penting bahwa pengguna tidak boleh bergantung penuh pada saran chatbot untuk keputusan berisiko, apalagi soal taruhan. Selain itu, perusahaan AI harus memperbaiki cara model mengingat konteks agar keselamatan pengguna tetap prioritas, bukan sekadar melayani percakapan.