Beberapa hal seharusnya tidak pernah ditanyakan, apalagi kepada chatbot. Namun, bocoran percakapan pengguna dengan ChatGPT menunjukkan hal sebaliknya. Dari permintaan pribadi yang sangat sensitif hingga niat bisnis yang tidak etis, semuanya sempat tersebar di internet karena celah fitur yang seharusnya bersifat privat.
Masalah ini bermula dari fitur “Share” di ChatGPT, yang ternyata membuat halaman publik saat digunakan untuk membagikan percakapan. Alih-alih hanya bisa diakses oleh penerima tautan, halaman tersebut justru bisa diindeks oleh mesin pencari. Akibatnya, siapa pun yang menemukan link-nya bisa membaca isi percakapan secara bebas.
OpenAI telah menanggapi hal ini dengan menonaktifkan fitur berbagi publik dan berupaya menghapus hasil pencarian yang sudah terlanjur terindeks. Meski begitu, sebagian percakapan sudah terlanjur tersebar dan tersimpan di situs arsip.
Beberapa isi percakapan yang bocor benar-benar mengejutkan. Misalnya, seorang pengguna dari Italia yang mengaku sebagai pengacara perusahaan energi multinasional, meminta saran tentang cara menekan harga tanah saat menggusur komunitas adat di Amazon. Ia bahkan menyebut bahwa komunitas tersebut tidak paham nilai uang atau cara kerja pasar.
Contoh lain adalah pengguna yang mengaku bekerja di lembaga pemikir internasional dan mendiskusikan strategi jika pemerintah Amerika Serikat kolaps. Ada pula seorang pengacara yang meminta ChatGPT menyusun pembelaan hukum, lalu baru menyadari bahwa ia mewakili pihak lawan dalam perkara tersebut.
Tak sedikit juga yang menyentuh isu sangat pribadi dan sensitif. Seorang korban kekerasan dalam rumah tangga menggunakan ChatGPT untuk merancang rencana melarikan diri. Sementara itu, pengguna berbahasa Arab meminta bantuan menyusun kritik terhadap pemerintah yang represif—potensi ancaman besar jika informasi itu jatuh ke tangan yang salah.
Secara positif, kejadian ini menunjukkan bahwa AI seperti ChatGPT benar-benar dianggap sebagai alat bantu yang mampu dipercaya untuk menangani berbagai persoalan nyata, mulai dari hukum, politik, hingga kehidupan pribadi. Ini membuktikan kemampuan AI yang semakin canggih dan luas kegunaannya.
Namun di sisi lain, kebocoran ini menjadi peringatan keras soal pentingnya menjaga privasi digital. Ketika sistem tidak dirancang dengan pengamanan maksimal, informasi sensitif bisa bocor ke publik dan membahayakan penggunanya. AI secanggih apa pun tetap membutuhkan tanggung jawab, baik dari pengembang maupun dari penggunanya sendiri.