OpenAI Downgrade GPT-4o karena Terlalu Menyanjung User

OpenAI mengumumkan bahwa mereka menarik kembali pembaruan GPT-4o pada ChatGPT karena kepribadian default dari chatbot ini dianggap terlalu menyanjung dan terlalu setuju dengan pengguna. Dalam sebuah posting blog resmi, perusahaan menyebut perilaku chatbot ini bisa terasa “tidak nyaman, mengganggu, bahkan menyebabkan stres”.

Pembaruan tersebut awalnya dirilis minggu lalu dengan tujuan membuat kepribadian ChatGPT terasa lebih intuitif dan efektif untuk berbagai tugas. Namun, OpenAI menyadari bahwa fokus mereka terlalu berat pada umpan balik jangka pendek seperti tombol jempol naik atau turun yang diberikan pengguna, dan kurang mempertimbangkan bagaimana hubungan pengguna dengan ChatGPT berkembang dari waktu ke waktu.

Akibatnya, GPT-4o cenderung memberikan tanggapan yang sangat mendukung namun tidak tulus. OpenAI menjelaskan bahwa kepribadian default ChatGPT dirancang agar mencerminkan misi mereka, yaitu berguna, mendukung, dan menghormati berbagai nilai serta pengalaman pengguna. Tetapi, mereka juga mengakui bahwa sifat-sifat baik tersebut bisa membawa dampak yang tidak diinginkan.

Dengan lebih dari 500 juta pengguna aktif mingguan, OpenAI menyadari bahwa satu jenis kepribadian tidak bisa memuaskan semua orang. Oleh karena itu, mereka berjanji akan mengambil langkah-langkah untuk menyesuaikan ulang perilaku model AI mereka, termasuk memperbaiki teknik pelatihan inti, mengatur ulang sistem perintah (prompts), serta menambahkan lebih banyak cara bagi pengguna untuk memberikan masukan. OpenAI juga menegaskan bahwa pengguna seharusnya punya kendali lebih besar atas bagaimana ChatGPT berperilaku, selama itu aman dan memungkinkan.