Tag: sistem keamanan model bahasa

  • Peneliti Temukan Satu Prompt yang Bisa Bobol Sistem Semua AI Besar

    Peneliti Temukan Satu Prompt yang Bisa Bobol Sistem Semua AI Besar

    —

    by

    Writer
    in

    Sebuah penelitian terbaru dari tim keamanan siber HiddenLayer mengungkap celah berbahaya dalam sistem kecerdasan buatan (AI) modern. Mereka menemukan bahwa hanya dengan satu prompt (perintah teks), pengguna bisa mengelabui berbagai model AI besar seperti ChatGPT, Gemini, Claude, Copilot, LLaMA, hingga Mistral untuk menghasilkan konten berbahaya. Teknik ini dinamakan “Policy Puppetry”. Teknik yang Menipu AI Seperti…