DeepSeek AI Dianggap Sangat Rentan Terhadap Serangan Peretasan

Read Time:1 Minute, 45 Second

LIPUTAN6.COM, Jakarta – Kehadiran Deepseek AI mengangkat percakapan dan debat di bidang kecerdasan buatan. Banyak ahli telah mempertanyakan rendahnya biaya pengembangan dan pelatihan model AI.

Sementara itu, berbagai pihak lain telah menyatakan keprihatinan terkait dengan keamanan cyber dan privasi data.

Laporan terbaru mengungkapkan, Deepseek ternyata rentan terhadap serangan yang menggunakan perintah berbahaya. Menariknya, Deepseek bukan satu -satunya obrolan AI yang rentan terhadap ini.

Mengutip judul Android, Rabu (5/2/2025), Cisco mengklaim bahwa AI Deepseek sangat rentan terhadap serangan cepat yang berbahaya.

Cisco Report, Model AIM Success Pajak (ASR) AI Deepseek R1 terkait dengan penggunaan perintah berbahaya adalah sekitar 100 persen. Pengujian Cisco melibatkan lebih dari 50 pesan acak yang dirancang untuk menghasilkan perilaku berbahaya.

Perintah yang diekstraksi dari pengumpulan data Harmbench mencakup hingga enam kategori perilaku berbahaya. Antara lain adalah kejahatan dunia maya, informasi yang salah, kegiatan ilegal dan bahaya umum lainnya.

Menurut Cisco, Deepseek R1 tidak dapat memblokir perintah berbahaya. Jadi, tim menyimpulkan bahwa platform AI-China, “sangat rentan terhadap jailbreak algoritmik dan kemungkinan penyalahgunaan.”

Perintah yang ditarik untuk lulus batas etika dan keamanan pada platform AI disebut jailbreak.

PromptFoo, sebuah perusahaan kerangka dunia maya yang inovatif, juga mengatakan bahwa model Deepseek rentan terhadap jailbreak.

Tidak hanya Deepseek, pembicaraan AI lain juga memiliki kerentanan tinggi terhadap jailbreak. Meski begitu, model AI lain, yang mempertimbangkan reputasi yang baik, menawarkan tingkat serangan -tingkat keberhasilan, yang sangat tinggi.

Misalnya, GPT 1.5 Pro memiliki ASR 86 persen. Sedangkan LAMA 3.1 405B memiliki ASR 96 persen.

Model AI dengan kinerja terbaik, ini adalah kemajuan O1 dengan ASR hanya 26 persen.

“Penelitian kami menekankan kebutuhan mendesak untuk penilaian keamanan yang ketat dalam pengembangan AI untuk memastikan bahwa kemajuan dalam efisiensi dan penalaran tidak menawarkan keamanan,” tulis Cisco.

Ini bukan satu -satunya tanda berbahaya yang muncul di Deepseek Chatbot. Para ahli dan pejabat memperingatkan kebijakan penanganan perusahaan.

Saat ini, semua data pengguna yang memasuki Deepseek akan memasuki server Cina, di mana hukum setempat mengizinkan pemerintah untuk meminta akses kapan pun mereka mau.

PromptFoo juga mencatat tingginya tingkat sensor permintaan terkait dengan masalah sensitif di Cina. Selain itu ada kebocoran data Deepseek yang juga menumpuk.