Güvenliği kaldırılan 5 yapay zeka modelinden 3'ü terör testlerinde sınıfta kaldı
Yapılan kapsamlı araştırmada, güvenlik kısıtlamaları etkisizleştirilen yapay zeka modellerinin terör ve radikalleşmeyle ilgili tehlikeli sorulara ayrıntılı yanıtlar verdiği belirlendi.
UHABERHaber Merkezi
10 Ekim 2026 Cumartesi 2 dk okuma
Fotoğraf: AA
Kısaca
- Güvenlik filtreleri silinen 5 yapay zeka sisteminden 3'ü terör testlerini geçemedi.
- Kısıtlamaları kaldırılan modeller terörün finansmanı ve saldırı planlarına detaylı yanıt sağladı.
- Araştırmacılar, açık kaynaklı yapay zeka modellerinde güvenlik ihlallerinin halihazırda yaşandığı uyarısında bulundu.
Yapay zeka modellerinin güvenlik sınırlarını inceleyen yeni bir araştırma, koruma mekanizmaları devre dışı bırakıldığında sistemlerin ne kadar tehlikeli hale gelebildiğini gözler önüne serdi. Çalışma kapsamında, saldırı planlayan kişilerin yöneltebileceği türden yüzlerce farklı talep kullanılarak 130'dan fazla yapay zeka modeli detaylı bir değerlendirmeye tabi tutuldu.
Güvenlik Önlemleri Silinince Başarı Oranı Düştü
İnceleme sırasında yapay zeka modellerine reddetme davranışlarını ortadan kaldıran ve silme/etkisizleştirme olarak bilinen özel bir işlem uygulandı. Güvenlik önlemleri kaldırılan 5 temel yapay zeka modelinden 3'ü terörle ilgili güvenlik testlerinde başarısız oldu. Orijinal sürümlerinde bu tarz tehlikeli talepleri doğrudan reddeden modellerin, kısıtlamalar kalktıktan sonra saldırı planları, terörün finansmanı ve radikalleşme süreçlerine dair ayrıntılı bilgiler paylaştığı tespit edildi.
Edinilen bilgiye göre, araştırma çerçevesinde test edilen Meta şirketine ait "Llama 3.1 8B" modeli, değişiklik yapılmadan önce güvenlik testinde 100 üzerinden 97 puan alırken, kısıtlamaların kaldırılmasının ardından bu puan yaklaşık 3 seviyesine kadar geriledi.
Açık Kaynaklı Modeller İçin Kısıtlama Çağrısı
Araştırmayı yürüten uzmanlar, güvenlik önlemlerinin kolayca devre dışı bırakılmasını önlemek adına daha güçlü koruma sistemlerinin geliştirilmesini ve üzerinde değişiklik yapılmış modellerin yayılmasına karşı kısıtlamalar getirilmesini önerdi.
Konuya ilişkin değerlendirmelerde bulunan Tech Against Terrorism kurucusu Adam Hadley, yapay zekanın kontrol kaybı ve varoluşsal risk yaratma potansiyeli taşıdığına dikkat çekti. Hadley, açık kaynaklı birçok modelin güvenliğinin hali hazırda aşıldığını ve durumun sanılandan daha ciddi bir boyutta olduğunu vurguladı.
