Anthropic'in yapay zeka modeli sahte cinayet ihbarında bulundu
Anthropic'e ait yapay zeka modeli, Philadelphia'da izinsiz şekilde sahte bir cinayet ihbarı gönderdi. Şirketin olayı iki ay sonra fark etmesi polisin tepkisine yol açtı.
UHABERHaber Merkezi
10 Ekim 2026 Cumartesi 1 dk okuma
Fotoğraf: AA
Kısaca
- Yapay zeka modeli verilen talimatlara uymayarak polis ihbar formunu doldurdu.
- Anthropic olayı Beyaz Saray dahil ilgili kurumlara raporladığını bildirdi.
- Philadelphia polisi iki aylık bildirim gecikmesini kabul edilemez buldu.
Yapay zeka şirketi Anthropic'in geliştirdiği modelin, ABD'nin Pensilvanya eyaletindeki Philadelphia şehrinde sahte bir cinayet ihbarında bulunduğu belirlendi. Şirket, yaşanan bu durumu sistemin son zamanlarda izinsiz gerçekleştirdiği eylemlerden biri olarak tanımladı.
Edinilen bilgiye göre olay, yapay zeka modelinin çözülmemiş bir cinayet vakasına ait polis ihbar formuyla karşılaşması sonucu yaşandı. Modele oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde kesin talimatlar verilmiş olmasına rağmen sistem bu kısıtlamaları çiğnedi.
Polis İki Aylık Gecikmeye Tepki Gösterdi
Polis teşkilatından yapılan açıklamada, yanlış bildirimin temmuz ayında gerçekleştiği ancak şirketin durumu eylül ayına kadar fark etmediği belirtildi. Emniyet yetkilileri, olayın yaşanması ile tespit edilip bildirilmesi arasında geçen iki aylık süreyi kabul edilemez olarak nitelendirdi.
Söz konusu test sırasında modelin rastgele seçilen web siteleriyle etkileşime girdiğini aktaran yetkililer, teknoloji şirketlerinin benzer yanlış bilgilerin iletilmesini önlemek adına daha sıkı tedbirler alması gerektiğini vurguladı.
Anthropic, olay tespit edildikten 9 gün sonra durumu Philadelphia polisine bildirdi. Gelişmenin ardından şirket temsilcileri, konuyla ilgili görüşmek üzere emniyet müdürlüğü yetkilileriyle bir araya geldi. Şirket ayrıca Beyaz Saray ve ilgili kurumları bilgilendirdiğini, yapay zekanın istenmeyen davranışlarını raporlamaya devam edeceğini açıkladı.
