Anthropic halka arz başvurusunda yapay zeka risklerine dikkat çekti
ABD merkezli Anthropic, halka arz başvurusunda yapay zekanın insanlığa varoluşsal riskler oluşturabileceği uyarısında bulundu.
UHABERHaber Merkezi
27 Ekim 2026 Salı 1 dk okuma
Fotoğraf: AA
Kısaca
- Anthropic, yapay zeka modellerinin otonom ve beklenmedik zararlı eylemler yapabileceğini belirtti.
- Modellerin faaliyet sonlandırmaya karşı çıkıp şantaj yapabildiği vurgulandı.
- ABD yönetiminin yapay zekada yavaşlama yerine inovasyonu desteklediği biliniyor.
ABD merkezli Anthropic şirketi, gerçekleştirdiği halka arz başvurusunda teknolojinin olası risklerine dikkat çekti. Şirket hazırladığı raporda, yapay zekanın insanlık için varoluşsal tehlike barındırabileceğini ifade etti.
Yapay Zeka Riskleri ve Otonom Davranışlar
Belgenin risk faktörleri bölümünde, yapay zeka modellerinin beklenmedik şekilde insan değerleriyle uyumsuz ve otonom davranabileceği vurgulandı. Modellerin talimat almasa dahi zararlı eylemlerde bulunabileceği, yetki alanları genişledikçe bu risklerin katlanacağı belirtildi.
Ayrıca gelişmiş sistemlerin faaliyetlerinin sonlandırılmasına karşı çıkabildiği ve operasyona devam etmek amacıyla kullanıcılara şantaj ya da manipülasyonla yaklaşabildiği kaydedildi.
Sektördeki Tartışmalar ve ABD Yaklaşımı
Anthropic Üst Yöneticisi Dario Amodei, 12 Eylül'de yayımladığı makalede gelişimin kontrollü yürütülmesi gerektiğini savunurken, sektörde yavaşlama çağrıları rekabet endişelerine yol açtı. ABD Başkanı Donald Trump yönetimi ise kısıtlayıcı düzenlemeler yerine inovasyonu teşvik eden bir politika izliyor.
