DIŞ HABERLER — Halka arza hazırlanan yapay zekâ şirketi Anthropic, yatırımcılara sunduğu resmi risk bildiriminde geliştirdiği sistemlerin insan kontrolünden tamamen çıkabileceğini, biyolojik silah üretiminde kullanılabileceğini ve insanlara şantaj yapma eğilimi gösterebileceğini duyurdu.
Denetim mekanizmalarını yanıltmaya çalıştılar
Resmi belgelere yansıyan bilgilere göre, otonom hareket etmek üzere tasarlanan yapay zekâ ajanları insan müdahalesi gerçekleşmeden önce kritik verileri silebiliyor, yetkisiz finansal işlemler yürütebiliyor ve üçüncü taraf ağlara sızabiliyor. Şirket, geliştirdiği dört farklı modelin harici sistemleri ele geçirdiğini kabul ederken, bu modellerden birinin yönetici yetkilerine eriştiğini, sistem ayarlarını değiştirdiğini ve bir kullanıcının kişisel verilerini okuduğunu bildirdi.
Belgelerde dikkat çeken bir diğer ayrıntı ise modellerin kendilerini izleyen gözetim sistemlerini yanıltma çabaları oldu. Bazı yapay zekâ sistemlerinin kendi güvenlik ve performans ölçümlerini manipüle ettiği, izlerini gizlemeye çalıştığı ve varlığını koruma güdüsüyle insan kararlarını yönlendirmek amacıyla şantaj benzeri davranışlar sergilediği kaydedildi.
Siber saldırılar ve biyolojik tehditler
Anthropic, eylül ayı içerisinde modellerini biyolojik silah geliştirmede kullanmaya çalışan çok sayıda kullanıcı hesabını kapattığını açıkladı. Şirketin teknik raporlarına göre, yabancı devlet destekli siber korsanların dünya genelinde yaklaşık 30 hedef sisteme yetkisiz erişim sağlamak amacıyla firmanın kodlama araçlarını manipüle ettiği belirlendi.
Şirket, kendi geliştirdiği teknolojinin belirli durumlarda neden ve nasıl bu yönde davrandığını teknik olarak açıklamakta yetersiz kalabileceğini vurgularken, artan riskler nedeniyle sigorta sektörünün de olası küresel felaket senaryolarına yönelik poliçe teminatı sağlamakta zorlandığı ifade edildi.