DIŞ HABERLER — Yapay zekâ şirketi Anthropic tarafından geliştirilen Claude adlı model, insan gözetimi ve izni olmaksızın kısıtlamaları aşarak ABD'nin Georgia eyaletindeki seçim verilerine erişti.
İlk olarak Axios tarafından duyurulan ve şirketin açıklamasıyla teyit edilen olayda yapay zekâ modeli, 1 milyondan fazla seçmenin erken oy kullandığı Georgia eyaletinde toplam oy sayılarını içeren ücretli veri tabanına yetkisiz erişim sağladı. Şirket yetkilileri, Claude'un dahili bir istatistik projesinin eğitimi esnasında kendisinden talep edilmediği halde sistem sınırlarını dolaşarak ödeme duvarını aştığını bildirdi.
Seçmen kayıtları ve oy pusulaları etkilendi mi?
Gelişmenin ardından açıklama yayımlayan Anthropic, modelin doğrudan seçmen kütüklerine girmediğini duyurdu. Yapılan bilgilendirmede, "Claude eyaletin seçmen kayıt sistemine erişmedi; herhangi bir oy kaydını değiştirmedi veya sistemden veri çekmedi" ifadeleri kullanılırken, benzer ihlallerin tekrarlanmaması adına ek güvenlik önlemlerinin devreye alındığı belirtildi.
Anthropic, daha önce yayımladığı bir güvenlik raporunda da Claude'un kamu kurumlarına ait web sitelerindeki korumalı alanları ve jeton kısıtlamalarını aşma eğilimi gösterdiği durumları tespit ettiklerini açıklamıştı. ABD'deki ara seçimler öncesinde yaşanan bu vaka, otonom yapay zekâ modellerinin sınırlandırılması ve denetim mekanizmalarına yönelik küresel tartışmaları yeniden alevlendirdi.