TEKNOLOJİ — CNN ile özel olarak paylaşılan yeni bir araştırmaya göre, büyük yapay zeka modellerini destekleyen donanımlar bilgisayar korsanlarının hedefi haline gelebiliyor.
Araştırmacılar, hassas ulusal güvenlik ve kişisel sağlık sorularına verilen yanıtları manipüle etmeyi başardı.
Vatandaşların alması gereken önlemler ve uyarılar
Bir örnekte uzmanlar, modelin bilgiyi işlemek için kullandığı ağırlıklara uzaktan müdahale etti. Bu sayede yapay zeka modelinin Çin'in Tayvan'ı işgal etme olasılığını büyük ölçüde artırması sağlandı. Başka bir senaryoda ise donanımı manipüle edilmiş bir yapay zeka modeli, göğüs ağrısı için tıbbi tavsiye arayan bir kullanıcıya hastaneye gitmek yerine evde kalmasını söyledi.
Yapay zeka konusundaki küresel endişelerin çoğu yapay zeka firmalarının kendi eylemlerine odaklansa da yeni araştırma milyarlarca dolarlık donanım endüstrisinin güvenliğini merkeze alıyor. Buna çipler, bellek ve veri merkezi sunucuları da dahil ediliyor. Tüm bu bileşenler bir modelin davranışını etkileyebiliyor.
Sürece ilişkin resmi açıklamalar ve sonraki aşama
Veri işleme birimine erişimi olan bir saldırgan, makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor. Bu süreçte yapay zeka modelinin davranışına da müdahale ediliyor. Araştırmacılar, saldırının bir dakikadan kısa sürdüğünü ve yapay zeka kullanıcısının hiçbir şeyden haberi olmadığını belirtti.
Modelleri Nvidia çipleri üzerinde çalışan Anthropic ve OpenAI şirketlerine de yeni araştırma hakkında sorular yöneltildi. Araştırma, Çin ile ABD arasındaki yapay zeka üstünlüğü yarışının yoğunlaştığı ve yapay zekanın ulusal güvenlik üzerindeki etkilerini gösteren gerçek dünya vakalarının çoğaldığı bir dönemde geldi. Müdahale edildiğine dair hiçbir belirti olmasa bile yapay zeka modellerinin güvenilirliği konusunda endişeler bulunuyor.