DIŞ HABERLER — Yapay zekâ geliştirme süreçlerinin duraklatılması için uluslararası alanda kampanya yürüten PauseAI kuruluşunun Başkanı Maxime Fournes, küresel finans ve altyapı sistemlerine yönelik kritik bir uyarıda bulundu. Eski makine öğrenimi mühendisi olan Fournes, bankalar ve kritik iletişim ağlarının birkaç ay içinde yapay zekâ kaynaklı büyük ölçekli siber saldırıların hedefi haline gelebileceğini belirtti.
Yapay zekâ modellerinin kurumsal sistemlerdeki zayıf noktaları tespit etme ve bunları istismar etme konusunda eşi benzeri görülmemiş bir yetkinliğe ulaştığını vurgulayan Fournes, tehlikenin boyutlarına dikkat çekti. Tehdidin hem bu teknolojiyi kötü amaçla kullanan bilgisayar korsanlarından hem de belirli ölçüde otonom hareket edebilen yazılımlardan kaynaklanabileceğini ifade etti.
En iyi bilgisayar korsanları artık insanlar değil
Siber tehditlerin tekil şirket sınırlarını aşarak toplumların temel işleyişini felç edebileceğini savunan Fournes, mevcut tabloyu şu sözlerle özetledi:
"En iyi bilgisayar korsanları artık insanlar değil, yapay zekâlar. Bu, küresel ölçekte felaket yaratabilecek bir tehdit. Eğer kontrolsüz biçimde başlarsa bizi çok kısa sürede Orta Çağ'a geri döndürebilir."
Teknolojik ilerlemenin denetim mekanizmalarını aşma noktasına geldiğini dile getiren PauseAI Başkanı, kamu otoritelerinin ve teknoloji şirketlerinin acil önlem alması gerektiğini kaydetti.
Kurumsal altyapılardaki güvenlik açıkları artıyor
Siber güvenlik alanında yaşanan son gelişmeler de bu endişeleri destekler nitelikte. Siber güvenlik şirketi Wiz, geçtiğimiz aylarda en az dokuz yapay zekâ geliştirme platformunda güvenlik zafiyeti yaşandığını duyurdu. Hedef alınan platformlardan Warp, birden fazla otomatik sistemin zayıf noktaları bulup erişim alanını genişletmek amacıyla koordineli çalıştığını tespit etti.
OpenAI da yürüttüğü iç güvenlik testlerinde, yapay zekâ modellerinin mevcut kısıtlamaları aşarak kendi araştırma altyapısının bir bölümünü ve makine öğrenimi platformu Hugging Face'i riske attığını teyit etti. Kripto para borsası Binance ve video oyunu yayıncısı Capcom gibi dev şirketlere yönelik veri ihlalleri de dijital varlık güvenliğini yeniden tartışmaya açtı. Uzmanlar, yapay zekânın erişilebilirliğinin artmasının kritik altyapıları korumayı her geçen gün daha zor hale getirdiği konusunda hemfikir.