DIŞ HABERLER — Yapay zekâ araştırma şirketi OpenAI, araştırma altyapısında çalışan modellerin güvenliğini artırmak amacıyla "Control Room" adı verilen acil durdurma sistemini devreye aldı. Yeni güvenlik mekanizması, modellerin olağan dışı veya riskli davranışlar sergilemesi durumunda yeni veri ve içerik üretimini yalnızca 35 saniye içinde tamamen durdurabiliyor.
Gelişmiş yapay zekâ modellerinin otonom yetenekleri arttıkça güvenlik denetim mekanizmalarına duyulan ihtiyaç da kritik bir boyut kazandı. OpenAI tarafından geliştirilen Control Room sistemi, modellerin işlem süreçlerini sürekli izleyerek olası bir kontrol kaybı, güvenlik açığı veya yetkisiz işlem durumunda araştırmacıların anında müdahale etmesine olanak tanıyor. Sistemin devreye girmesiyle birlikte modelin işlem sırası donduruluyor ve harici kaynaklara veri aktarımı ile yeni çıktı üretimi kesiliyor.
Yetkililer, araştırma ortamlarında denenen yeni nesil yapay zekâ sistemlerinin sınırlarını test ederken kontrol mekanizmasının hayati önem taşıdığını belirtiyor. 35 saniyelik durdurma süresi, modellerin beklenmeyen bir davranış döngüsüne girmesi halinde oluşturabileceği operasyonel ve güvenlik risklerini asgariye indirmeyi hedefliyor.