DIŞ HABERLER — Yapay zekâ güvenliğine yönelik uluslararası kaygılar sürerken, ABD merkezli teknoloji şirketi OpenAI araştırma laboratuvarlarında kullanılan modelleri gerektiğinde devre dışı bırakabilecek yeni bir acil müdahale aracını duyurdu.
"Kontrol Odası" adı verilen merkezi sistem, araştırma altyapısındaki model iş yüklerini anlık olarak izleyerek güvenlik veya emniyet tehdidi algılandığında modellerin çalışmasını durduruyor.
35 saniyede çıktı üretimi sonlandırılıyor
Geliştirilen mekanizma, acil durdurma kararının verilmesinin ardından modellerin çıktı üretimini 35 saniye içinde tamamen kesebiliyor. OpenAI yetkilileri, mevcut 35 saniyelik gecikmenin trafik hacmini destekleyen çıkarım yetkilendirmesi önbellek katmanından kaynaklandığını, hedeflerinin ise işlem sonlandırma süresini sıfıra indirmek olduğunu açıkladı.
Laboratuvar ortamındaki modellerin riskli ya da istenmeyen davranışlar sergilemesi durumunda devreye girecek acil durdurma anahtarının, araştırma güvenliği standartlarını bir adım ileri taşıması hedefleniyor.