DIŞ HABERLER — Çin merkezli teknoloji devi Tencent’in baş yapay zekâ araştırmacısı Vince Yao, yapay zekâ modellerinin biyoloji alanındaki gelişiminin ciddi küresel riskler barındırdığı konusunda uluslararası teknoloji dünyasını uyardı.
Hong Kong’da düzenlenen teknoloji sempozyumunda değerlendirmelerde bulunan eski OpenAI araştırmacısı Yao, biyolojinin gelişmiş yapay zekâ sistemleri için yeni bir çalışma sahası hâline geldiğini kaydetti. Yapay zekânın ilaç geliştirme süreçlerini hızlandırmadaki potansiyeline işaret eden tecrübeli araştırmacı, aynı yeteneklerin biyolojik silah geliştirilmesini de kolaylaştırabileceğini vurguladı. Yao, yapay zekâ modellerinin biyolojik becerilerinin yakın gelecekte insanlığa zarar verebilecek seviyeye ulaşabileceğini belirterek küresel güvenlik standartlarının acilen güncellenmesi gerektiğini ifade etti.
Otonom laboratuvarlar ve siber savunma hamlesi
Araştırma geliştirme faaliyetlerini sürdüren Tencent, karmaşık bilimsel deneyleri baştan sona yürütebilen otonom laboratuvarlar kurmayı amaçlıyor. Şirket, bu sistemlerin olası tehditlerine karşı güvenlik kısıtlamalarını da devreye alıyor. Yeni geliştirilen Hy4 modelinin eğitim aşamasında saldırı amaçlı siber yeteneklerinin sınırlandırıldığı, buna karşılık savunma kabiliyetlerinin korunduğu bildirildi. Modelin biyolojik risk seviyesinin mevcut durumda kontrol altında tutulduğu, güvenlik test sonuçlarının ise yakında kamuoyuyla paylaşılacağı açıklandı.
Açık kaynak modellerin oluşturduğu ikilem
Açık kaynak yapay zekâ teknolojilerinin çift yönlü bir etkiye sahip olduğunu belirten Yao, bu sistemlerin kötü niyetli aktörlerin eline geçme riski taşıdığını, ancak savunma ekiplerine de kritik denetim araçları sağladığını vurguladı. Yao'ya göre asıl sınav, teknik engellerin aşılmasından ziyade toplumların ve resmî kurumların biyolojik yapay zekâ risklerine karşı kurumsal hazırlık düzeyinde yaşanacak.