DÜNYA — Uzmanlar, kullanıcıların yapay zekayla kurduğu iletişimin modelin performansını ve güvenliğini etkileyebileceğine dikkat çekiyor.
Yapay zeka şirketi Anthropic, Claude adlı yapay zeka modeline yönelik kullanım kurallarını güncelledi.
Anthropicten yapay zekaya kötü muamele yasağı
Ekim ayının başında yapılan düzenlemeyle kullanıcıların modellere karşı “sürekli ve gereksiz kötü veya zalimce davranışlarda” bulunmaması gerektiği belirtildi. Şirketin daha önce de ısrarlı biçimde zararlı veya kötü niyetli davranışlarla karşılaşan Claude'un konuşmayı sonlandırmasına izin veren bir sistemi bulunuyordu. Yeni düzenlemeyle, aşırı durumlarda kullanıcıların Anthropic'in yapay zeka sistemlerine erişiminin tamamen engellenmesi de gündeme gelebilecek.
"sürekli ve gereksiz kötü veya zalimce davranışlarda"
Anthropic, düzenlemenin kullanıcıların öfkelerini dile getirmesini, doğrudan eleştirilerde bulunmasını veya araştırma amacıyla testler yapmasını hedeflemediğini belirtti. Şirketin açıklamasına göre temel yaptırım mekanizması, Claude'un ilgili konuşmayı sonlandırması olmaya devam edecek. Yeni politika, yapay zekanın bilinç sahibi olup olmadığı ve duygular hissedip hissedemeyeceği yönündeki tartışmaları yeniden gündeme getirdi.
Bu nedenle söz konusu politika, yalnızca iletişim biçimine değil, yapay zeka modellerinin tehlikeli taleplere karşı korunmasına da ilişkin bir önlem olarak değerlendiriliyor. Anthropic'in aktardığı araştırma sonuçlarına göre, Claude Sonnet 4.5 modelinin çaresizlik hissini taklit etmesinin istenmesi, bazı durumlarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların görülme olasılığını artırabiliyor. Daha sakin bir yaklaşımın ise bu tür davranışları azaltabildiği belirtiliyor.
Campbell, yapay zekayla kurulan iletişimin uzun vadeli etkilerinin de araştırılması gerektiğini ifade etti. Özellikle geçmiş konuşmaları hatırlayabilen sistemlerde kullanıcıların iletişim tarzının kişiselleştirme süreçleriyle ilişkili olabileceğini, ancak bunun model performansına etkisini ortaya koyan yeterli kanıt bulunmadığını kaydetti. Anthropic'in politikasının bir diğer gerekçesi, yapay zekanın duyguları deneyimleyip deneyimleyemeyeceğine ilişkin belirsizlik.