Yapay Zeka Botu Yasaları Çiğnemeyi Tavsiye Etti

Yapay Zeka Botu Yasaları Çiğnemeyi Tavsiye Etti

New York Belediyesi'nin küçük işletmelere yardımcı olmak amacıyla geliştirdiği yapay zeka destekli sohbet botunun, işletme sahiplerine yasaları ihlal etmelerini tavsiye ettiği ortaya çıktı.

Sohbet botunun verdiği bazı hatalı tavsiyeler:

• Cinsel tacize uğradığını şikayet eden ve hamile olduğunu bildirmeyen çalışanları işten çıkarmanın yasal olduğu.
• İşletmelerin çöplerini yalnızca çöp poşeti kullanarak atabilecekleri ve gübre olarak geri dönüştürmelerine gerek olmadığı.
• Fare tarafından kemirilmiş peynirin müşterilere servis edilebileceği (müşterilerin bilgilendirilmesi şartıyla).

Sohbet botunun cevaplarının yasal tavsiye olmadığı uyarısında bulunmasına rağmen, bu hatalı bilgiler endişe yaratıyor.

Eleştiriler:

• Sohbet botunun hala sitede aktif olması ve hatalı bilgilerin düzeltilmemesi eleştiriliyor.
• New York Üniversitesi Bilgisayar Bilimleri Profesörü Julia Stoyanovich, "Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık" ifadelerini kullandı.
• Washington Üniversitesi Profesörü Jevin West ise yapay zeka destekli modellerin riskinin kamu sektörü için daha yüksek olduğunu belirtti.

Sonuç:

Yapay zeka destekli sohbet botlarının geliştirilmesi ve kullanımı önemli bir potansiyele sahip olsa da, bu tür hatalı ve yanıltıcı bilgilerin yayılmasının önüne geçmek için gerekli denetimlerin ve etik ilkelerin göz önünde bulundurulması hayati önem taşıyor.