Yapay Zekâ Botunun Tartışmalı Yanıtları
New York Belediyesi‘nin Ekim 2023’te şehrin resmi sitesinde hizmete sunduğu yapay zekâ sohbet botu, alınan yanıtlar nedeniyle eleştirilerin odağında. Bot, verdiği cevaplarda şehrin politikalarına ters düşecek açıklamalarda bulunuyor. Örneğin;
- İşverenin cinsel tacize uğrayan ve hamile olduğunu bildirmeyen çalışanları işten çıkarmasının yasal olduğu şeklinde yanıt veriyor.
- İşletmelerin atıklarını sadece çöp poşetleriyle atabileceklerini, geri dönüşüm yapmalarının gerekli olmadığını ifade ediyor.
- Bir restoranın fare tarafından kemirilmiş peyniri servis edebileceğini belirtiyor ancak müşterilerin bilgilendirilmesi gerektiğini vurguluyor.
Uzmanların Eleştirileri
New York Üniversitesi’nde Bilgisayar Bilimleri Profesörü ve “Center for Responsible AI” Direktörü Julia Stoyanovich, “Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık” ifadesini kullanırken,
Washington Üniversitesi’nde Profesör Jevin West, yapay zekâ destekli modellerin kamu sektörü için daha yüksek risk taşıdığını belirtiyor.