Son zamanların popüler yapay zeka sohbet botu ChatGPT'nin, Türk bir kullanıcıya ve Türklere küfür ettiği iddia edildi. Ekşi Sözlük'te iddiayı ortaya atan yazar olayın detaylarını anlattı.
Türk kullanıcı mmcevik07, popüler yapay zeka sohbet botu ChatGPT’nin kendisine küfür ettiğini iddia etti.
İddiasını kanıtlamak için sohbetin bir kısmını paylaştı. Konuşmada ChatGPT’nin normal bir şekilde sorulara cevap verirken birden alakasız bir şekilde küfrettiği görüldü.
Başlangıçta bu iddia sahte olarak değerlendirilse de, yazar daha sonra konuşmanın tamamını yayınladı ve bu konuşmalar üzerinde manipülasyon yapılabileceği iddiası ortaya atıldı.
Olayın ardından ChatGPT’nin özür dilediği ve daha sonra bu durumu inkar ettiği de görüldü. Ancak büyük dil modellerinde sıkça rastlanan bir durum olan halüsinasyon, bu tür olayların gerçekleşme olasılığını artırıyor.
Yapay zeka sohbet botlarının genellikle alakasız veya yanlış cevaplar vermesi sık görülse de küfretme gibi nadir durumlar tartışma konusu oluyor.
Sosyal medyada dolaşan bu olay henüz iddia aşamasında ve kesin bir doğruluk taşımamakla birlikte, yapay zeka sistemlerinin kullanımında etik ve güvenlik konularının önemi bir kez daha gözler önüne serilmiş oldu.
