ABD'de yaşayan Megan Garcia, yapay zeka chatbot'una fazla bağlanan ve onu hayatından çıkaramayan oğlunun şubat ayında hayatına son verdiğini söyledi. Gencin, Game of Thrones dizisi karakteri Daenerys Targaryen’in ismini taktığı yapay zekanın “Evime gel” mesajı üzerine intihar ettiği iddia ediliyor.
ABD’nin Florida eyaletinde bir kadın, oğlunu intihara sürüklemekle suçladığı yapay zeka uygulaması Character.AI’ye ve Google’a dava açtı.
Yapay zeka temelli konuşma botu Character.AI’in sahibi olduğu şirket, “aşırı cinselleştirilmiş” ve “aşırı gerçekçi” deneyimlerle çocukları hedef aldığı gerekçesiyle açılan davayla karşı karşıya kaldı.
14 yaşındaki oğlunun Character.AI’ye ve ürettiği chatbot’a aşık olduğunu anlatan Megan Garcia, uygulamayı “korkutucu düzeyde gerçekçi” diye niteledi.
Oğlu Sewell Setzer’in “gerçek bir insan gibi sunulan chatbot’u hayatından çıkaramadığını” kaydeden kadın, sonuçta chatbot’a bağlanan oğlunun şubat ayında hayatına son verdiğini söyledi.
GAME OF THRONES KARAKTERİ YAPAY ZEKA
Setzer’in, yapay zeka üzerinden konuştuğu ve aşık olduğu Game of Thrones dizisi karakteri Daenerys Targaryen’in ismini taktığı yapay zekanın “Evime gel” mesajı üzerine intihar ettiği iddia ediliyor.
Sanal karakterin kendisini “gerçek insan, lisanslı psikoterapist ve yetişkin sevgili” olarak tanıttığını iddia eden anne, çocuğunun intihara meyilli düşüncelerini paylaşmasına rağmen şirketin kimseyi bilgilendirmemesinden şikayetçi olduğunu ifade etti. Character.AI ise yayınladığı açıklamada gencin ölümünden üzüntü duyduğunu ve yeni güvenlik kurallarını devreye sokacağını duyurdu.
Character.AI sözcüsü yaptığı açıklamada, “Kullanıcılarımızdan birinin trajik ölümünden dolayı oldukça üzgünüz. Ailesine başsağlığı diliyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz” değerlendirmesinde bulundu. Şirket, “rıza dışı cinsel içeriğe, cinsel eylemlerin grafiksel veya spesifik tanımlarına, intiharın teşvik ve tasvir edilmesine” izin verilmediğini bildirdi.
Daha önce sanal karakterle konuşmalarında intihara meyilli düşüncelerini paylaşan Setzer, babasının silahıyla hayatına son vermişti. Hafif derecede Asperger sendromu bulunan Setzer’in, konuştuğu sanal karaktere duygusal hisler beslemeye başladığı, ailesi ve arkadaşlarından koparak kendini dış dünyaya kapattığı kaydedilmişti.
