‘Evine dön’ iletisini aldıktan sonra intihar etti

0

BEĞENDİM

ABONE OL

News

0

New York Post gazetesinin haberine nazaran, yapay zeka temelli konuşma botu Character.AI’in sahibi olduğu şirket, “aşırı cinselleştirilmiş” ve “aşırı gerçekçi” tecrübelerle çocukları gaye aldığı gerekçesiyle açılan davayla karşı karşıya kaldı.

“EN KISA MÜDDETTE MESKENİNE DÖN” İLETİSİ

“Character.AI”ın ürettiği yapay zeka temelli konuşma botundaki sanal karakterin, şubat ayında gönderdiği “En kısa müddette meskenine dön.” iletisinin akabinde Sewell Setzer III isimli çocuğun, silahla intihar etmesinden aylar sonra Setzer’in annesi şirkete dava açtı.

Sanal karakterin kendisini “gerçek insan, lisanslı psikoterapist ve yetişkin sevgili” olarak tanıttığını sav eden anne, çocuğunun intihara meyilli kanılarını paylaşmasına karşın şirketin kimseyi bilgilendirmemesinden şikayetçi olduğunu tabir etti.

ŞİRKETTEN AÇIKLAMA

Character.AI sözcüsü ise yaptığı açıklamada, “Kullanıcılarımızdan birinin trajik vefatından ötürü epey üzgünüz. Ailesine başsağlığı diliyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz.” değerlendirmesinde bulundu.

Şirket, “rıza dışı cinsel içeriğe, cinsel hareketlerin grafiksel yahut spesifik tariflerine, intiharın teşvik ve tasvir edilmesine” müsaade verilmediğini bildirdi.

Şirketin siber güvenlik müdürü Jerry Ruoti de, sisteme reşit olmayan kullanıcılar için ek güvenlik tedbirleri ekleyeceklerini duyurdu.

SEWEL SETZER III’ÜN İNTİHARI

Daha evvel sanal karakterle konuşmalarında intihara meyilli kanılarını paylaşan Setzer, babasının silahıyla hayatına son vermişti.

Konuya ait haberlerde, hafif derecede Asperger sendromu bulunan Setzer’in, konuştuğu sanal karaktere duygusal hisler beslemeye başladığı, ailesi ve arkadaşlarından koparak kendini dış dünyaya kapattığı kaydedilmişti. AA