Chatbot şirketi Character.AI, aylarca süren yasal testlerin ardından Kasım ayı sonuna kadar 18 yaşın altındaki kullanıcıların sanal akranlarıyla sohbet etmesini yasaklayacak.
Duyurulan değişiklik, kullanıcılarına açık sohbetler yapabilecekleri karakterler oluşturma olanağı sunan şirketin, bu yapay zeka yoldaşların genel ve ergen ruh sağlığını nasıl etkileyebileceği konusunda zorlu sorularla karşılaşmasının ardından geldi; bunlar arasında bir çocuk intihar vakası ve reşit olmayanların yapay zeka yoldaşlarıyla sohbet etmesini yasaklayacak bir yasa tasarısı da vardı.
Şirket, duyurusunda “Yapay zeka ve gençler hakkındaki değişen manzaranın ışığında 18+ platformumuzda bu değişiklikleri yapıyoruz” diye yazdı. “Gençlerin yapay zeka ile sohbet ederken karşılaşabilecekleri içerikler ve içerik kontrolleri tamamen yerinde olsa bile açık yapay zeka sohbetinin gençleri genel olarak nasıl etkileyebileceği hakkında son haberlerin soruları gündeme getirdiğini gördük ve düzenleyicilerden sorular aldık.”
Geçtiğimiz yıl şirket, Character.AI’de yarattığı bir karaktere duygusal bir bağ geliştirdikten sonra intihar eden 14 yaşındaki Sewell Setzer III’ün ailesi tarafından dava edilmişti. Ailesi onun ölümünden Character.AI’yi sorumlu tuttu ve teknolojinin “tehlikeli ve test edilmemiş” olduğunu savundu. O zamandan beri daha fazla aile Character.AI’ye dava açtı ve benzer iddialarda bulundu. Bu ayın başlarında Sosyal Medya Hukuk Merkezi, intihar sonucu ölen veya sohbet robotlarıyla bağımlı ilişkiler kuran kişiler adına şirkete karşı üç yeni dava açtı.
Character.AI’nin 25 Kasım’dan önce uygulamayı planladığı radikal değişikliklerin bir parçası olarak şirket, “kullanıcıların yaşlarına uygun bir deneyim yaşamasını” sağlayan bir “yaş garantisi özelliği” de sunacak.
Şirket, duyurusunda şunları yazdı: “Açık karakter sohbetini hafife almak için bu adımı atmıyoruz, ancak gençlerin bu yeni teknolojiyle nasıl etkileşime girdiği ve nasıl iletişim kurmaları gerektiği konusunda ortaya çıkan sorular göz önüne alındığında bunun yapılması gereken doğru şey olduğuna inanıyoruz.”
Character.AI, chatbot kullanıcılarının, özellikle de gençlerin ruh sağlığı üzerindeki etkilerini araştıran tek şirket değil. 16 yaşındaki Adam Raine’in ailesi, bu yılın başlarında OpenAI’ye karşı, şirketin kullanıcıların ChatGPT ile olan etkileşimini kendi güvenliklerinden daha fazla derinleştirmeye öncelik verdiğini iddia ederek haksız ölüm davası açtı. Buna yanıt olarak OpenAI, genç kullanıcıları için yeni güvenlik yönergeleri sundu. Bu hafta OpenAI, haftada bir milyondan fazla kişinin ChatGPT ile sohbet ederken intihar niyetinde olduğunu ve milyonlarca kişinin psikoz belirtileri gösterdiğini ortaya çıkardı.
Bülten dağıtımından sonra
Yapay zeka destekli sohbet robotlarının kullanımı büyük ölçüde düzenlemesiz kalırken, Amerika Birleşik Devletleri’nde eyalet ve federal düzeylerde teknolojinin etrafına raylar koymayı amaçlayan yeni çabalar ortaya çıktı. Ekim 2025’te Kaliforniya, 2026’nın başlarında yürürlüğe girecek olan çocuk koruma yönergelerini içeren bir yapay zeka yasasını geçiren ilk eyalet oldu. Bu tedbir, 18 yaşın altındakiler için cinsel içeriği yasaklıyor ve çocuklara her üç saatte bir yapay zeka ile konuşmaları için hatırlatıcılar gönderilmesini gerektiriyor. Bazı çocuk koruma savunucuları yasanın yeterince ileri gitmediğini savunuyor.
Ulusal düzeyde, Missouri Sens. Josh Hawley ve Connecticut’tan Richard Blumenthal Salı günü, reşit olmayanların Character.AI’de bulunan ve oluşturulanlar gibi AI yardımcılarını kullanmasını yasaklayacak ve şirketlerin bir yaş doğrulama süreci uygulamasını zorunlu kılacak bir yasa tasarısını duyurdu.
Hawley, NBC News’e yaptığı açıklamada, “Amerikalı çocukların %70’inden fazlası artık bu yapay zeka ürünlerini kullanıyor” dedi. “Chatbot’lar çocuklarla bağ kurmak ve intiharı teşvik etmek için sahte empati kullanıyor. Kongre olarak bizler, bu yeni teknolojinin neden olabileceği daha fazla zararı önlemek konusunda ahlaki bir sorumluluğa sahibiz.”
-
Amerika Birleşik Devletleri’nde, 988 numaralı telefondan Ulusal İntiharı Önleme Yardım Hattını arayabilir veya mesaj atabilir, 988lifeline.org adresinden sohbet edebilir veya bir kriz danışmanıyla bağlantı kurmak için 741741’e HOME mesajı gönderebilirsiniz. Birleşik Krallık’ta, gençlere yönelik intihar yardım kuruluşu Papyrus ile 0800 068 4141 numaralı telefonu arayarak veya e-posta göndererek (e-posta korumalı) iletişime geçilebilir ve Birleşik Krallık ve İrlanda’da Samiriyelilerle 116 123 numaralı ücretsiz telefon aranarak veya e-posta (e-posta korumalı) veya (e-posta korumalı) gönderilerek iletişime geçilebilir. Avustralya’da Lifeline kriz yardım hattı 13 11 14’tür. Diğer uluslararası yardım hatlarına befrienders.org adresinden ulaşılabilir.