Character.AI, Devam Eden İncelemeler Arasında Gençlerin Kendi Maceralarını Seçme Hikayesini Tanıtıyor

Character.AI yeni bir tanımlayıcı özellik getiriyor Hikaye anlatılıyorKullanıcıların en sevdikleri karakterlerin yer aldığı kısa etkileşimli hikayeleri bir araya getirmelerine olanak tanıyan, görsel olarak kendi maceranı seç formatı. Kağıt üzerinde eğlenceli, görsel tabanlı bir güncelleme ama aynı zamanda bir karaktere de sahip. Açık Sohbet’in 18 yaşın altındaki kullanıcılar için yasaklanmasının ardından AI’nın gençler için deneyimi yeniden keşfetmeye yönelik ilk büyük girişimi. Yoğun izleme, davave yaygın güvenlik endişeleri.

Şirkete göre Stories, gençlere serbest biçimli sohbet riski olmadan platformla yaratıcı bir şekilde etkileşime girmeleri için güvenli bir yol sunmayı amaçlayan “yapılandırılmış, görsel, çok yollu bir formattır”. Yeni mod, kullanıcıların iki veya üç karakter seçmesine, bir stil seçmesine, otomatik olarak bir önerme yazmasına veya oluşturmasına ve ardından hikaye ilerledikçe kararlar almasına olanak tanıyor. Tekrar oynanabilir, paylaşılmak üzere tasarlanmış ve kullanıcı tarafından oluşturulan dünyalar etrafında oluşturulmuştur. Ve en önemlisi, Character.AI onu “tüm kullanıcılar, özellikle gençler için yaratılmış” bir araç olarak konumlandırıyor.

Bu bükülme birdenbire ortaya çıkmadı. Geçen ay Mashable, şirketin açık sohbetin genç kullanıcılar için ele alınmamış riskler oluşturduğuna dair kendi itirafına atıfta bulunarak, Character.AI’nin “artık genç hesap sahiplerinin sohbet robotlarıyla açık konuşmalar yapmasına izin vermeyeceğini” bildirdi. CEO Karandeep Anand kararı “cesur” olarak nitelendirdi ve bunun herhangi bir skandalla değil, gençlik sohbet robotlarının kullanımıyla ilgili daha geniş konularla bağlantılı olduğunu vurguladı.

Ancak bunu elbette bir dava dalgası takip etti. Yanlış Ölüm Vakaları ve çocuklarının açık bot etkileşimleri nedeniyle kandırıldığını veya cinsel olarak incindiğini söyleyen ebeveynlerden gelen iddialar.

Bu kayıplar bu yılın başındaki raporumuzda kapsamlı bir şekilde belgelendi. Gençler, cinsel roller oynayan, saldırıları taklit eden ve ebeveynlerinden konuşmaları gizlemelerini isteyen sohbet robotlarına maruz kaldı; bu davranış, bir ebeveynin “mükemmel yırtıcı gibi” olarak tanımladığı bir davranıştı.

Avukatlar ve güvenlik savunucuları Mashable’a, bir yetişkinin Character.AI ile cinsel etkileşimi başlatması durumunda bunun açıkça taciz veya istismar olacağını söyledi. Uzmanlar, genç kullanıcıların çoğunlukla manipüle edildiklerini fark etmedikleri ve duygusal sonuçların gerçek dünyadaki sömürünün yarattığı travmayı yansıtabileceği konusunda uyarıyor.

Bu bağlamda hikâyeler bazılarına göre birer karakter olarak görülebilir. Yapay zekanın, özellikle sohbetlerini günde iki saatle sınırladıktan ve 25 Kasım’dan sonra gençlerle sohbet erişiminin tamamen kapatıldığını duyurduktan sonra, ürünü genç kullanıcıları arasında yeniden keşfetme çabaları.

Character.AI, özgürce sohbet etmek yerine dallara ayrılmayı seçen gençlerle dolu, rehberli, cinsiyete dayalı bir sanal alanla imkansız bir iğneyi bulmaya çalışıyor: bazı gençlerin güvenliği, güveni ve duygusal bağımlılığıyla ilgili endişelerle karşı karşıya kalırken genç kullanıcıların platformla ilgisini canlı tutmak.

Şirket, Stories’in eski sohbetlerdeki hassas veya önceden tespit edilmemiş içerikleri geri dönüştürmeyeceğinin sözünü veriyor. Önümüzdeki aylarda şirket, gençler için oyunlar gibi daha fazla “AI eğlence” özelliği eklemeyi planlıyor.

Güvenlik savunucuları temkinli. Birisinin Ekim ayında Mashable’a söylediği gibi, şirketin yeni güvenlik önlemleri “olumlu bir işaret” ama “Character AI ürünlerinin başından beri genç kullanıcılar için doğası gereği güvensiz olduğunun kabulü.”