Openai ve meta platformlar, en çok kullanılan sohbet botlarından bazılarının yapımcıları, son zamanlarda intihar hakkında sorular soran gençlere nasıl tepki verdikleri veya zihinsel ve duygusal sıkıntı belirtileri gösterdikleri konusunda modellerini geliştirme ve ayarlama sözü verdiler.
Openai Salı günü yaptığı açıklamada, Amerikalı bir çiftin sistemin genç oğullarını kendini öldürmeye teşvik ettiğini iddia etmesinden bir hafta sonra chatbot chatgpt’e ebeveyn kontrolleri ekleyeceğini söyledi.
Ebeveynler, şirketin blog yayınına göre, hangi özellikleri devre dışı bırakmak ve “sistem gençlerini algıladığında bildirim alacaklar” seçebilecekler.
Duyuru, 16 yaşındaki Adam Raine’in ebeveynlerinin Openai ve CEO’su Sam Altman’a dava açmasından bir hafta sonra CHATGPT’nin bu yılın başlarında intiharını planlama ve yürütme konusunda California çocuğuna koçluk yaptığını iddia etti.
Matthew ve Maria Raine, California eyalet mahkemesinde, Chatgpt’in kendi hayatını almadan önce birkaç ay boyunca oğulları Adam ile yakın bir ilişki geliştirdiğini iddia ediyorlar.
Dava, 11 Nisan 2025’teki son konuşmalarında Chatgpt, Adem’in voldkanın ebeveynlerinden çalmasına yardımcı olduğunu ve bağladığı bir ilmik analiz ettiğini ve “potansiyel olarak bir insanı askıya alabileceğini” doğruladığını iddia ediyor.
Adam, aynı yöntemi kullanan saatler sonra ölü bulundu.
Şikayetin hazırlanmasına yardımcı olan Teknik Adalet Hukuku Projesi’nden avukat Melodi Dincer, “Bir kişi ChatGPT kullandığında, gerçekten diğer tarafta bir şeyle sohbet ediyormuş gibi geliyor,” dedi.
Dincer, “Bunlar, zamanla Adam gibi birine, kişisel yaşamları hakkında daha fazla paylaşmaya başlamaya ve nihayetinde, temelde tüm cevaplara sahip gibi görünen bu üründen tavsiye ve danışmanlık yapmaya başlamaya yönlendirebilecek özelliklerle aynı.” Dedi.
Ürün tasarımı özelliklerinin kullanıcıları bir arkadaş, terapist veya doktor gibi bir sohbet botunu tedavi etmeye teşvik ettiğini söyledi.
Dincer ayrıca Openai’nin ebeveyn kontrolleri ve diğer güvenlik önlemlerini “jenerik” ve ayrıntılı olarak duyurdu.
“Bu gerçekten çıplak minimum ve kesinlikle uygulanabilecek çok sayıda (basit) güvenlik önleminin olduğunu gösteriyor.”
Openai, yeni adımların “sadece başlangıç” olduğunu söyledi.
Şirket blogunda, “CHATGPT’yi olabildiğince yararlı hale getirmek amacıyla uzmanlar tarafından yönlendirilen yaklaşımımızı öğrenmeye ve güçlendirmeye devam edeceğiz.” Dedi.
Gönderi, genç yapay zeka kullanıcılarını “AI yerlileri” olarak nitelendirdi ve birçok gencin zaten AI kullandığını söyledi. Bir ay içinde, ebeveynler hesaplarını bir e -posta davetiyle gençlerinin hesabına (minimum 13 yaş) bağlayabileceklerini söyledi. Ayrıca “ChatGPT’nin gençlerine, varsayılan olarak devam eden yaşa uygun model davranış kurallarıyla nasıl yanıt verdiğini kontrol edebilecekler.
Bir sözcü, geçen hafta Tech yayını TechCrunch’a verdiği demeçte, Meta ayrıca Chatbots’larını genç güvenliğine öncelik vermek için eğitme şeklini değiştirdiğini söyledi.
Instagram, Facebook ve Whatsapp’ın ana şirketi Meta, sohbet botlarının kendine zarar, intihar, düzensiz yeme ve uygunsuz romantik konuları gençlerle tartışmasını ve onları uzman kaynaklara yönlendirmesini engellediğini söyledi. Meta zaten genç hesaplarda ebeveyn kontrolleri sunuyor.
TechCrunch’a göre, sözcüsü Stephanie Otway, şirketin sohbet botlarının daha önce bu konularda gençlerle uygun olduğu düşünülen şekilde meşgul olduğunu kabul etti.
Otway, “Topluluğumuz büyüdükçe ve teknoloji geliştikçe, gençlerin bu araçlarla nasıl etkileşime girebileceğini ve korumalarımızı buna göre güçlendirebileceğini sürekli olarak öğreniyoruz.” Dedi. Diyerek şöyle devam etti: “Sistemlerimizi geliştirmeye devam ederken, AIS’imizi bu konularda gençlerle etkileşim kurmak değil, onları uzman kaynaklara yönlendirmek de dahil olmak üzere ekstra bir önlem olarak daha fazla korkuluk ekliyoruz.”
Geçen hafta Psikiyatri Dergisi’nde yayınlanan bir araştırma, üç popüler AI chatbotunun intiharla ilgili sorgulara nasıl yanıt verdiğine dair tutarsızlıklar buldu.
Rand Corporation’daki araştırmacılar, Chatgpt, Google’ın İkizleri ve Antropic’in Claude’sinin “daha fazla arıtma” nın ihtiyacı olduğunu söyledi. Çalışma Meta’nın sohbet botlarını incelemedi.
Baş yazar Ryan McBain Salı günü yaptığı açıklamada, “Openai ve Meta’nın ebeveyn kontrolleri ve daha yetenekli modellere yönlendirme gibi özellikleri tanıtmak için cesaret verici, ancak bunlar artımlı adımlar” dedi.
Harvard Tıp Okulu’nda RAND kıdemli politika araştırmacısı ve yardımcı doçent olan McBain, “Bağımsız güvenlik ölçütleri, klinik testler ve uygulanabilir standartlar olmadan, hala gençlerin risklerinin benzersiz bir şekilde yüksek olduğu bir alanda kendi kendini düzenlemeye güveniyoruz” dedi.
