OpenAI Pazartesi günü, kaç ChatGPT kullanıcısının zihinsel sağlık sorunlarıyla mücadele ettiğini ve bu konuda AI sohbet robotlarıyla konuştuğunu gösteren yeni veriler yayınladı. Ajans, belirli bir haftadaki aktif ChatGPT kullanıcılarının %0,15’inin “olası intihar planı veya niyetine dair açık göstergeler içeren konuşmalar yaptığını” söylüyor. ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcısı olduğundan bu, haftada bir milyondan fazla kişiye karşılık gelir.
Şirket, kullanıcıların aynı yüzdesinin “ChatGPT’ye yüksek düzeyde duygusal bağlılık” gösterdiğini ve on binlerce kişinin AI chatbot ile haftalık konuşmalarında psikoz veya mani belirtileri gösterdiğini söyledi.
OpenAI, ChatGPT’deki bu tür konuşmaların “son derece nadir” olduğunu ve bu nedenle ölçülmesinin zor olduğunu söylüyor. Bununla birlikte şirket, bu sorunların her hafta on binlerce insanı etkilediğini tahmin ediyor.
OpenAI, modellerin zihinsel sağlık sorunları olan kullanıcılara nasıl tepki vereceğini iyileştirmeye yönelik son çabalara ilişkin daha geniş bir duyurunun parçası olarak bilgileri paylaştı. Şirket, ChatGPT’deki son çalışmasının 170’den fazla ruh sağlığı uzmanına danışmayı içerdiğini söyledi. OpenAI, bu doktorların ChatGPT’nin en son sürümünün “önceki sürümlere göre daha uygun ve tutarlı yanıt verdiğini” gözlemlediğini söyledi.
Son aylarda, yapay zeka sohbet robotlarının zihinsel sağlık sorunlarıyla mücadele eden kullanıcıları nasıl olumsuz yönde etkileyebileceğinin altını çizen birçok hikaye var. Araştırmacılar daha önce yapay zeka sohbet robotlarının bazı kullanıcıları yanıltıcı tavşan deliklerine yönlendirebileceğini ve esasen dalkavuk davranışlar yoluyla tehlikeli inançları güçlendirebileceğini bulmuşlardı.
ChatGPT’de zihinsel sağlık sorunlarını çözmek, OpenAI için hızla varoluşsal bir sorun haline geliyor. Şirket şu anda, intiharından haftalar önce ChatGPT’ye intihara yönelik düşüncelerini itiraf eden 16 yaşındaki bir çocuğun ebeveynleri tarafından dava ediliyor. Şirketin planlanan yeniden yapılanmasını engelleyebilecek Kaliforniya ve Delaware eyalet başsavcıları, OpenAI’nin ürünlerini kullanan gençleri koruması gerektiği konusunda uyardı.
Bu ayın başlarında OpenAI CEO’su Sam Altman, Pazartesi günü yaptığı bir paylaşımda, paylaşılan verilerin bu iddianın kanıtı olduğunu ancak sorunun ne kadar yaygın olduğuna dair daha geniş soruları gündeme getirdiğini iddia etti. Ancak Altman, OpenAI’nin bazı kısıtlamaları gevşeteceğini, hatta yetişkin kullanıcıların yapay zeka sohbet robotlarıyla erotik konuşmalar başlatmasına izin vereceğini söyledi.
Teknoloji etkinliği
San Francisco
|
27-29 Ekim 2025
Pazartesi günkü duyuruda OpenAI, GPT-5’in yeni güncellenen sürümünün önceki sürüme göre zihinsel sağlık sorunlarına yaklaşık %65 daha fazla “istenen yanıtlar” sağladığını iddia etti. OpenAI, intihara yönelik konuşmalarla ilgili AI yanıtlarını test eden bir değerlendirmede, yeni GPT-5 modelinin istenen şirket davranışıyla %91 tutarlı olduğunu, önceki GPT-5 modelinin ise %77 olduğunu söylüyor.
Şirket ayrıca GPT-5’in en son sürümünün uzun konuşmalarda OpenAI korumalarına daha iyi direnç gösterdiğini de söyledi. OpenAI daha önce korumalarının uzun konuşmalarda daha az etkili olduğunu belirtmişti.
Bu çabalara ek olarak OpenAI, ChatGPT kullanıcılarının en ciddi zihinsel sağlık sorunlarını ölçmek için yeni değerlendirmeler eklediğini söylüyor. Ajans, yapay zeka modellerine yönelik temel güvenlik testlerinin artık psikolojik bağımlılık ve intihar dışı zihinsel sağlık acil durumlarına yönelik kriterleri de içereceğini söyledi.
OpenAI yakın zamanda ChatGPT kullanan çocukların ebeveynleri için daha fazla kontrol uyguladı. Şirket, çocukları otomatik olarak tanımlamak ve daha sıkı güvenlik önlemleri uygulamak için ChatGPT’yi kullanan bir yaş tahmin sistemi geliştirdiğini söyledi.
Yine de ChatGPT’nin etrafındaki zihinsel sağlık sorunlarının ne kadar kalıcı olacağı belli değil. GPT-5, güvenlik açısından önceki yapay zeka modellerine göre bir gelişme gibi görünse de, ChatGPT yanıtlarının hala OpenAI’nin “istenmeyen” olarak değerlendirdiği bir kısmı var. OpenAI, GPT-4o da dahil olmak üzere daha eski ve daha az güvenli yapay zeka modellerini milyonlarca ödeme yapan müşterisinin kullanımına sunmaya devam ediyor.
Siz veya tanıdığınız birinin yardıma ihtiyacı varsa yardım için 1-800-273-8255’i arayın. Ulusal İntiharı Önleme Yaşam Hattı. Ayrıca evinize ücretsiz olarak 741-741’e gönderebilirsiniz; Metin 988; Veya 7/24 destek alın Kriz metin satırı. Amerika Birleşik Devletleri dışında bkz. Uluslararası İntiharı Önleme Derneği Bir kaynak veritabanı için.