OpenAI’nin arkasındaki şirket olan ChatGPT, Kaliforniyalı bir ailenin, chatbot’unun oğullarını kendi canına kıymaya teşvik ettiğini söyleyerek dava açmasından bir ay sonra Pazartesi günü genç hesapları için yeni ebeveyn kontrollerini uygulamaya koydu.
Pazartesi günü başlayacak yeni kontrollerle birlikte ebeveynler, çocuklarının ChatGPT’yi kullanamayacağı belirli zamanlar belirleyebilecek, kullanıcıların sohbet robotuyla etkileşime girmesine olanak tanıyan ses modunu kapatabilecek ve gençlerin sohbet geçmişinin ChatGPT’nin hafızasında saklanmasını önleyebilecek. Diğer bir seçenek de OpenAI’nin ergen verilerini model eğitimi için kullanmasını engellemektir.
OpenAI bir mesajında, “Ebeveyn kontrolleri, ebeveynlerin kendi hesaplarını gençlerin hesabına bağlamasına ve güvenli, yaşa uygun bir deneyim için ayarları özelleştirmesine olanak tanıyor.” dedi. Blog yazısı Yeni özellik duyuruları hakkında.
Ebeveynlerin hesaplarını çocuklarının hesaplarına bağlamaları gerekir Ebeveyn Denetimleri.
Bu yeni kontroller kapsamında, ChatGPT, gençlerin kendilerine zarar verebileceğine dair potansiyel işaretleri tespit ederse, bağımlı hesapların ebeveynleri bilgilendirilecektir. Uzmanlardan oluşan bir ekip, sorun belirtilerini inceleyecek ve ebeveynlerle e-posta, kısa mesaj veya mobil anlık uyarılar aracılığıyla iletişim kuracak.
OpenAI bir blog yazısında, “Hiçbir sistem mükemmel değildir ve bazen gerçek bir tehlike olmadığında alarm verebileceğimizi biliyoruz, ancak harekete geçebilmeleri için ebeveynleri uyarmanın sessiz kalmaktan daha iyi olduğuna inanıyoruz.” dedi.
OpenAI, yaşamına yönelik yakın bir tehdit durumunda bir ebeveynle iletişime geçemezse yetkililerle doğrudan iletişime geçmenin yolları üzerinde çalışıyor. Ebeveynlerin bu yeni kontrollere erişebilmeleri için bir ChatGPT hesabına ihtiyaçları olacak
Bunu ayarlamak için bir ebeveyn, gencin ayarlarına kendi hesabından bir davetiye gönderebilir ve gencin bunu kabul etmesi gerekir, ardından ebeveyn gencin ChatGPT deneyimini kendi hesabından yönetebilir. Gençler ayrıca ebeveynlerini bağlantı kurmaya davet edebilir.
Ebeveynler ve çocuklar hesaplarını bağladıktan sonra genç hesapları, deneyimlerini yaşa uygun tutmaya yardımcı olmak için sansürsüz içeriğin, viral zorlukların, cinsel, romantik veya şiddet içeren rol oynamanın ve aşırı güzellik ideallerinin azaltılması da dahil olmak üzere otomatik olarak ek içerik korumalarına sahip olacak.
Değişiklikler, gençlerin chatbot kullanımına ilişkin düzenleyici ve kamu incelemelerinin arttığı bir dönemde geldi.
Geçen yıl Floridalı bir anne, federal bir davada, 14 yaşındaki oğlunun intiharından Character.AI adlı bir platformdaki başka bir chatbotun sorumlu olduğunu iddia etti.
Şirketi, oğlunun sanal karaktere intihara yönelik düşüncelerini ifade etmesi durumunda kendisine bildirimde bulunmamakla veya yardım teklif etmemekle suçladı. Charachter.AI, insanların gerçek ve kurgusal insanları taklit eden dijital karakterler yaratıp onlarla etkileşime girebildiği, rol oynayan bir sohbet robotu platformudur. Bu yıl daha fazla aile Charachter.AI’ye dava açtı.
Ağustos ayında, 16 yaşındaki Adam Raine’in ebeveynleri, ChatGPT’nin kendilerine gencin intihar girişimlerinden biri de dahil olmak üzere intihar taktikleri hakkında bilgi sağladığını iddia ederek OpenAI’ye dava açtı. Adam, kendine zarar verme düşüncelerini ifade ettiğinde profesyonel yardım almaya teşvik eden ChatGPT-4o’nun ücretli bir sürümünü kullandı. Ayrıntılar yazdığı bir hikayeye ait olduğundan, halihazırda yürürlükte olan güvenlik önlemlerini atlatmayı başardı.
Eylül ayında OpenAI CEO’su Sam Altman, şirketin “gençlerin mahremiyeti ve özgürlüğü yerine güvenliğe öncelik verdiğini” yazdı.
OpenAI’nin 13 yaşın altındaki kullanıcıların hizmetlerini kullanmasını yasaklayan kuralları nedeniyle şirket Pazartesi günü yaptığı açıklamada, kullanıcının 18 yaşın altında olup olmadığını tahmin edecek ve gençlere uygun ayarları otomatik olarak uygulayacak bir “yaş tahmin sistemi” geliştirdiğini duyurdu.
Kaliforniya milletvekilleri, teknoloji endüstrisinin aleyhinde lobi yaptığı iki yapay zeka chatbot koruma yasasını kabul etti.
Vali Gavin Newsom’un Ekim ortasına kadar yasa tasarılarını, Meclis Yasa Tasarısı 1064’ü ve Senato Yasa Tasarısı 243’ü onaylaması veya reddetmesi gerekiyor.
Savunuculuk grupları, OpenAI’de yapılan son değişikliklerin doğru yönde atılmış bir adım olduğunu ve yasanın gerçek anlamda hesap verebilirlik gerektirdiğini belirtti.
Yapay zeka güvenliğini savunan gençlerin öncülüğündeki aktivist koalisyonu Encode AI’nin kamu politikasından sorumlu başkan yardımcısı Adam Bilen, “Bunlar daha geniş bir modeli yansıtıyor: Şirketler ancak hasar meydana geldikten sonra kamuya açık sözler vermek için acele ediyor” dedi. “Artık boş sözlere ihtiyacımız yok; AB 1064 gibi yasa tasarıları da dahil olmak üzere mevzuatta yer alan hesap verebilirliğe ihtiyacımız var.”
Times yazarlarından Queenie Wang bu rapora katkıda bulundu.