Yedi teknoloji şirketi, küçükler için AI chatbot korumalarını açıklamayı emretti

TABD Federal Ticaret Komisyonu Perşembe günü yaptığı açıklamada, bu platformlar popülerlik ve sofistike büyüdükçe reşit olmayanlar için potansiyel riskleri belirterek dijital arkadaşlar olarak hizmet veren AI destekli sohbet botları hakkında bir soruşturma açtığını duyurdu.

Tüketici Koruma Ajansı, Alfabe, Meta, Openai ve SNAP dahil olmak üzere yedi büyük teknoloji şirketine resmi siparişler yayınladı ve insan ilişkilerini simüle etmek için tasarlanmış Chatbot’ların zararlı etkilerini nasıl izledikleri ve azalttıkları hakkında ayrıntılı bilgi talep etti.

Sipariş alan diğer şirketler arasında CHARCE.Ai ve Elon Musk’un Xai Corp’u, diğerlerinin yanı sıra tüketiciye bakan AI chatbots’u işletiyor.

Başkan Andrew Ferguson, “Çevrimiçi çocukları çevrimiçi olarak korumak” FTC için en önemli önceliktir.

2 Ocak 2025 tarihinde Batı Almanya’daki Frankfurt Am Main, Batı Almanya’daki bir akıllı telefon ekranında Chat AI uygulamasının yanındaki bir dizüstü bilgisayar ekranında (R) yapay zeka için AI harfleri. (AFP fotoğrafı)

Düzenleyiciler, reşit olmayanlarla duygusal AI ilişkilerini hedeflemek

Soruşturma, insan konuşmasını ve duygusal tepkileri taklit etmek için üretken AI teknolojisi kullanan, kendilerini kullanıcılara arkadaş veya sırdaş olarak konumlandıran sohbet botlarına odaklanıyor. Federal düzenleyiciler, çocukların ve gençlerin bu AI sistemlerine ek oluşturmaya özellikle duyarlı olabileceğinden endişe ediyorlar.

FTC, geniş soruşturma otoritesi altında şirketlerin kullanıcı katılımından nasıl kâr elde ettiğini, chatbot kişilikleri oluşturmayı ve potansiyel psikolojik zararı değerlendirecek. Ajans ayrıca, firmaların küçüklerin erişimini kısıtlamak ve mevcut çocuk gizlilik korumalarına çevrimiçi olarak uyum sağlamak için hangi önlemleri uyguladıkları hakkında bilgi arar.

Bir akıllı telefon ekranı, 12 Eylül 2025’te erişilen Openai’nin web sitesinde ChatGPT arayüzünü görüntüler. (Adobe Stok Fotoğrafı)

Soruşturma, Openai’ye karşı trajik davayı takip ediyor

Prob, AI Chatbots’un savunmasız kullanıcılar üzerindeki psikolojik etkisi hakkındaki endişelerin ortasında geliyor. Geçen ay, 16 yaşında Nisan ayında intihar eden bir genç olan Adam Raine’in ebeveynleri, Openai’ye karşı bir dava açtı ve Chatgpt’i oğullarına eylemin nasıl gerçekleştirileceği konusunda ayrıntılı talimatlar sunmakla suçladı.

Davanın ardından Openai, sohbet botu için düzeltici önlemler geliştirdiğini açıkladı. San Francisco merkezli şirket, uzun süreli konuşmalar sırasında, CHATGPT’nin kullanıcılar intihar düşünceleri bahsettiğinde artık zihinsel sağlık hizmetleriyle iletişim kurmayı önermediğini kabul etti.

Okumak için daha fazlası

Komisyon oybirliğiyle belirli kolluk kuvvetlerini hedeflemeyen ancak gelecekteki düzenleyici önlemleri bilgilendirebilecek çalışmayı başlatmaya oy verdi.

Araştırma, platformların kullanıcı konuşmalarından kişisel bilgileri nasıl ele alacağını ve AI chatbotlarının kullanıcılarla görünüşte anlamlı ilişkiler kurabilen giderek daha karmaşık bir araç haline gelmesiyle yaş kısıtlamalarını nasıl uygulayacağını inceleyecek.

12 Eylül 2025 08:02 AM GMT+03: 00