Yapay zeka tarafından oluşturulan video Ünlülerin derin sahtekarlıklarından ve sahte felaket yayınlarından trambolinlerdeki tavşanların viral videolarına kadar her yerdeler. ChatGPT’nin ana şirketi OpenAI’nin yapay zeka video oluşturucusu Sora, gerçeği kurgudan ayırmayı zorlaştırdı. ve Sora 2 modeli, Yeni sosyal medya uygulamasıHer geçen gün daha da sofistike hale geliyor.
Son aylarda TikTok benzeri uygulama viral hale geldi ve yapay zeka meraklıları davet kodlarını bulmaya kararlı. Ancak Sora diğer sosyal medya platformlarına benzemiyor. Sora’da gördüğünüz her şey sahtedir ve tüm videolar yapay zeka tarafından oluşturulmuştur. bunu şu şekilde tarif ediyorum AI ile Deepfake ateşli rüyalarİlk bakışta masum görünen tehlikeli riskler yüzeyin hemen altında gizleniyor.
Tarafsız teknoloji içeriğimizi ve laboratuvar incelemelerimizi kaçırmayın. Tercih edilen Google kaynağı olarak CNET’i ekleyin
Teknik açıdan Sora’nın videoları rakipleriyle karşılaştırıldığında etkileyici Yolculuk Ortası V1 Ve Google’dan 3 tane görüyorum. Yüksek çözünürlüğe, senkronize sese ve muhteşem yaratıcılığa sahiptirler. Sora’nın “Cameo” adı verilen en popüler özelliği, diğer kişilerin fotoğraflarını kullanmanıza ve bunları neredeyse yapay zeka tarafından oluşturulan herhangi bir sahneye eklemenize olanak tanır. İnanılmaz derecede gerçekçi videolarla sonuçlanan etkileyici bir araçtır.
Bu nedenle birçok uzman sedef hastalığından endişe duymaktadır. Uygulama, herkesin deepfake oluşturmasını, yanlış bilgi yaymasını ve gerçek ile gerçek olmayan arasındaki çizgiyi bulanıklaştırmasını tehlikeli hale getiriyor. Kamuya mal olmuş kişiler ve ünlüler bu deepfake ve benzeri sendikalara karşı özellikle savunmasızdır SAG-AFTRA, OpenAI’yi güvenlik bariyerlerini güçlendirmeye zorladı.
Yapay zeka içeriğini belirlemek teknoloji şirketleri, sosyal medya platformları ve aradaki herkes için süregelen bir zorluktur. Ama tamamen işe yaramaz değil. Sora ile video oluşturup oluşturmayacağınıza karar verirken aklınızda bulundurmanız gereken bazı noktalar:
Sora’nın filigranını bulun.
Sora iOS uygulamasında oluşturulan her video, indirdiğinizde bir filigran içerir. Bu, Sora’nın videonun kenarlarında zıplayan beyaz logosu, bir bulut simgesi. Bu, TikTok videolarının filigranlanmasına benzer.
Filigranlı içerik, yapay zeka şirketlerinin yapay zeka tarafından oluşturulan içeriği tanımlamamıza yardımcı olabileceği en önemli yollardan biridir. Örneğin Google’ın Gemini “Nano Banana” modeli, resimlerinize otomatik olarak filigran ekler. Filigranlar harikadır çünkü içeriğin yapay zeka yardımıyla oluşturulduğunun açık bir işareti olarak hizmet ederler.
Ancak filigranlama mükemmel değildir. Bir yandan filigran statikse (hareket etmiyorsa) kolaylıkla kırpılabilir. Sora gibi filigranları kaldırmak için bile bunları kaldırmak üzere özel olarak tasarlanmış uygulamalar vardır, bu nedenle filigranlara tek başına tamamen güvenilemez. OpenAI CEO’su Sam Altman’a bu konu sorulduğunda toplumun, herkesin birinin sahte videosunu çekebileceği bir dünyaya uyum sağlaması gerektiğini söyledi. Elbette OpenAI’nin Sora’sından önce bu tür videolar oluşturmanın popüler, kolay erişilebilir, beceri gerektirmeyen bir yolu yoktu. Ancak argümanınız, orijinalliği doğrulamak için diğer yöntemlere güvenme ihtiyacı konusunda geçerli bir noktaya değiniyor.
Meta verileri kontrol edin
Biliyorum, muhtemelen bir videonun gerçek olup olmadığını belirlemek için meta verilerini kontrol etmenin bir yolu olmadığını düşünüyorsunuz, nereden geldiğinizi anlıyorum; Bu fazladan bir adımdır ve nereden başlayacağınızı bilemeyebilirsiniz. Ancak bu, bir videonun Sora ile oluşturulup oluşturulmadığını belirlemenin harika bir yoludur ve bunu yapmak düşündüğünüzden daha kolaydır.
Meta veriler, içerik oluşturulduğunda otomatik olarak eklenen bir bilgi koleksiyonudur. Bir fotoğrafın veya videonun nasıl oluşturulduğu hakkında size daha fazla bilgi verir Bu, fotoğrafı çekmek için kullanılan kameranın türünü, konumunu, videonun çekildiği tarih ve saati ve dosya adını içerebilir. İster insanlar ister yapay zeka tarafından oluşturulmuş olsun, her fotoğraf ve videonun meta verileri vardır. Yapay zeka tarafından oluşturulan pek çok içerik, aynı zamanda yapay zeka kökenini de belirten içerik sertifikalarına sahip olacak.
OpenAI, İçerik Kaynağı ve Orijinallik Koalisyonu’nun bir parçasıdır; bu, Sora videosunun C2PA meta verilerini içerdiği anlamına gelir. Bir videonun, görselin veya belgenin meta verilerini doğrulamak için Content Authenticity Initiative doğrulama aracını kullanabilirsiniz. Bu şekilde (İçerik kimlik doğrulama girişimi C2PA’nın bir parçasıdır.)
Bir fotoğrafın, videonun veya belgenin meta verileri nasıl kontrol edilir:
1. Bu URL’ye gidin:
2. Doğrulamak istediğiniz dosyayı yükleyin.
3. Aç’ı tıklayın.
4. Sağ taraftaki paneldeki bilgileri kontrol edin. Yapay zeka tarafından oluşturulmuşsa içerik özeti bölümüne eklemelisiniz.
Bu araç aracılığıyla bir Sora videosu oynattığınızda, videonun “OpenAI Tarafından Yayınlandı” olduğu ve bunun AI tarafından oluşturulduğu belirtilecektir. Tüm Sora videoları, Sora ile oluşturulduğunu onaylamanıza olanak tanıyan bu sertifikalara sahip olmalıdır.
Bu araç, tüm AI dedektörleri gibi mükemmel değildir. Yapay zeka videolarının tespit edilmesini önlemenin birçok yolu vardır. Sora olmayan başka videolarınız varsa aracın meta verileri, bunların yapay zeka tarafından oluşturulup oluşturulmadığını belirlemek için gerekli sinyalleri içermeyebilir. Örneğin Midjourney ile oluşturulan AI videoları, testlerimde onayladığım gibi işaretlenmiyor. Video Sora tarafından oluşturulmuş, ancak daha sonra üçüncü taraf bir uygulama (filigran kaldırıcı gibi) aracılığıyla çalıştırılıp yeniden indirilmiş olsa bile, aracın onu AI olarak işaretleme olasılığı daha düşüktür.
Content Authenticity Initiative doğrulama aracı, Sora ile oluşturduğum bir videonun yapay zeka tarafından oluşturulduğunu, oluşturduğum tarih ve saatle birlikte doğru bir şekilde işaretledi.
Diğer AI etiketlerini arayın ve kendinizinkini ekleyin
Instagram veya Facebook gibi büyük sosyal medya platformlarından birindeyseniz bir şeyin yapay zeka olup olmadığını belirleme konusunda biraz yardım alabilirsiniz. Meta, AI içeriğini işaretlemeye ve etiketlemeye yardımcı olacak dahili sistemlere sahiptir. Bu sistemler mükemmel değil ancak işaretlenen gönderilerin etiketlerini açıkça görebilirsiniz. TikTok ve YouTube’un AI içeriğini etiketleme konusunda benzer politikaları vardır.
Bir şeyin yapay zeka tarafından üretilip üretilmediğini bilmenin tek gerçekten güvenilir yolu, yaratıcının onu ortaya çıkarmasıdır. Artık pek çok sosyal medya platformu, kullanıcıların gönderilerini yapay zeka tarafından oluşturulmuş olarak etiketlemelerine olanak tanıyan ayarlar sunuyor. Başlıktaki basit bir açıklama veya açıklama bile herkesin bir şeyin nasıl yaratıldığını anlamasına yardımcı olmak için uzun bir yol kat edebilir.
Sora’da gezinirken hiçbir şeyin gerçek olmadığını biliyorsunuz. Ancak uygulamadan çıkıp yapay zeka tarafından oluşturulan bir videoyu paylaştığınızda, videonun nasıl oluşturulduğunu açıklamak bizim ortak sorumluluğumuzdur. Sora gibi yapay zeka modelleri gerçeklik ile yapay zeka arasındaki çizgiyi bulanıklaştırmaya devam ediyor; bir şeyin gerçek mi yoksa yapay zeka mı olduğunu mümkün olduğunca açık hale getirmek hepimizin görevi.
En önemlisi dikkatli olmak
Bir videonun gerçek mi yoksa yapay zeka mı olduğunu bir bakışta doğru bir şekilde anlamanın kesin bir yolu yok. Kandırılmamak için yapabileceğiniz en iyi şey, çevrimiçi ortamda gördüğünüz her şeye otomatik olarak ve sorgusuz sualsiz inanmamaktır. İçgüdülerinizi takip edin: Eğer bir şey size gerçekçi gelmiyorsa, muhtemelen öyledir. Bu benzeri görülmemiş, AI dolu zamanlarda en iyi savunmanız, izlediğiniz videoları daha yakından incelemektir. Hızlı bakıp düşünmeden kaydırmayın. Bozuk metinleri, kaybolan nesneleri ve fiziğe meydan okuyan hareketleri kontrol edin. Ve zaman zaman sizi aldatırlarsa kendinizi hırpalamayın; Uzmanlar bile hata yapar.
(Açıklama: CNET’in ana şirketi Jeff Davis, AI sistemlerini eğiterek ve çalıştırarak Jeff Davis’in telif hakkını ihlal ettiği iddiasıyla Nisan ayında OpenAI’ye karşı bir dava açtı.)