Meta, bir CBS haber soruşturmasının yüksek bir yaygınlığı bulduktan sonra ünlü kadın aktörlerin ve sporcuların bir düzineden fazla hileli, cinselleştirilmiş görüntüsünü kaldırdı. AI-Manipüle Deep Lezza Görüntüleri şirketin Facebook platformunda.
Aktörler Miranda Cosgrove, Jeanette McCurdy, Ariana Grande, Scarlett Johansson ve eski tenis yıldızı Maria Sharapova'nın düzinelerce sahte, son derece cinselleştirilmiş görüntüsü, platformda yüz binlerce beğeni ve birçok yeniden katkı toplayan birden fazla Facebook hesabı tarafından yaygın olarak paylaşıldı.
Meta sözcüsü Erin Logan, “Bu görüntüleri politikalarımızı ihlal ettiği için kaldırdık ve diğer ihlal eden görevler için izlemeye devam edeceğiz. Bu endüstri çapında bir meydan okuma ve sürekli olarak tespit ve icra teknolojimizi geliştirmek için çalışıyoruz.” Cuma günü e -postayla gönderilen bir açıklamada.
AI tarafından oluşturulan medyayı tespit etmek için çalışan bir platform olan Reality Defender tarafından bu görüntülerin bir düzineden fazla analizi, fotoğrafların çoğunun derin bir desen görüntüleri olduğunu gösterdi-AI tarafından üretilen, iç çamaşırı kaplı gövdelerle, aksi takdirde ünlülerin bedenlerinin yerini alıyor. gerçek fotoğraflar. Reality Defender'ın analizine göre, görüntülerden birkaçı AI içermeyen görüntü dikiş araçları kullanılarak oluşturuldu.
Reality Defender'ın kurucu ortağı ve CEO'su Ben Colman, Pazar günü Haberler'e verdiği demeçte, “Neredeyse tüm Deepfake pornografisinin konunun derinlemesine verdiği rızaya sahip değil.” Diyerek şöyle devam etti: “Bu tür içerik baş döndürücü bir oranda büyüyor, özellikle bu tür içeriği durdurmak için mevcut önlemler nadiren uygulandığından.”
Haberler, bu hikayede Miranda Cosgrove, Jeanette McCurdy, Ariana Grande ve Maria Sharapova'dan yorumlar aradı. Bir aktör temsilcisine göre Johansson, herhangi bir yorum yapmayı reddetti.
Uzman, yapay zeka ile oluşturulan bir derin kaplama nasıl tespit edileceğini gösterir
02:39
Meta'nın zorbalık ve taciz politikası uyarınca şirket, platformlarında “aşağılayıcı cinselleştirilmiş photoshop veya çizimler” i yasaklıyor. Şirket ayrıca yetişkin çıplaklığı, cinsel aktivite ve yetişkin cinsel sömürüsünü de yasaklamaktadır ve düzenlemeleri, kullanıcıların rıza dışı samimi görüntüleri paylaşmasını veya paylaşmasını engellemeyi engellemeyi amaçlamaktadır. Meta ayrıca AI manipüle edilen içeriği açıkça işaretlemek için “AI bilgi” etiketlerinin kullanımını da sundu.
Ancak, teknoloji şirketinin bu tür içeriği polisliğinin etkinliği üzerine sorular devam ediyor. Haberler, Cosgrave ve McCurdy'nin düzinelerce yapay zeka ve McCurdy'nin, şirketin şartlarını ihlal ederek bu tür içeriğin yaygın olarak paylaşılmasından sonra bile Facebook'ta halka açık olarak bulunduğunu buldu.
Hafta sonu hala devam eden Cosgrave'in böyle bir derin peynir görüntüsü, 2.8 milyon takipçisi ile bir hesap tarafından paylaşıldı.
İki aktör – Haberler'in ana şirketi Paramount Global'e ait olan Nickelodeon'daki her iki eski çocuk yıldızı Icarly'yi gösteriyor – Haberler'in analiz ettiği halka açık figürlerin görüntülerine dayanarak en çok derin peynir içeriği için hedeflenenlerdir.
İnsan hakları ve konuşma özgürlüğü alanındaki uzmanlardan oluşan ve Meta platformlarında içerik denetimi için önerilerde bulunan yarı bağımsız bir organ olan Meta's Gözetim Kurulu, Haberler'e, şirketin cinselleştirilmiş derin peynir içeriği içeriği etrafındaki mevcut düzenlemelerin e-postayla yapılan bir açıklamada. yetersizdir.
Gözetim Kurulu, geçtiğimiz yıl Meta'ya yaptığı önerileri belirtti, bu da şirketi, “römork olmayan cinselleştirilmiş photoshop'a” karşı yasağı güncelleyerek kurallarını daha açık hale getirmeye çağırmak ve özellikle “rıza dışı” kelimesini içerecek şekilde diğer fotoğraf manipülasyonunu kapsayacak şekilde belirtti. AI gibi teknikler.
Kurul ayrıca Meta'nın “aşağılayıcı cinselleştirilmiş photoshop” üzerindeki yasağını şirketin yetişkin cinsel sömürü düzenlemelerine katlamasını önerdi, bu nedenle bu tür içeriğin ılımlılığı daha titiz bir şekilde uygulanacaktır.
Pazartesi günü Haberler tarafından kurulun önerileri hakkında soruldu, Meta, Şeffaflık web sitesinde şirketin önerileri şimdiye kadar reddettiğini gösteren yönergelere dikkat çekti, ancak Meta ifadesinde hala rıza eksikliğine işaret etmenin yollarını düşündüğünü belirtti. AI üretilen görüntüler. Meta ayrıca, yetişkin cinsel sömürü politikalarında, kurulun önerilerinin “ruhunu yakalamasının” reformlarını düşündüğünü söyledi.
“Gözetim kurulu, rıza dışı derin peynir samimi görüntülerinin, kadınlara ve kızlara orantısız bir şekilde zarar veren, gizlilik ve kişisel haysiyetin ciddi bir ihlali olduğunu açıkça ortaya koydu. Bu görüntüler sadece teknolojinin kötüye kullanılması değil, aynı zamanda kalıcı olabilecek bir istismar biçimidir. Sonuçlar, “Gözetim Kurulu eş başkanı Michael McConnell Cuma günü Haberler'e verdiği demeçte.
McConnell, “Kurul Meta'nın tepkisini aktif olarak izliyor ve daha güçlü güvenceler, daha hızlı uygulama ve daha fazla hesap verebilirlik için zorlamaya devam edecek.” Dedi.
Meta, yaygın, cinselleştirilmiş derin kaplama içeriği konusuyla yüzleşen tek sosyal medya şirketi değildir.
Geçen yıl, Elon Musk'ın Platformu X, AI tarafından oluşturulan sahte pornografik görüntülerden sonra şarkıcının benzerliğinde platformda geniş çapta dolaşan ve milyonlarca görüntüleme ve izlenim topladıktan sonra Taylor Swift ile ilgili aramaları geçici olarak engelledi.
Platformun güvenlik ekibi, o zamanlar bir yazıda, “Görsel olmayan çıplaklık (NCN) görüntüleri yayınlamak X'te kesinlikle yasaktır ve bu tür içeriğe yönelik sıfır tolerans politikamız var.” Dedi.
İngiltere hükümeti tarafından bu ayın başlarında yayınlanan bir araştırma, sosyal medya platformlarında derin birleşme görüntülerinin sayısının hızlı bir oranda genişlediğini ve hükümetin 2023'te 500.000'den bu yıl 8 milyon derin kalanın paylaşılacağını öngördüğünü buldu.
Haberler'ten daha fazlası
Emmet Lyons
Emmet Lyons, Haberler London Bürosunda bir haber masası editörüdür ve tüm CBS haber platformları için hikayeler koordine eder ve üretir. Haberler'e katılmadan önce Emmet, dört yıl boyunca CNN'de yapımcı olarak çalıştı.
Aktörler Miranda Cosgrove, Jeanette McCurdy, Ariana Grande, Scarlett Johansson ve eski tenis yıldızı Maria Sharapova'nın düzinelerce sahte, son derece cinselleştirilmiş görüntüsü, platformda yüz binlerce beğeni ve birçok yeniden katkı toplayan birden fazla Facebook hesabı tarafından yaygın olarak paylaşıldı.
Meta sözcüsü Erin Logan, “Bu görüntüleri politikalarımızı ihlal ettiği için kaldırdık ve diğer ihlal eden görevler için izlemeye devam edeceğiz. Bu endüstri çapında bir meydan okuma ve sürekli olarak tespit ve icra teknolojimizi geliştirmek için çalışıyoruz.” Cuma günü e -postayla gönderilen bir açıklamada.
AI tarafından oluşturulan medyayı tespit etmek için çalışan bir platform olan Reality Defender tarafından bu görüntülerin bir düzineden fazla analizi, fotoğrafların çoğunun derin bir desen görüntüleri olduğunu gösterdi-AI tarafından üretilen, iç çamaşırı kaplı gövdelerle, aksi takdirde ünlülerin bedenlerinin yerini alıyor. gerçek fotoğraflar. Reality Defender'ın analizine göre, görüntülerden birkaçı AI içermeyen görüntü dikiş araçları kullanılarak oluşturuldu.
Reality Defender'ın kurucu ortağı ve CEO'su Ben Colman, Pazar günü Haberler'e verdiği demeçte, “Neredeyse tüm Deepfake pornografisinin konunun derinlemesine verdiği rızaya sahip değil.” Diyerek şöyle devam etti: “Bu tür içerik baş döndürücü bir oranda büyüyor, özellikle bu tür içeriği durdurmak için mevcut önlemler nadiren uygulandığından.”
Haberler, bu hikayede Miranda Cosgrove, Jeanette McCurdy, Ariana Grande ve Maria Sharapova'dan yorumlar aradı. Bir aktör temsilcisine göre Johansson, herhangi bir yorum yapmayı reddetti.
Uzman, yapay zeka ile oluşturulan bir derin kaplama nasıl tespit edileceğini gösterir
02:39
Meta'nın zorbalık ve taciz politikası uyarınca şirket, platformlarında “aşağılayıcı cinselleştirilmiş photoshop veya çizimler” i yasaklıyor. Şirket ayrıca yetişkin çıplaklığı, cinsel aktivite ve yetişkin cinsel sömürüsünü de yasaklamaktadır ve düzenlemeleri, kullanıcıların rıza dışı samimi görüntüleri paylaşmasını veya paylaşmasını engellemeyi engellemeyi amaçlamaktadır. Meta ayrıca AI manipüle edilen içeriği açıkça işaretlemek için “AI bilgi” etiketlerinin kullanımını da sundu.
Ancak, teknoloji şirketinin bu tür içeriği polisliğinin etkinliği üzerine sorular devam ediyor. Haberler, Cosgrave ve McCurdy'nin düzinelerce yapay zeka ve McCurdy'nin, şirketin şartlarını ihlal ederek bu tür içeriğin yaygın olarak paylaşılmasından sonra bile Facebook'ta halka açık olarak bulunduğunu buldu.
Hafta sonu hala devam eden Cosgrave'in böyle bir derin peynir görüntüsü, 2.8 milyon takipçisi ile bir hesap tarafından paylaşıldı.
İki aktör – Haberler'in ana şirketi Paramount Global'e ait olan Nickelodeon'daki her iki eski çocuk yıldızı Icarly'yi gösteriyor – Haberler'in analiz ettiği halka açık figürlerin görüntülerine dayanarak en çok derin peynir içeriği için hedeflenenlerdir.
İnsan hakları ve konuşma özgürlüğü alanındaki uzmanlardan oluşan ve Meta platformlarında içerik denetimi için önerilerde bulunan yarı bağımsız bir organ olan Meta's Gözetim Kurulu, Haberler'e, şirketin cinselleştirilmiş derin peynir içeriği içeriği etrafındaki mevcut düzenlemelerin e-postayla yapılan bir açıklamada. yetersizdir.
Gözetim Kurulu, geçtiğimiz yıl Meta'ya yaptığı önerileri belirtti, bu da şirketi, “römork olmayan cinselleştirilmiş photoshop'a” karşı yasağı güncelleyerek kurallarını daha açık hale getirmeye çağırmak ve özellikle “rıza dışı” kelimesini içerecek şekilde diğer fotoğraf manipülasyonunu kapsayacak şekilde belirtti. AI gibi teknikler.
Kurul ayrıca Meta'nın “aşağılayıcı cinselleştirilmiş photoshop” üzerindeki yasağını şirketin yetişkin cinsel sömürü düzenlemelerine katlamasını önerdi, bu nedenle bu tür içeriğin ılımlılığı daha titiz bir şekilde uygulanacaktır.
Pazartesi günü Haberler tarafından kurulun önerileri hakkında soruldu, Meta, Şeffaflık web sitesinde şirketin önerileri şimdiye kadar reddettiğini gösteren yönergelere dikkat çekti, ancak Meta ifadesinde hala rıza eksikliğine işaret etmenin yollarını düşündüğünü belirtti. AI üretilen görüntüler. Meta ayrıca, yetişkin cinsel sömürü politikalarında, kurulun önerilerinin “ruhunu yakalamasının” reformlarını düşündüğünü söyledi.
“Gözetim kurulu, rıza dışı derin peynir samimi görüntülerinin, kadınlara ve kızlara orantısız bir şekilde zarar veren, gizlilik ve kişisel haysiyetin ciddi bir ihlali olduğunu açıkça ortaya koydu. Bu görüntüler sadece teknolojinin kötüye kullanılması değil, aynı zamanda kalıcı olabilecek bir istismar biçimidir. Sonuçlar, “Gözetim Kurulu eş başkanı Michael McConnell Cuma günü Haberler'e verdiği demeçte.
McConnell, “Kurul Meta'nın tepkisini aktif olarak izliyor ve daha güçlü güvenceler, daha hızlı uygulama ve daha fazla hesap verebilirlik için zorlamaya devam edecek.” Dedi.
Meta, yaygın, cinselleştirilmiş derin kaplama içeriği konusuyla yüzleşen tek sosyal medya şirketi değildir.
Geçen yıl, Elon Musk'ın Platformu X, AI tarafından oluşturulan sahte pornografik görüntülerden sonra şarkıcının benzerliğinde platformda geniş çapta dolaşan ve milyonlarca görüntüleme ve izlenim topladıktan sonra Taylor Swift ile ilgili aramaları geçici olarak engelledi.
Platformun güvenlik ekibi, o zamanlar bir yazıda, “Görsel olmayan çıplaklık (NCN) görüntüleri yayınlamak X'te kesinlikle yasaktır ve bu tür içeriğe yönelik sıfır tolerans politikamız var.” Dedi.
İngiltere hükümeti tarafından bu ayın başlarında yayınlanan bir araştırma, sosyal medya platformlarında derin birleşme görüntülerinin sayısının hızlı bir oranda genişlediğini ve hükümetin 2023'te 500.000'den bu yıl 8 milyon derin kalanın paylaşılacağını öngördüğünü buldu.
Haberler'ten daha fazlası
Emmet Lyons
Emmet Lyons, Haberler London Bürosunda bir haber masası editörüdür ve tüm CBS haber platformları için hikayeler koordine eder ve üretir. Haberler'e katılmadan önce Emmet, dört yıl boyunca CNN'de yapımcı olarak çalıştı.