Üretken yapay zekâ araçları, gerçek kişileri taklit eden sahte fotoğraf, video ve ses içeriklerinin hızlı ve düşük maliyetle oluşturulmasını mümkün hale getirdi. Eğlence veya şaka amacıyla hazırlanan içeriklerin yanı sıra deepfake teknolojisi dolandırıcılık, şantaj, taciz ve kimlik sahtekârlığı gibi amaçlarla da kullanılabiliyor. Çocuklar da bu tür içeriklerin hedefleri arasında yer alıyor.

Siber güvenlik şirketi ESET, deepfake mağdurlarının karşılaştıkları içeriklerin kaldırılması için başvurabilecekleri yöntemlere ilişkin bir rehber yayımladı.

Deepfake mağduru olduysanız ne yapmalısınız?

Rıza dışı samimi görüntü kapsamına girmeyen bir deepfake ile karşılaşılması durumunda ilk adım, içeriğe ilişkin kanıtları saklamak. Sayfanın veya hesabın ekran görüntüsü alınmalı, URL kaydedilmeli ve hesap ya da kullanıcı adı, içeriğin fark edildiği tarih ve saat ile birlikte paylaşımda yer alan metin not edilmeli.

İçeriği paylaşan kişiyle iletişime geçilmemesi öneriliyor. Böyle bir etkileşim, içeriğin daha fazla yayılmasına neden olabilir. Deepfake’in yanı sıra olayın parçası olabilecek kimlik sahtekârlığı, dolandırıcılık, şantaj veya tehditler de ilgili platformlara ve yetkili kurumlara bildirilmeli. Fiziksel bir tehdit söz konusuysa polise başvurulması gerekiyor.

Deepfake fotoğraf veya video nasıl bildirilir?

Çevrimiçi platformların çoğunda deepfake içeriklere ilişkin bildirim seçenekleri bulunuyor. Ancak genellikle bunun için tek bir bildirim kategorisi bulunmuyor. Kullanıcının, içeriğin neden sorun teşkil ettiğini açıklayarak uygun ihlal kategorisini seçmesi gerekiyor.

* Google: NCII kapsamı dışında kalan içerikler için Google’ın kişisel bilgilerin kaldırılmasına yönelik aracı ve yasal kaldırma talebi formu kullanılabilir. Bu işlem içeriğin bulunduğu asıl web sitesindeki yayını kaldırmaz, ancak arama sonuçlarında bulunmasını zorlaştırabilir.

* Facebook: Gönderi veya video açıldıktan sonra ⋯ → Gönderiyi/videoyu bildir seçeneği kullanılabilir. Kimlik sahtekârlığı veya taciz gibi uygun kategori seçilerek içeriğin yapay zekâyla oluşturulduğu ve neden aldatıcı veya zararlı olduğu açıklanabilir.

* Instagram: İlgili içerikte bildirim seçeneği açılarak uygun neden seçilebilir.

* TikTok: Paylaş → Bildir → Yanlış bilgi → Deepfake’ler, sentetik medya ve manipüle edilmiş medya adımları izlenebilir.

* YouTube: Yapay zekâyla kişinin görünüşü veya sesinin taklit edildiği ya da değiştirildiği içerikler için değiştirilmiş veya sentetik içeriklere yönelik Gizlilik Şikâyeti Süreci üzerinden kaldırma talebinde bulunulabilir.

* X: İlgili gönderide Gönderiyi bildir seçeneği kullanılarak bildirim yapılabilir. İçeriğin yapay zekâyla oluşturulduğu ve neden sorun teşkil ettiği bildirim sırasında açıklanabilir.

Rıza dışı samimi görüntüler için hangi yollar izlenebilir?

Rıza dışı samimi görüntülerde hızlı hareket edilmesi gerekiyor. Bu kapsamda uluslararası yardım kuruluşu SWGfL bünyesindeki Revenge Porn Helpline tarafından işletilen StopNCII.org kullanılabilir. Kullanıcı, sorun oluşturan fotoğraf veya videoyu seçtiğinde sistem cihaz üzerinde içeriğin bir hash değerini oluşturuyor. Bildirim tamamlandığında bir vaka numarası veriliyor.

Katılımcı platformlar, oluşturulan hash değerini kendi sistemlerinde arayarak politikalarını ihlal eden eşleşmeleri kaldırabiliyor. Meta, TikTok, Reddit ve X bu sisteme katılan platformlar arasında bulunuyor. İçeriğin arama sonuçlarında görünmesini zorlaştırmak için Google Arama’dan kaldırılması da ayrıca talep edilebiliyor.

18 yaşından küçük kişilere ait görüntü ve videolar için ise TakeItDown.NCMEC.org benzer bir sistem sunuyor.

Web sitesi içeriği kaldırmıyorsa ne yapılmalı?

Google bir deepfake içeriğini arama sonuçlarından çıkarsa bile görüntü veya video asıl web sitesinde bulunmaya devam edebilir. Bu durumda öncelikle içeriği yayımlayan kişi veya kuruluşla iletişime geçilerek kaldırılması talep edilmeli.

Talebin reddedilmesi halinde ekran görüntüleri, URL, içeriğin ilk fark edildiği tarih ve saat, web sitesinin talebe verdiği yanıt ve içeriği yükleyen hesabın bilgileri saklanmalı.

Ardından web sitesinin hukuk, gizlilik veya telif hakkı iletişim kanallarından birine başvurularak görüntü veya videonun kişiyi tasvir ettiği ve rıza olmadan yayımlandığı belirtilmeli. İçeriğin, sitenin politikaları veya yürürlükteki yerel yasalar kapsamında kaldırılması talep edilmeli ve işlemin tamamlandığına ilişkin yazılı teyit istenmeli.

Birleşik Krallık ve Avrupa Birliği’nde başvurular, GDPR’nin 17. maddesinde düzenlenen silme hakkına dayandırılabilir. Talebin reddedilmesi veya herhangi bir işlem yapılmaması halinde konu ilgili veri koruma kurumuna taşınabilir. Yerel kolluk kuvvetleri veya ilgili birimlere de başvurulabilir.

Yasal düzenlemeler ne diyor?

ABD’de yürürlüğe giren TAKE IT DOWN Yasası, rıza dışı samimi görüntülerin (NCII) dağıtımını suç kapsamına aldı. Yasa, çevrimiçi platformlara bildirim mekanizmaları oluşturma ve usulüne uygun şekilde bildirilen görüntüleri 48 saat içinde kaldırma yükümlülüğü getiriyor.

Birleşik Krallık’ta Data Act ve Online Safety Act, NCII oluşturulmasını suç kapsamına alırken kaldırma konusunda 48 saatlik süre öngörüyor. Avrupa Birliği’nde ise AB Yapay Zekâ Yasası, rıza dışı samimi görüntülerin oluşturulmasına özel olarak tasarlanmış sistemlere yönelik bir yasak getiriyor. Bireylerin gerçekleştirdiği eylemler bakımından ise uygulanacak kurallar üye ülkelerin kendi mevzuatına göre değişiyor.

Çocuğa ait görüntüler söz konusu olduğunda ise birçok ülkede daha ağır hukuki sonuçlar doğabiliyor. NCII dışındaki deepfake içeriklerin hukuki durumu da oluşturulma ve kullanılma amacına göre değişiyor. Rıza olmadan dağıtılan veya dolandırıcılık, şantaj, iftira, taciz ya da kimlik sahtekârlığı gibi amaçlarla kullanılan içerikler bazı durumlarda yasa dışı kabul edilebiliyor.

Platformlar, arama motorları, web siteleri veya düzenleyici kurumlarla iletişime geçerken yalnızca içeriğin yapay zekâyla üretildiğini belirtmek yeterli olmayabilir. İçeriğin neden zararlı, aldatıcı veya hukuka aykırı olduğunun açık şekilde ortaya konulması önem taşıyor. İçeriğin kaldırılması için arama motoru, sosyal medya platformu, ilgili web sitesi ve gerektiğinde düzenleyici kurumlara aynı anda başvurulması da süreci hızlandırabilir.