Yapay zekânın ilerleme hızı ve yapabileceklerinin sınırsızlığı her geçen gün bizi hayrete düşürüp heyecanlandırıyor. Ancak bu sınırsızlık, pedofili gibi korkunç olgulara da hizmet edebiliyor.
Deepfake pornografi görüntüleri geçtiğimiz günlerde Taylor Swift’in manipüle edilmiş görsellerinin viral olmasıyla bir kez daha gündeme geldi. Aslında bu, buzdağının yalnızca görünen kısmı. Üstelik en korkuncu da hukukun deepfake ile mücadele etme konusunda epey geriden geliyor olması.
Sahte pornografik görüntülerin tek hedefi ünlü kadınlar ya da reşit insanlar değil. Görsel olarak dijitalde var olan çocuklar da oldukça tehlikede. Geçtiğimiz yıla damgasına vuran ve hâlâ çözülememiş bir dosya İspanya’dan.
İspanya’nın küçük kasabalarından biri olan Almendralejo’da kız öğrencilerin yapay zeka destekli bir uygulama ile üretilen çıplak görüntüleri diğer öğrenciler tarafından kurulan bir WhatsApp grubunda haftalarca dolaşmış ve ülkenin gündemine oturmuştu.
Görüntüleri yayılan kızlardan bazıları okula gitmeyi reddediyor, panik atak geçiriyor, şantaja uğruyor ve toplum içinde zorbalığa maruz kalıyordu. Aileler görüntülerin pornografik sitelere ulaşmış olmasından endişe duyuyordu. Eyalet savcıları ise bazı çocuklar hakkında suç duyurusunda bulunmaya hazırlanıyordu. Ancak savcılar, uygulamayı geliştiren ve Doğu Avrupa'da bir yerde bulunduklarından şüphelendikleri kişilerin kimliklerini tespit edemedi.
Küçük bir kasaba olan Almendralejo, yapay zeka araçlarının herkesin birkaç tıklamayla hiper-gerçekçi görüntüler oluşturmasına olanak tanıdığı yakın bir geleceğe ait bir dizi uyarı atışının yapıldığı yer haline geldi.
Aynı sıralarda New Jersey'deki Westfield isimli lisede, çarpıcı bir şekilde benzer bir vaka yaşanıyordu. Sınıflarındaki öğrenciler tarafından oluşturulan pornografik deepfake görüntülerin hedefi olan birçok kız çocuğu aynı anksiyete ile başa çıkmaya çalıştı.
New Jersey'deki olay bir hukuk davasına yol açtı ve ABD Kongresi'nde rızaya dayalı olmayan deepfake görüntülerin yaratılması ve yayılmasının yasaklanmasına yönelik iki partili bir çabayı körüklemeye yardımcı oldu.
Hem İspanya hem de New Jersey'deki olayların merkezinde ClothOff adlı aynı uygulama vardı…
Uygulamanın piyasaya sürülmesinden bu yana geçen bir yıl içinde, ClothOff'u yöneten kişiler anonimliklerini korudu. Medyanın sorularını yanıtlamak için seslerini dahi gizlediler, ayrıca CEO'ları olduğunu iddia ettikleri tamamen sahte bir kişi oluşturmak için yine yapay zeka kullandılar.
The Guardian, 6 ay boyunca ClothOff’un kurucularının peşine düştü ve iki ülkede de yürütülen davalarda yararlanılması muhtemel koca bir dosya ortaya çıkardı.
Şu an için kurucuların izleri Belarus ve Rusya'ya kadar uzanıyor ancak Avrupa'da kayıtlı işletmeler ve Londra'nın kalbinde yerleşik paravan şirketler üzerinden çalışan karmaşık bir ağa da sahipler.
Web sitesi ayda 4 milyondan fazla ziyaret alan ClothOff, kullanıcıları "yapay zeka kullanarak herkesi soymaya" davet ediyor. Uygulama, kullanıcının 18 yaşından büyük olduğunu onaylayan bir butona tıklayarak kolayca erişilebilir durumda. 25 kredi için yaklaşık 8,50 £ gibi bir ücretlendirme alıyor.
İlk buluntular Belarus'ta bir erkek ve kız kardeşin ortak ürünü olduğunu gösteriyor…
The Guardian tarafından görülen ekran görüntüleri, sosyal medya hesaplarından 20'li yaşlarının ortasında olduğu ve Belarus'un başkenti Minsk'te yaşadığı anlaşılan Dasha Babicheva adına açılmış bir Telegram hesabının ClothOff adına bankalara yapılan başvurular, web sitesinde yapılan değişiklikler ve iş ortaklıkları da dahil olmak üzere çeşitli işler yürüttüğünü gösteriyor.
Bir ekran görüntüsünde, Babicheva'nın adına açılan hesap, başka bir firmadaki meslektaşına, gazetecilerin ClothOff hakkında soruları olması halinde, "web sitesinin basın irtibat bilgilerini vererek bu e-posta üzerinden iletişime geçebileceklerini" söylüyor.
Babicheva'nın adına açılmış olan ve Telegram hesabıyla aynı görüntüleri paylaşan ve aynı telefon numarasını listeleyen Instagram hesabı, Guardian'ın soruşturma başlatmasının ardından gizli hale getirildi ve telefon numarası profilden silindi.
Babicheva ayrıntılı sorulara yanıt vermedi. Sosyal medya hesaplarında Dasha Babicheva'nın kardeşi olarak tanımlanan 30 yaşındaki Alaiksandr Babichau'nun da ClothOff ile yakından bağlantılı olduğu görülüyor.
Bir işe alım ilanında ClothOff, başvuru sahiplerini AI-Imagecraft web sitesindeki bir e-posta adresine yönlendiriliyor. AI-Imagecraft için alan adı kayıtları, web sitesi sahibinin adının sahibinin isteği üzerine gizlendiğini gösteriyor.
Ancak AI-Imagecraft'ın, sahibi gizlenmemiş olan ve Babichau olarak listelenen A-Imagecraft adlı neredeyse aynı bir kopya web sitesi mevcut. The Guardian ekibi aynı kullanıcı adı ve şifreyi kullanarak hem A-Imagecraft hem de AI-Imagecraft'a giriş yapabildi, bu da iki web sitesinin bağlantılı olduğunu gösteriyor.
Babichau ve ClothOff arasında başka bağlantılar da var. The Guardian, ClothOff personeli ile potansiyel bir iş ortağı arasındaki konuşmaların ekran görüntülerini inceledi. ClothOff personeli sadece ilk isimleriyle tanımlanıyor ve başka bir personel tarafından "kurucu" olarak tanımlanan birinin Telegram ekran adı "Al".
Guardian, Al'ın Telegram hesabında yayınlanan videoları Alaiksandr Babichau adına bir hesapta yayınlanan kamuya açık görüntülerle karşılaştırarak hem Al'ın hem de Babichau'nun 24 Ocak'ta Macau'daki aynı otelden ve 26 Ocak'ta Hong Kong'daki aynı otelin odalarından video ve fotoğraflar yüklediğini fark etti. Bu korelasyon, iki hesabın ya aynı anda bu şehirlere seyahat eden kişilere ya da aynı kişiye ait olduğu tablosunu kolayca çizdi.
Geçen hafta telefonla ulaşılan Babichau, deepfake uygulamasıyla herhangi bir bağlantısı olmadığını söyledi, Dasha adında bir kız kardeşi olmadığını iddia etti ve telefon numarasının yer aldığı Telegram hesabının kendisine ait olmadığını aktardı. Daha sonraki sorulara yanıt olarak, telefon görüşmesini aniden sonlandırdı ve e-posta yoluyla ayrıntılı sorulara yanıt vermedi.
Konuşmadan kısa bir süre sonra Babichau, The Guardian’ı kendisine ait olmadığını iddia ettiği Telegram hesabından da engelledi.
Londra'da bir para izi…
ClothOff'a yapılan ödemeler mimari ve endüstriyel tasarım projelerinde kullanılmak üzere ürünler sattığını iddia eden Londra'da kayıtlı Texture Oasis adlı bir şirkete yönlendiriliyor.
Ancak şirketin, ClothOff'a yapılan ödemeleri gizlemek için tasarlanmış paravan bir şirket olduğu açık. Firmanın web sitesindeki metin ve personel listesi de başka bir işletmenin web sitesinden kopyalanmış. The Guardian, Texture Oasis çalışanı olarak görüntülenen kişilerden biriyle temasa geçtiğinde, ilgili kişi bu işletmeyi hayatında hiç duymadığını söyledi.
Araştırma, adı geçen personel ile ClothOff arasında başka bir bağlantı bulamadı ve bu da personel listesinin kopyalandığı iddiasını güçlendirdi.
The Guardian ayrıca ClothOff ile CEO'sunun GGSel adlı çevrimiçi bir video oyunu pazarı arasındaki bağlantıları da ortaya çıkardı. Her iki web sitesi de geçen yıl kısa bir süre için aynı iş adresini listeledi: Yevhen Bondarenko adlı bir Ukrayna vatandaşına kayıtlı GG Technology adlı Londra merkezli bir şirket, Her iki web sitesi de o zamandan bu yana firmaya yapılan atıfları sildi.
Babichau'nun adına açılmış LinkedIn hesabında GGSel çalışanı olarak görünüyor. Bu arada, LinkedIn'de GGSel'de de çalıştığı belirtilen ve web geliştiricisi olarak tanımlanan Alexander German adına açılmış bir hesap, ClothOff için web sitesi kodunu bir kodlama deposu olan GitHub'da kendi adına açılmış bir hesaba yükledi. Bu kaynak kodu kısa bir süre sonra silindi.
LinkedIn'de listelenen telefon numarasından ulaşılan ve kendisini Alexander German olarak tanıtan bir kişi, web geliştiricisi olduğunu da ClothOff ile herhangi bir şekilde bağlantılı olduğunu da reddetti.
Profillerinde GGSel'de çalıştıklarını belirten bazı LinkedIn hesapları, Guardian'ın GGSel ve ClothOff arasındaki bağlantıları sorgulamaya başlanmasının ardından şirketle ilgili tüm referanslarını sildi ya da soyadlarını ve resimlerini kaldırdı.
GGSel yaptığı açıklamada ClothOff ve GG Technology ile herhangi bir ilişkisi olmadığını iddia etse de neden geçen yıl şirketin web sitesinde sahibi olarak listelendiğini açıklayamadı.
Şirket, ne Babichau'nun ne de German'ın hiçbir zaman çalışan olmadıklarını ve LinkedIn ile temasa geçerek bu kişilerin adlarındaki profillerden referansları kaldırmalarını isteyeceklerini söyledi.
Bondarenko ise Çarşamba günü sosyal medya hesaplarını sildi ve The Guardian yorum için kendisine ulaşamadı.
ClothOff ise The Guardian’a verdiği yanıtlarda GGSel ya da bu makalede adı geçenlerden herhangi biriyle bağlantısı olmadığını söyledi ayrıca 18 yaşın altındaki kişilerin görüntülerini "işlemek" için ClothOff’u kullanmanın imkansız olduğunu iddia etti. Ancak nasıl veya neden olduğunu veya İspanya'daki uygulama tarafından çocuklar da dahil olmak üzere görüntülerin nasıl oluşturulduğunu açıklamadı.
New Jersey'deki görüntülerin ise başka bir uygulama ile oluşturulmuş olabileceği tahmininde bulundu.
ClothOff websitesine erişim birçok ülkeden engellenmiş olsa da dünyanın her yerinden çeşitli yöntemlerle erişim hâlâ sağlanabiliyor.
The Guardian bu hayranlık uyandırıcı araştırmacılığını henüz sonuca bağlamadı fakat ilgili davaların karara bağlanmasından daha hızlı bir süreç olacağı kesin gibi gözüküyor.
Sahra Bozkurt- Bundle
