San Francisco Şehir Avukatı David Chiu, kadınların ve genç kızların rızası olmadan çıplak görüntülerini yapay zeka (AI) kullanarak ürettiği iddia edilen on altı web sitesinin sahiplerine dava açtı. Bu dava, kullanıcıların resimlerdeki kişileri “soyarak” gerçekçi ve pornografik görüntüler yaratmasına olanak tanıyan, en çok ziyaret edilen siteleri hedef alıyor ve 15 Ağustos’ta açıldı.
California ve ABD yasalarını ihlal ettikleri iddia edilen bu siteler, derin sahte pornografi, intikam pornosu ve çocuk cinsel istismarı materyalleri yasalarını çiğnemekle suçlanıyor. Dava, Los Angeles, New Mexico, Birleşik Krallık ve Estonya merkezli site sahiplerine karşı açıldı. 2024’ün ilk yarısında, bu web siteleri toplamda 200 milyon ziyaretçi çekmiş durumda.
Kötüye kullanılan büyüyen bir tehdit
Dava, bu yapay zeka modellerinin kullanıcılarının, pornografi ve çocuk cinsel istismarı gibi yasa dışı içerikleri öğrenerek son derece gerçekçi çıplak görüntüler üretebileceğini iddia ediyor. Bazı web siteleri, ürünlerinin sadece yetişkinler için olduğunu iddia ederken diğerlerinin, çocukları içeren görüntülerin yaratılmasına izin verdiği bildiriliyor. Bu sahte fotoğraflar kullanılarak kadınlar ve kız çocukları şantaja, tacize ve aşağılamaya maruz kalıyor ve bu görüntülerin yayılmasını kontrol etme şansı neredeyse hiç yok.
Chiu, bu suistimalin ciddi sonuçlarını vurgulayarak Şubat ayında California’da bir ortaokulda on altı sekizinci sınıf öğrencisinin yapay zeka ile üretilen cinsel görüntülerinin dağıtıldığı bir olaya atıfta bulundu. Benzer şekilde Haziran ayında Avustralya’da bir çocuk, Melbourne bölgesindeki bir okuldan elli yapay zeka ile üretilmiş görüntüyü yaymakla suçlanarak tutuklandı.
“Bu çalışma bizi internetin en karanlık köşelerine götürdü ve bu istismara maruz kalan kadınlar ve kız çocukları için derin bir üzüntü içindeyim.” diyen Chiu, yapay zekayı kötüye kullanarak gerçek insanları, özellikle çocukları istismar eden kötü niyetli kişilerin durdurulmasının aciliyetini vurguladı ve bu tür davranışların yaratıcılıktan ziyade cinsel istismar olduğunu belirtti.