Meta Platforms Inc. (NASDAQ:META), Facebook ve Instagram platformlarında yapay zeka (AI) tarafından üretilmiş gibi görünen aldatıcı içeriklerin keşfedildiğini açıkladı. Söz konusu içerikler arasında İsrail'in Gazze'deki savaşa yaklaşımını öven ve küresel haber kuruluşları ile ABD'li politikacıların güncellemelerinin altında yayınlanan yorumlar da yer alıyor.
Şirketin son güvenlik raporu, sahte hesapların Yahudi öğrenciler ve Afrikalı Amerikalılar gibi çeşitli demografik grupları taklit ettiğini ve mesajlarını ABD ve Kanada'daki kullanıcıları hedeflediğini ortaya koydu. Meta, Tel Aviv merkezli siyasi pazarlama firması STOIC'i bu kampanyaların yaratıcısı olarak tanımladı. STOIC bugün itibariyle iddialar hakkında yorum yapmadı.
Bu rapor, Meta'nın 2022'nin sonlarında ortaya çıkmasından bu yana bu tür operasyonlarda sofistike üretken yapay zeka teknolojilerinin kullanıldığını ilk kez bildirmesi açısından dikkate değerdir. Üretken yapay zeka inandırıcı metinler, görüntüler ve sesler yaratabiliyor ve bu da araştırmacılar arasında seçim sonuçlarını etkileyebilecek daha etkili dezenformasyon çabalarını körükleme potansiyeline ilişkin endişelere yol açıyor.
Bir basın toplantısı sırasında, tehdit araştırmaları başkanı Mike Dvilyanski de dahil olmak üzere Meta'nın güvenlik yöneticileri, yeni yapay zeka teknolojilerinin ortaya çıkmasının koordineli etki ağlarını bozma yeteneklerini engellemediğini belirtti. Dvilyanski şunları söyledi: "Bu ağlarda, içerik oluşturmak için muhtemelen üretken yapay zeka araçlarını nasıl kullandıklarına dair birkaç örnek var. Belki de bu onlara bunu daha hızlı yapma ya da daha fazla hacimde yapma becerisi kazandırıyor. Ancak bu bizim onları tespit etme becerimizi gerçekten etkilemedi."
Güvenlik raporunda ilk çeyrekte altı gizli etki operasyonunun sekteye uğratıldığı vurgulanırken, bunlardan birinin STOIC ağı olduğu belirtildi. İran merkezli ve İsrail-Hamas çatışmasına odaklanan bir başka ağ da, üretken yapay zeka kullanmamasına rağmen kapatıldı.
Meta gibi teknoloji devleri seçimlerde yapay zekanın potansiyel kötüye kullanımını ele alma zorluğuyla karşı karşıya kalırken, araştırmacılar OpenAI ve Microsoft (NASDAQ:MSFT) gibi şirketlerin görüntü oluşturucularının oylamayla ilgili yanlış bilgiler içeren görüntüler ürettiği örnekleri tespit ettiler. Bu şirketler, yapay zeka tarafından üretilen içeriği oluşturma aşamasında tanımlamak için dijital etiketleme sistemleri uyguladılar, ancak bu sistemler şu anda metin üzerinde çalışmıyor ve genel etkinlikleri araştırmacılar tarafından sorgulanıyor.
Haziran ayı başında Avrupa Birliği'nde ve Kasım ayında Amerika Birleşik Devletleri'nde yapılacak kritik seçimler yaklaşırken Meta, yapay zeka tarafından üretilen bu tür dezenformasyon kampanyalarına karşı savunmasını test etmeye hazırlanıyor.
Reuters bu makaleye katkıda bulunmuştur.Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.