AB ülkeleri, yapay zeka ile gerçek kişilerin rızası olmadan cinsel içerikli görüntüler üretilmesini yasaklamaya hazırlanıyor. Tartışmanın merkezinde Elon Musk’ın Grok sohbet botu ve “Spicy Mode” özelliği bulunuyor.
Avrupa Birliği ülkeleri, yapay zeka kullanılarak gerçek kişilerin rızası olmadan cinsel içerikli görüntüler üretilmesini yasaklamaya hazırlanıyor. Karar, yılın başında Elon Musk’ın sohbet botu Grok aracılığıyla milyonlarca kadın ve çocuğa ait fotoğrafın manipüle edilmesiyle gündeme gelen skandalın ardından gündeme geldi.
AB’ye üye 27 ülkenin büyükelçileri, yapay zeka yasasında değişiklik yapılmasına yönelik ortak bir tutum üzerinde uzlaştı. Planlanan düzenleme, özellikle gerçek kişilere ait görüntülerin izinsiz biçimde cinselleştirilerek üretilmesini sağlayan yapay zeka uygulamalarını doğrudan yasaklamayı hedefliyor.
Brüksel’de yürütülen çalışma, yılın başlarında Elon Musk’ın sahibi olduğu X platformuna entegre edilen Grok sohbet botunun tartışma yaratan özelliklerinin ardından hız kazandı. Yetkililer, söz konusu araçla kadınlar ve çocuklara ait görüntülerin milyonlarca kez manipüle edilerek yayıldığını belirtiyor.
Grok, sosyal medya platformu X’e entegre edilmiş bir yapay zeka aracı olarak kullanılıyor. Tepkilerin merkezinde ise ocak ayında tanıtılan “Spicy Mode” adlı yeni özellik yer aldı.
Bu mod sayesinde kullanıcılar, saniyeler içinde kadınların veya çocukların görüntülerini cinsel çağrışım içeren biçimlerde değiştirebiliyordu. Kullanıcıların sisteme “kıyafetlerini çıkar” ya da “ona bikini giydir” gibi komutlar vererek görüntüler oluşturabildiği belirtildi.
Yetkililer ayrıca bu özellik aracılığıyla çocuk pornografisi niteliğinde içeriklerin de üretilebildiğini ve yayılabildiğini vurguladı. Bu durum Avrupa’da ciddi bir tepkiye yol açtı.
Tepkilerin ardından birçok ülke Grok hakkında inceleme başlattı ya da aracı geçici olarak engelledi. Avrupa Birliği adına İrlanda’daki veri koruma otoritesi de konuyla ilgili resmi bir soruşturma yürütüyor.
X şirketi ise yaptığı açıklamada, bu tür görüntülerin oluşturulmasını engellemek için yeni önlemler alacağını bildirdi.
AB büyükelçileri yalnızca yasak önerisini değil, yüksek riskli yapay zeka sistemlerine ilişkin yürürlük takvimini de yeniden ele aldı.
Buna göre bağımsız yüksek riskli yapay zeka sistemleri için kuralların Aralık 2027’de, ürünlere entegre edilen yüksek riskli yapay zeka sistemleri için ise Ağustos 2028’de yürürlüğe girmesi planlanıyor.
Mevcut takvimde bu düzenlemelerin sırasıyla Ağustos 2026 ve Ağustos 2027’de yürürlüğe girmesi öngörülüyordu.
Avrupa Parlamentosu’nda da yapay zeka yasasının daha sıkı hale getirilmesine yönelik görüşmeler sürüyor. Yetkili parlamenter komitelerin çarşamba günü söz konusu yasakla ilgili oylama yapması bekleniyor.
