0
🖼️ Resim
Elon Musk'ın Grok AI'si, kadınlar ve çocukların cinsel imgelerinin üretilmesi nedeniyle hükümetin tepkisiyle karşılaştı
Son günlerde Elon Musk'ın Grok yapay zeka programının sosyal medya platformu X üzerinden, kadınların ve reşit olmayanların izni olmadan cinsel içerikli derin sahte görüntüler oluşturmak için kullanıldığı iddiaları ortaya çıktı. Görünen o ki bu durum, hem etik hem de hukuki açıdan oldukça ciddi bir mesele haline geldi. X kullanıcılarının Grok'tan bazı istekleri, çocukları kapsayan rahatsız edici cinsel içerikler içeriyormuş. Bu durumda Fransa'daki yetkililer, yapay zeka tarafından üretilen bu görüntülerin artışını incelemeye başlamış. Hindistan’ın Elektronik ve Bilgi Teknolojileri Bakanlığı ise X’in Hindistan'daki faaliyetlerine dair bir mektup göndermiş.
Grok, genel olarak kullanıcıların fotoğraflarını dijital ortamda değiştirebilmesine olanak tanıyor. ama bazı kişiler bu özelliği kötüye kullanarak, görüntülerdeki kişilerin kıyafetlerini çıkarmak için talepte bulunuyor. Bazı kullanıcılar, OnlyFans gibi platformlarda kendi rızalarıyla paylaşılan içerikler talep ederken, diğerleri başkalarının görüntülerinin cinsel içeriklerle değişiklik göstermesi yönünde isteklerde bulunuyor. Bu durumda, reşit olmayan bireylerin de isimleri geçiyor. Diğer yandan, sosyal medya platformunda endişeli kullanıcılar sık sık bu durumu dile getiriyor.
XAI’nin "Kabul Edilebilir Kullanım" politikası, kişilerin görüntülerinin pornografik bir tarzda kullanılmasını ve çocukların cinsel sömürüsünü yasaklıyor. ama, XAI konuyla ilgili bir söylediğında, otomatik bir yanıt gönderdi ve bu doğrudan meseleye işaret etmedi. Fransa'da, izinsiz derin sahte görüntüleri dağıtmanın iki yıla kadar hapis cezası gerektirdiği biliniyor. Hindistan'ın bakanlığı ise, kadınları küçümseyen veya aşağılayan içerikler üzerinde, X’ten kapsamlı bir inceleme talep etti.
Birleşik Krallık’tan Alex Davies-Jones,. kadınlara yönelik şiddet ve istismar konularından sorumlu bakan olarak, Elon Musk'a Grok üzerine harekete geçmesi için çağrıda bulundu. Çıkışında, "Eğer kadınlara bu kadar önem veriyorsanız, neden X kullanıcılarının onları istismar etmesine müsaade ediyorsunuz?" ifadesini kullandı. Ayrıca, Birleşik Krallık'ta cinsel içerikli derin sahte görüntülerin suç sayılmasına dair bir önerinin gündemde olduğu da söyleniyor.
Grok’un resmi hesabı, cinsel içerikli görüntü taleplerine yönelik bazı güvenlik açıkları bulduklarını ve bu durumu düzeltmek için acil önlemler aldıklarını belirtti. Fakat, bu yanıtın XAI tarafından gözden geçirilip geçirilmediği ve gerçekten insan mı yoksa yapay zeka tarafından mı üretildiği bilinmiyor. Derin sahte görüntüler, yapay zeka şirketleri için sürekli bir endişe kaynağı oluşturuyor. Bu bağlamda, Musk’ın Grok’un NSFW (iş yerinde uygun olmayan) olanaklarının başarılı bir şekilde kullanıldığına dair bilgileri tartışma yaratıyor.
Sonuçta, derin sahte görüntülerin ortaya çıkışı, kullanıcıların kendi imajlarını nasıl koruyabileceklerini sorgulatıyor. Amerika'daki “Take It Down Act” yasası, izinsiz derin sahte görüntülere karşı koruma sağlıyor ama kapsamı sınırlı. Ayrıca bazı eyaletler, bu tür içeriklerin yayılmasına karşı daha katı yasalar çıkarmayı hedefliyor. Yapay zeka ile derin sahte görüntülerin yaratımı, platformların yasal sorumluluklarını sorgulatan bir hal alırken, kullanıcıların bu içeriklere karşı nasıl korunacağı da hala tartışılıyor. #grok #yapayzeka #derinsahte
