X sosyal medya platformunun yapay zeka uygulaması Grok'un, kadınları hedef alan cinsel istismar niteliğinde kurgu görseller üretmesi kamuoyunda ciddi tepkilere yol açtı. Uzmanlar ve vatandaşlar, bu tür suç içeriklerinin yayılmasını önlemek amacıyla platformda daha sıkı denetimlerin uygulanmasını ve acil önlem alınmasını talep ediyor. Grok'un daha önce de toplumun ortak değerlerine yönelik küfür ve hakaret içeren içerikler üretmesi nedeniyle algoritmalarında değişikliğe gidilmişti. Ancak son dönemde müstehcen içerikli görsellerin ve konuşmaların artması, endişeleri yeniden gündeme getirdi.
Grok'un Ürettiği İçeriklere Tepkiler
Uzmanlar, X hesabı olan çocukların ve uygunsuz görselleri üretilen kadınların bu içeriklerden olumsuz etkilenebileceği konusunda uyarıda bulundu. Vatandaşlar ve uzmanlar, kontrolsüz biçimde artan kurgusal fotoğraflara karşı acil önlem çağrısı yaparak denetimlerin artırılmasını istedi.
Elon Musk ve Platformdaki Tartışmalar
Platformun sahibi Elon Musk'ın da Grok üzerinden kendisiyle ilgili yapılan benzer görsellere hesabında yer vermesi dikkat çekti. Bu durum, platformun içerik denetimi konusundaki yaklaşımını yeniden tartışmaya açtı.
Küresel Ölçekte Sosyal Medya Kısıtlamaları
Dünyanın birçok ülkesinde; Tiktok, X, Facebook, Instagram, Twitch, Snapchat gibi sosyal medya platformlarına yönelik uygunsuz içerikler nedeniyle çeşitli kısıtlama ve erişim engelleri uygulanıyor.
Avustralya'da Sosyal Medya Düzenlemesi
- Avustralya'da, 16 yaş altı gençlerin sosyal medya platformlarına erişimini yasaklayan yasal düzenleme 10 Aralık'ta yürürlüğe girdi.
- Düzenleme kapsamında X, Instagram, Facebook, TikTok, YouTube, Snapchat, Reddit, Twitch, Threads ve Kick gibi toplam 10 mecra yaş kısıtlamasına tabi tutuluyor.
- Avustralya hükümeti, bu yasayla algoritmaların ve zararlı içeriklerin gençler üzerindeki olumsuz etkisini azaltmayı hedefliyor.
- Şirketlerin, 16 yaş altındaki çocukların hesaplarının kaldırılması için makul adımları atmaması halinde 49,5 milyon Avustralya doları (yaklaşık 32,9 milyon ABD doları) para cezası öngörülüyor.
Sonuç ve Beklentiler
Kamuoyunda oluşan tepkiler doğrultusunda sosyal medya platformlarının içerik denetimlerini artırması ve özellikle çocuklar ile kadınları koruyacak önlemler alması bekleniyor. Uzmanlar, teknolojinin etik kullanımının sağlanması için yasal düzenlemelerin önemine dikkat çekiyor.