Çocuk oyuncakları üreten FoloToy şirketi, yapay zeka destekli oyuncak ayısı "Kumma"yı "uygunsuz ve tehlikeli yanıtlar" verdiğinin tespit edilmesi üzerine geçici olarak satıştan çekti.
Nefest'ten Mehmet Efe Altay'ın haberine göre, Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı raporda FoloToy'un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği saptandı.
The Register'ın haberine göre yapay zeka şirketi OpenAI'ın GPT-4o modeliyle çalışan ayının, sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü tespit edildi.
Tehlike içeren davranışlar gösteriyor
Örneğin bir denet sırasında Kumma'nın arkadaş canlısı bir tonda kibritin nereden bulunacağını ve nasıl yakılacağını adım adım anlattığı görüldü. Bunun yanı sıra ayının cinsel konulara da girdiği öğrenildi.
Rapora yanıt olarak FoloToy Pazarlama Müdürü Hugo Wu, şirketin ürünü geçici olarak satıştan çektiğini ve kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Wu mevcut ve yeni güvenlik özelliklerini teyit etmek için bağımsız uzmanlarla da çalışılacağını açıkladı.
Sektörde tehlike alarmı!
PIRG araştırmasında sadece Kumma değil, farklı şirketlere ait üç adet yapay zeka destekli oyuncağın da endişe verici yanıtlar verebildiğini gösterdi. Oyuncakların dini sorulardan bir savaşta ölmenin ihtişamına kadar, ebeveynlerin rahatsız olabileceği konuları irdelediği görüldü.
Uzmanlar, yapay zeka sektöründe halihazırda görülen tehlikelerin çocuklara yönelik oyuncaklara taşındığına dikkat çekti.