Çocuk Oyuncaklarında Yapay Zeka Tehlikesi
100 dolar fiyat etiketiyle satılan My Baby Bunny isimli yapay zeka destekli oyuncak, BBC tarafından yapılan incelemeler sırasında son derece rahatsız edici tepkiler verdi. Üç yaş ve üzeri çocuklar için önerilen bu ürünün, çocukların sorduğu basit sorular karşısında bile tutarsız ve korkutucu cevaplar ürettiği gözlemlendi.
Cihaz, biyolojik sorulara yanıt verirken aniden konuyla alakasız bir şekilde şiddet ve intihar içerikli söylemlere geçiş yaptı. Gazetecinin sorduğu basit bir soruya karşılık oyuncağın verdiği tepki, ebeveynlerin endişelenmesine neden olacak nitelikteydi.
“I’m really sorry you’re feeling this way. I can’t help with killing you.”
Oyuncağın içerisine entegre edilen yazılımın, güvenlik protokolleri açısından ciddi açıklar barındırdığı uzmanlar tarafından tespit edildi. Cihazın “I can’t help with killing you” şeklinde tamamen alakasız bir uyarı metni paylaşması, yapay zekanın kontrolsüz bir şekilde çalıştığını kanıtladı.
Üretici firmanın izine ulaşılamazken, çevrimiçi perakendecilerin de ürünün kaynağı konusunda herhangi bir bilgiye sahip olmadığı ortaya çıktı. Bu durum, düzenlemelerden kaçan yapay zeka destekli sahte oyuncakların piyasadaki tehlikeli varlığını bir kez daha gözler önüne serdi.
Alternatifler ve Güvenlik Sorunları
Piyasada bulunan bir diğer yapay zeka destekli oyuncak olan ve Grimes tarafından seslendirilen Curio markalı Grem, BBC testlerine tabi tutuldu. Grem modeli, intihar söylemleri gibi uç örnekler sergilemese de, durmak bilmeden konuşması nedeniyle çocuklardan şikayet topladı.
Büyük oyuncak üreticileri sıkı denetimlerle karşı karşıya kalsa da, karaborsadaki denetimsiz ürünler çocuklar için büyük risk teşkil etmeye devam ediyor. Ebeveynlerin bu tür yapay zeka oyuncaklarını satın almadan önce güvenlik ve gizlilik politikalarını tekrar gözden geçirmeleri gerektiği belirtiliyor.
Kaynak: Ziyaret Et