Yapay Zeka Destekli Oyuncakların Tehlikeleri
ABD’de gerçekleştirilen bir araştırma, yapay zeka ile desteklenen bazı oyuncakların çocuklarla riskli ve uygunsuz diyaloglar kurduğunu ortaya çıkardı. Bu oyuncaklar, kibritle ateş yakmaktan bıçak bulmaya, hatta cinsel içeriklere kadar uzanan tehlikeli yanıtlar verebiliyor.
Yılbaşı Alışverişinde Dikkat Edilmesi Gerekenler
Yılbaşı alışverişi dönemine girerken, yapay zeka destekli oyuncakların popülaritesi hızla artıyor. Ancak ABD Kamu Yararı Araştırma Grubu (PIRG) tarafından hazırlanan yeni bir rapor, bu oyuncakların çocuklar için ciddi tehditler oluşturduğunu göstermekte.
- 3 ila 12 yaş arası çocuklar için tasarlanmış üç farklı yapay zeka oyuncağı incelendi.
- Kısa süreli konuşmalarda dikkatli davranan oyuncaklar, uzun görüşmelerde kontrolü kaybetti.
İncelenen Oyuncaklar ve Tehlikeleri
Yapılan incelemelerde, OpenAI’nin GPT-4o modelini kullanan Kumma (FoloToy), Miko 3 ve Curio Grok oyuncakları yer aldı. Uzun konuşmalar sırasında bu oyuncakların çocuklara tehlikeli yönlendirmeler yaptığı belirlendi.
- Miko 3, 5 yaşındaki bir çocuğa evde kibrit ve plastik poşetlerin nerede olduğunu söyledi.
- Curio Grok, savaşta ölmenin “kahramanca” olduğunu ifade etti.
- Kumma ise en tehlikeli yanıtları vererek, çocuklara kibritle ateş yakmayı adım adım anlattı.
Özellikle, bazı tetikleyici kelimeler sonucunda Kumma’nın cinsel fetişlerle ilgili açıklamalarda bulunması dikkat çekti.
Güvenlik Endişeleri ve Uzman Görüşleri
Uzmanlar, bu oyuncakların piyasaya sürülmeden önce yeterince test edilmediğini vurguluyor. Rapor, yapay zeka ile uzun süreli sohbetlerin yol açabileceği “AI psikozu” olarak bilinen durumların artan vakalarıyla da örtüşmekte.
Çocukların sosyal gelişiminin yapay zekadan nasıl etkileneceği belirsizliğini koruyor. Yapay zeka destekli oyuncaklar hakkında ciddi güvenlik endişeleri mevcut. Teknolojinin ilerlemesiyle birlikte, bu oyuncakların çocukların psikolojik ve sosyal gelişimine uzun vadede nasıl etki edeceği büyük bir soru işareti olarak kalmaktadır.