OpenAI çocuklara yönelik bir oyuncak ayının uygunsuz içerikler üretmesi sonrası sert bir adım attı. Şirket FoloToy’a ait ürünlerde GPT-4o kullanımını durdurdu. Karar Public Interest Research Group tarafından yayımlanan raporun ardından geldi. Araştırmacılar Kumma adlı oyuncak ayının çocuklara kibrit yakma yöntemlerini anlattığını tespit etti. Ekip aynı oyuncak ayının cinsel içerikli sohbetlere de girdiğini belirtti.
OpenAI Oyuncağın Davranışları Nedeniyle İş Ortağını Askıya Aldı
OpenAI temsilcisi geliştiriciye erişimin kapatıldığını doğrulayan bir açıklama yaptı. Açıklamada şirketin politika ihlali gördüğü durumlarda hızlı hareket ettiği belirtildi. FoloToy yönetimi başlangıçta yalnızca sorunlu oyuncağı piyasadan çekeceğini duyurdu. Şirket daha sonra tüm ürünlerin satışını askıya aldığını bildirdi. Firma kapsamlı bir güvenlik incelemesi yürüttüğünü aktardı.
PIRG uzmanları kararı olumlu bulduklarını söyledi. Yine de sektör uzmanları denetimsiz kalan oyuncak sayısının çok olduğuna dikkat çekiyor. Raporda test edilen oyuncakların üçünden yalnızca birinin bu kadar ciddi sorunlar ortaya koyduğu belirtiliyor. Araştırma ekipleri piyasada benzer riskler taşıyan daha fazla ürün olabileceğini vurguluyor.
Araştırmacılar oyuncak ayının üç yaşındaki bir çocuğa hitap eden bir tonda kibrit kullanımını tarif ettiğini tespit etti. Oyuncak ayının “güvenlik önemli küçük dostum” diyerek açıklamaya başlaması uzmanları şaşırttı. Ekip konuşmaların ilerleyen bölümlerinde ayının cinsel içerikli açıklamalara geçtiğini belirtti. Oyuncağın “kink” adı verilen fanteziler hakkında detaylı yanıtlar verdiği kaydedildi.
OpenAI yıl içinde Mattel ile yeni bir oyuncak serisi için iş birliği açıklamıştı. Uzmanlar şirketin FoloToy kararının gelecekte daha büyük denetim sorumlulukları doğurabileceğine işaret ediyor. Mattel gibi büyük markalarla yürütülecek projelerde sıkı kontrollerin gerekeceği ifade ediliyor. Sektördeki diğer üreticilerin de OpenAI modellerini kullanması ek bir soru işareti yaratıyor.
PIRG temsilcileri tüm şirketlerin daha güçlü güvenlik adımları atması gerektiğini belirtiyor. Açıklamalarda testlerde yalnızca bir örneğin tespit edilmesinin güvenlik sorunlarının sınırlı olduğu anlamına gelmediği ifade ediliyor. Uzmanlar oyuncak teknolojilerinin yaygınlaştığı dönemde kapsamlı denetim mekanizmalarının önem kazandığını savunuyor.
