Meta, ebeveynlerin çocuklarının çevrim içi etkileşimlerini daha yakından takip edebilmesi için yeni güvenlik araçları geliştirdi. Şirket, Instagram ve Facebook platformlarında yer alan yapay zekâ sohbet botları üzerinde ebeveynlere tam kontrol sağlayacak yeni bir sistem sunmaya hazırlanıyor. Bu özellik, genç kullanıcıların hangi yapay zekâ karakterleriyle iletişim kurabileceğini belirleme olanağı tanıyacak.
Ebeveynler Yapay Zekâ Sohbetlerini Kısıtlayabilecek
Meta’nın açıklamasına göre ebeveynler, genç hesaplarında yer alan sohbet botlarını tamamen kapatabilecek ya da belirli karakterlere erişimi sınırlandırabilecek. Bu özellik, 18 yaş altındaki kullanıcılar için otomatik olarak etkinleştirilen güvenlik ayarlarını genişletecek. Şirket, ebeveynlerin bu sayede çocuklarının yapay zekâ destekli sohbetlerde karşılaştığı içerikleri denetleyebileceğini ifade etti.
Meta, ebeveynlere çocuklarının sohbet alışkanlıklarına dair bilgi sağlayacak bir içgörü aracı da geliştirdi. Bu sistem, gençlerin hangi konularda sohbet ettiğini genel başlıklar hâlinde göstererek ebeveynlere çevrim içi güvenlik konusunda rehberlik edecek. Instagram Başkanı Adam Mosseri ve Meta’nın Yapay Zekâ Sorumlusu Alexander Wang, bu yeniliğin ebeveynlerin çocuklarını dijital ortamda daha bilinçli şekilde yönlendirmesine yardımcı olacağını belirtti.
Şirket, yeni ebeveyn denetim araçlarının ilk aşamada Amerika Birleşik Devletleri, Birleşik Krallık, Kanada ve Avustralya’da kullanılacağını duyurdu. Uygulamanın 2025 yılının başında diğer bölgelere de yayılması planlanıyor. Meta, aynı dönemde Instagram için film derecelendirme sistemine benzer bir ebeveyn rehberlik modeli hazırladığını da açıkladı. Bu model, genç kullanıcıların hangi tür içeriklerle karşılaşabileceğini sınırlayacak.
Meta, sohbet botlarının gençlerle gerçekleştirdiği konuşmalarda hassas konulara yer vermemesini sağlayacak yeni önlemler aldı. Şirketin açıklamasına göre botlar artık kendine zarar verme, yeme bozukluğu ya da cinsel içerikli konularda yanıt üretmeyecek. Sohbetler sadece eğitim, spor ve hobi gibi yaşa uygun alanlarla sınırlı tutulacak.
Meta, geçtiğimiz yıl bazı sohbet botlarının genç kullanıcılarla uygunsuz diyaloglara girdiği yönündeki raporların ardından eleştirilerin hedefi olmuştu. Özellikle John Cena karakterinden esinlenilen bir botun 14 yaşında olduğunu söyleyen bir kullanıcıyla cinsel içerikli konuşmalar yaptığı iddiası gündeme gelmişti. Meta, bu olayların yaşanmaması gerektiğini belirterek denetim sistemlerinde hatalar bulunduğunu kabul etti. Şirket, yeni güncellemelerle bu tür ihlallerin tekrar yaşanmaması için kurallarını güncellediğini açıkladı.
