Yapay zekâ sohbet platformu Character.AI reşit olmayan kullanıcılar için açık uçlu sohbet özelliğini kaldırma kararı aldı. Platform 25 Kasım tarihine kadar genç kullanıcıların sohbet robotlarıyla etkileşimini kademeli olarak sonlandıracak. Karar en az iki gencin platformdaki yapay zekâ sohbetleri sonrasında intihar etmesiyle gündeme geldi. Şirket sohbet odaklı uygulamadan içerik merkezli sosyal platforma dönüşüm sürecini hızlandırdı.
Açık Uçlu Sohbetler Yerine Yaratıcı Araçlar Öne Çıkacak
CEO Karandeep Anand genç kullanıcıların artık yapay zekâ ile sınırsız sohbet edemeyeceğini açıkladı. Yapay zekâ arkadaş yerine yaratıcı bir araç olarak konumlandırılacak. Kullanıcılar hikaye oluşturma ve görsel üretme gibi yaratıcı görevlerde sohbet robotlarını kullanabilecek. Platform interaktif hikayeler ve dinamik karakter etkileşimleri sunacak. Bu değişikliklerin genç kullanıcı kaybına yol açması bekleniyor.
Platform kullanıcı davranışlarını analiz eden dahili bir yaş doğrulama aracı kullanacak. Persona gibi üçüncü taraf doğrulama sistemleri de devreye alınacak. Bu sistemlerin yetersiz kalması durumunda yüz tanıma ve kimlik kontrolleri uygulanacak. Ebeveynlere yönelik kontrol araçları genişletilecek. Kullanım süresi bildirimleri ve filtreli karakter seçenekleri sunulacak.
Character.AI AvatarFX adlı video üretim modelini kullanıma sundu. Scenes özelliği kullanıcıların favori karakterlerle etkileşime girmesine olanak tanıyor. Streams özelliği herhangi iki karakter arasında dinamik etkileşim kurulmasını sağlıyor. Community Feed ile kullanıcılar yarattıkları içerikleri paylaşabiliyor. Platform sohbet merkezli yapıdan uzaklaşıp çok yönlü bir eğlence ekosistemi haline geliyor.
Amerikalı senatörler reşit olmayanlar için yapay zekâ sohbet arkadaşlarını yasaklayan yasa tasarısı hazırlıyor. California yapay zekâ sohbet robotlarını düzenleyen ilk eyalet oldu. Şirketler güvenlik standartlarını karşılamayan sohbet robotlarından sorumlu tutulacak. Character.AI düzenleyici müdahalelerden önce önlem alma stratejisi izliyor. AI Safety Lab adlı bağımsız sivil toplum kuruluşu güvenlik çalışmaları yürütecek.
