OpenAI, ChatGPT kullanıcılarının ruh sağlığıyla ilgili çarpıcı veriler paylaştı. Şirketin açıklamasına göre her hafta ChatGPT kullanıcılarının yaklaşık %0.15’i intihar planı ya da niyeti içeren konuşmalar yapıyor. ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcısı olduğu düşünüldüğünde bu oran, haftada bir milyondan fazla kişinin intiharla ilgili sohbet ettiği anlamına geliyor.
OpenAI Ruh Sağlığı Yanıtlarını Geliştirdiğini Söyledi
OpenAI, aynı dönemde çok sayıda kullanıcının da duygusal bağlanma, mani ya da psikoz belirtileri gösterdiğini belirtti. Şirket bu tür konuşmaların nadir olduğunu ifade etse de sayıların büyüklüğü, platformun ruh sağlığı üzerindeki etkilerini yeniden gündeme taşıdı.
Şirket, yeni nesil modellerinin ruh sağlığıyla ilgili konuşmalarda daha dikkatli yanıtlar verdiğini açıkladı. OpenAI’nin paylaştığı bilgilere göre ChatGPT’nin son sürümü üzerinde 170’ten fazla ruh sağlığı uzmanı çalıştı. Uzmanlar yeni modelin önceki sürümlere göre daha tutarlı ve uygun yanıtlar verdiğini gözlemledi.
OpenAI, GPT-5 modelinin intihar temalı konuşmalarda önceki sürüme göre %65 daha başarılı yanıt verdiğini duyurdu. Şirketin değerlendirmelerine göre yeni sürüm, belirlenen davranış standartlarına %91 oranında uyum sağladı. Önceki modelin bu oranı %77 idi.
OpenAI, paylaştığı verilerin yalnızca istatistikten ibaret olmadığını, kullanıcı güvenliği açısından önlem gerektirdiğini belirtti. Şirket, temel güvenlik testlerine duygusal bağımlılık ve intihar dışı kriz durumlarını da eklediğini açıkladı. Ayrıca çocuk kullanıcıları korumak amacıyla ebeveyn kontrollerini genişletti. Yaş tahmini sistemini geliştirdiğini duyuran OpenAI, çocuk kullanıcıları otomatik olarak tespit edip daha sıkı koruma protokolleri uygulamayı planlıyor.
Son dönemde araştırmalar, yapay zekâ sohbet robotlarının bazı kullanıcıların halüsinasyon ya da sanrılı düşüncelerini pekiştirdiğini ortaya koydu. ChatGPT’nin kimi zaman aşırı onaylayıcı tavırlarının, duygusal zorluk yaşayan bireylerde olumsuz etki yaratabileceği değerlendiriliyor. OpenAI, yeni modelle birlikte bu durumların önüne geçmek için daha sağlam denetim mekanizmaları kurduğunu savunuyor.
OpenAI şu anda ciddi hukuki baskılarla da karşı karşıya. Kaliforniya ve Delaware başsavcılıkları, genç kullanıcıların korunmasına yönelik politikaları yetersiz bulduklarını açıkladı. Ayrıca ChatGPT üzerinden intihar düşüncelerini paylaşan 16 yaşındaki bir gencin ölümünden sonra şirket hakkında açılan dava sürüyor.
Şirketin CEO’su Sam Altman, ekim ayında yaptığı açıklamada ChatGPT’deki ciddi ruh sağlığı sorunlarını “büyük ölçüde hafiflettiklerini” iddia etti. Ancak uzmanlara göre paylaşılan veriler, sorunun hâlen ciddi boyutta olduğunu gösteriyor.
