Uluslararası danışmanlık firması Deloitte, Avustralya hükûmeti için hazırladığı 440 bin Avustralya doları değerindeki raporda yapay zekâ kullandığını açıkladı. Ancak raporda yer alan hatalı bilgiler ve uydurma kaynaklar, kamu kurumları ile özel danışmanlık şirketleri arasındaki ilişkinin güvenilirliğini yeniden tartışmaya açtı.
Rapordaki Hatalar Akademisyen Tarafından Ortaya Çıkarıldı
Sydney Üniversitesi hukuk öğretim görevlisi Chris Rudge, Deloitte’un hazırladığı raporda kapsamlı hatalar bulunduğunu tespit etti. Rudge’un incelemesine göre raporda var olmayan kitaplara, hayali konuşmalara ve yanlış yargıç isimlerine yer verildi. Ayrıca belgede sahte alıntıların da bulunduğu ortaya çıktı. Uzmanlar, bu durumun yapay zekâ sistemlerinin “halüsinasyon” olarak bilinen yanlış bilgi üretme eğilimini açık biçimde gösterdiğini belirtiyor.
Rapor, Albanese hükûmeti tarafından refah uyum sistemini yeniden değerlendirmek amacıyla hazırlanmıştı. Söz konusu çalışma, önceki hükûmet döneminde yaşanan Robodebt skandalının ardından talep edilmişti. Ancak yapay zekâ kaynaklı hatalar, danışmanlık firmalarının kamu politikalarındaki etkisini sorgulatan bir tartışma başlattı. Olay sonrası hükûmet, Deloitte’tan raporu düzeltmesini istedi. Ayrıca danışmanların bundan sonra yapay zekâ kullanımını açıkça belirtmesini zorunlu kılacağını duyurdu.
Deloitte, yaşanan hataları kabul ederek hükûmete 97 bin dolarlık geri ödeme yapmayı kabul etti. Şirket, raporda kullanılan yapay zekâ araçlarının içeriği oluştururken denetlenmediğini ve bu nedenle hataların fark edilmediğini belirtti. Uzmanlar, olayın kurumsal sorumluluk ve etik ilkeler açısından önemli bir uyarı niteliği taşıdığını ifade ediyor.
Olay, özellikle hukuk, kamu yönetimi ve akademik yazım gibi doğruluğun ön planda olduğu alanlarda yapay zekâ kullanımına ilişkin güvenilirlik sorularını gündeme taşıdı. Uzmanlar, yapay zekânın üretim süreçlerinde kontrolsüz biçimde kullanılması durumunda hatalı bilgilerin resmî raporlara kadar girebileceğini belirtiyor.
Kaynak: Youtube
