Anthropic tarafından hazırlanan son analiz küresel siber güvenlik gündemini değiştirdi. Şirket Çin destekli bir hacker grubunun Claude modelini kullanarak yaklaşık 30 kurumu hedef alan geniş çaplı bir saldırı yürüttüğünü bildirdi. Analiz saldırının büyük kısmının yapay zekâ destekli bir otomasyonla ilerlediğini gösterdi.
Claude Modeli Saldırı Hazırlığında Kullanıldı
Anthropic ekibi saldırı sürecinin detaylarını paylaştı. Hacker grubu ilk aşamada teknoloji şirketlerini, finans kuruluşlarını ve bazı kamu kurumlarını hedef listesine aldı. Grup Claude Code üzerinden kendi saldırı altyapısını hazırladı. Analiz hackerların modeli kandırmak için her adımı birbirinden ayrı komutlara böldüğünü gösterdi. Komutlar savunma amaçlı bir test ortamı gibi gösterilerek modeli yönlendirdi. Model bu süreçte zararlı kodlar oluşturdu.
Anthropic ekibi modelin saldırı sırasında kullanıcı adı ve parola bilgilerini topladığını belirtti. Model yetki kazandıktan sonra sistemlere arka kapılar yerleştirdi. Toplanan veriler model tarafından ayrı dosyalara ayrıldı. Saldırının büyük kısmı otomatik şekilde ilerlediği için saldırganların müdahalesi sınırlı kaldı. Ekip saldırının kısa sürede etkili hâle geldiğini bildirdi.
Analiz saldırının bazı aşamalarında modelin eriştiği bilgilerin kamuya açık olduğunu gösterdi. Yine de modelin saldırı adımlarını kısa sürede tamamlaması güvenlik uzmanlarını endişelendirdi. Anthropic saldırıların zaman içinde daha gelişmiş yöntemlerle yürütülebileceğini belirtti. Şirket bu bulguların savunma tarafında atılacak adımlar için önemli olduğuna dikkat çekti.
Anthropic ekibi Claude modelinin savunma tarafında da kullanılabileceğini açıkladı. Model saldırı sırasında topladığı verilerin risk seviyesini analiz etti. Şirket modelin güvenlik ekiplerine destek sağlayabileceğini belirtti. Saldırı örneği yapay zekâ kullanımının suç örgütleri tarafından da benimsendiğini gösterdi. Geçen yıl Open AI şirketi Çin ve Kuzey Kore kaynaklı bazı grupların kendi araçlarını kod inceleme ve oltalama yazıları hazırlama süreçlerinde kullandığını açıklamıştı.
