OpenAI tarafından macOS için geliştirilen yapay zekâ destekli tarayıcı ChatGPT Atlas, güvenlik araştırmacılarının ortaya çıkardığı yeni bir açıkla gündeme geldi. NeuralTrust ekibi, tarayıcının “omnibox” alanında tespit ettiği güvenlik zafiyetinin, kullanıcı güvenliğini riske atabileceğini açıkladı.
Araştırmacılar Prompt Injection Saldırısına Dikkat Çekti
NeuralTrust tarafından yayımlanan raporda, ChatGPT Atlas’ın komut yorumlama biçiminde önemli bir hata bulunduğu belirtildi. Araştırmacılara göre saldırganlar, özel olarak hazırlanmış bir URL aracılığıyla tarayıcının omnibox alanına gizlenmiş komutlar yerleştirebiliyor. Tarayıcı, bu komutları kullanıcı talimatı olarak algılayarak yüksek yetkiyle çalıştırabiliyor.
Uzmanlar, saldırının URL biçiminde sahte talimatlar içermesi nedeniyle fark edilmesinin zor olduğunu ifade etti. Atlas, URL’nin belirli bölümlerini doğal dil girdisi gibi işlediği için saldırganlar güvenlik politikalarını atlayabiliyor. Bu durum, kullanıcı verilerinin yetkisiz erişime açılmasına ve kişisel dosyaların tehlikeye girmesine yol açabiliyor.
Rapor, ChatGPT Atlas’ın yalnızca omnibox komutlarını değil, aynı zamanda kullanıcı girişlerini de ayrı değerlendirmesi gerektiğini vurguladı. NeuralTrust, yeni nesil yapay zekâ tarayıcılarının URL’leri daha katı kurallarla yorumlaması gerektiğini belirtti. Uzmanlar, geliştiricilerin kullanıcıdan açık onay almadan omnibox komutlarını işleme sokmaması gerektiğini söyledi. Ayrıca tarayıcıların, kullanıcıların web adresi mi yoksa yapay zekâ komutu mu girdiğini ayırt etmesi gerektiği ifade edildi.
NeuralTrust ekibi, ChatGPT Atlas dışında farklı yapay zekâ tabanlı tarayıcıların da benzer saldırılara karşı savunmasız olup olmadığını araştırıyor. İlk bulgular, birçok ajan temelli tarayıcıda benzer güvenlik sınırı hatalarının bulunduğunu gösteriyor. Uzmanlar, kullanıcıların bilinmeyen bağlantılara tıklamaktan kaçınmasını, güvenli olmayan sitelere kişisel verilerini girmemesini ve tarayıcı güncellemelerini düzenli olarak yapmasını önerdi.
