Microsoft, yapay zekâ destekli iş asistanı Microsoft 365 Copilot Chat’teki bir yazılım hatası nedeniyle bazı kullanıcıların “gizli” olarak işaretlenmiş e-postalarının yanlışlıkla AI tarafından okunup özetlendiğini kabul etti.

Sorun, Copilot’un Taslaklar ve Gönderilmiş Öğeler klasörlerindeki bu e-postaları işleyebilmesine yol açtı ve bu durum veri kaybı önleme (DLP) kontrollerini atlatmış gibi göründü. 

Erişim yetkileri ihlal edilmedi

Microsoft sözcüsü yaptığı açıklamada “erişim kontrollerimiz ve veri koruma politikalarımız bozulmadı ancak bu durum hedeflediğimiz Copilot deneyimiyle örtüşmedi” ifadelerini kullandı.

Ocak ayında fark edilen bu sorunun İngiltere'deki Ulusal Sağlık Sistemi (NHS) çalışanlarına yönelik bir destek panelinde de paylaşıldığı öğrenildi. NHS, hasta bilgilerinin sızmadığını ve işlemlerin sadece eposta sahiplerinin kendi ekranlarında gerçekleştiğini teyit etti.

Uzmanlara göre yapay zekâ araçlarının hızla piyasaya sürülmesi, güvenlik sorunlarını da beraberinde getiriyor. Analiz şirketi Gartner’dan Nader Henein, bu tür hayatların şaşırtıcı olmadığını belirterek şirketlerin artan rekabet baskısıyla yapay zekâ çözümlerini risk değerlendirmesi olmadan kullanıma sunduğunu dile getirdi.

Siber güvenlik uzmanı Prof Alan Woodward; üretken yapay zekâ sistemlerinin varsayılan olarak kapalı şekilde tasarlanması gerektiğini savundu. Woodward’a göre bu araçlar ancak kullanıcıların onayıyla etkinleştirilmeli.

Hızlı gelişen yazılım altyapılarında hataların kaçınılmaz olduğu gerçeğinin altını çizen Woodward, küçük teknik bir aksamanın dahi hassas verilerin açığa çıkmasına zemin hazırlayabileceği konusunda uyardı.