OpenAI’nin yapay zeka sohbet robotu ChatGPT, Norveçli bir adamı yanlışlıkla suçlu göstererek Avrupa’nın GDPR (Genel Veri Koruma Yönetmeliği) kurallarını ihlal ettiği iddiasıyla Norveç Veri Koruma Kurumu’na şikayet edildi. Şikayet, Avusturya merkezli gizlilik savunuculuk grubu Noyb tarafından yapıldı.

Olay, Arve Hjalmar Holmen isimli bir Norveçli’nin, ChatGPT’ye kendisiyle ilgili bilgi sormasıyla başladı. Yapay zeka, Holmen’in çocuklarını öldürdüğünü ve hapis cezasına çarptırıldığını belirten tamamen yanlış bir hikaye sundu. Ancak ChatGPT, Holmen’in çocuklarının sayısı, cinsiyeti ve memleketi gibi doğru bilgileri de paylaştı.

Noyb, OpenAI’nin ChatGPT modelinin kullanıcı verilerini eğitim amacıyla kullandığını ve Holmen hakkında üretilen yanlış bilgilerin silinip silinmediği konusunda belirsizlik olduğunu belirtti. Ayrıca, Noyb, OpenAI’nin modelinde yapılan güncellemeye rağmen, yanlış bilgilerin hala büyük dil modeli (LLM) veri setinin parçası olabileceği konusunda endişe duyduğunu vurguladı.

Grup, OpenAI’yi Avrupa’daki GDPR kurallarına, özellikle kişisel verilerin doğruluğunu sağlama yükümlülüğüne uymamakla suçladı. Noyb, Norveç Veri Koruma Kurumu’na OpenAI’ye bu yanlış çıktıyı silme ve modelin düzeltme yapması için işlem başlatmasını talep etti. Ayrıca, şirketin gelecekteki ihlalleri önlemek için idari para cezası ödemesini istedi.