OpenAI, gelişmiş yapay zekâ sistemlerinin güvenliği için ABD’de zorunlu ve yetenek bazlı ulusal düzenlemeler oluşturulması çağrısında bulundu. Şirket, yapay zekâ yeteneklerinin hızla geliştiğini belirterek güvenlik standartlarının da bu gelişime paralel ilerlemesi gerektiğini açıkladı.

OpenAI Küresel İlişkiler Başkanı Chris Lehane tarafından yayımlanan açıklamada, şirketin Kongre ile birlikte gelişmiş yapay zekâ sistemleri için kapsamlı bir federal güvenlik çerçevesi üzerinde çalışmak istediği belirtildi.

Önerilen çerçevede ortak test standartları ve bağımsız değerlendirmeler, daha güçlü siber güvenlik önlemleri, ciddi yapay zekâ olaylarının bildirilmesine yönelik kurallar ve ulusal hazırlık mekanizmalarının oluşturulması yer alıyor.

OpenAI, düzenlemelerin tüm yapay zekâ geliştiricilerini kapsayacak şekilde genişletilmemesi gerektiğini de belirtti. Şirkete göre federal güvenlik gereklilikleri, en gelişmiş sistemleri geliştiren ve yeterli kaynaklara sahip sınırlı sayıdaki öncü yapay zekâ laboratuvarına uygulanmalı; girişimler, küçük geliştiriciler ve öncü sistemler üzerinde çalışmayan araştırmacılar bu kapsamın dışında tutulmalı.

Yapay zekâ sistemleri için bağımsız denetim önerisi

OpenAI, gelişmiş modellerin güvenlik değerlendirmelerinin bağımsız kuruluşlar tarafından yapılmasını istiyor. Şirket, değerlendiricilerin nitelikleri, güvenlik standartları ve hassas bilgilere erişim koşulları için ortak kurallar belirlenmesini öneriyor. Şirket ayrıca yapay zekâ modellerinin başka kuruluşların güvenlik kontrollerini izinsiz şekilde aşması veya korunan sistemlere ve gizli bilgilere erişmesi gibi ciddi olayların ilgili taraflara hızlı biçimde bildirilmesi gerektiğini savunuyor.

Eyalet düzenlemelerine de destek

OpenAI, federal düzenleme hayata geçirilene kadar eyaletlerin yapay zekâ güvenliği konusunda adım atmaya devam etmesi gerektiğini belirtti.

Şirket bu kapsamda Kaliforniya’da yasama sürecinden geçen dört düzenlemeye destek verdiğini açıkladı. Bunlar arasında bağımsız yapay zekâ güvenlik değerlendirmeleri için altyapı oluşturulmasını öngören SB 813, yapay zekâ denetçilerine yönelik standartlar getiren AB 1405, çocuk ve gençlerin yapay zekâ destekli sohbet uygulamalarındaki güvenliğine ilişkin SB 1119 ve yapay zekânın biyolojik tehditlerde kötüye kullanılmasına karşı önlemler içeren AB 1864 bulunuyor.

Küresel standart çağrısı

OpenAI, yapay zekâ güvenliğinin yalnızca ABD’deki düzenlemelerle sınırlı kalmaması gerektiğini de belirtti. Şirket; yapay zekâ yeteneklerinin ölçülmesi, risklerin yönetilmesi, insan kontrolünün korunması ve geliştirme süreçlerinin hangi koşullarda yavaşlatılması veya durdurulması gerektiğine ilişkin uluslararası standartların oluşturulmasını savundu.

Açıklamada ayrıca yapay zekânın tamamen otonom biçimde kendi kendini geliştirdiği bir sürecin bugün gerçekleşmediği, ancak yapay zekânın yeni nesil sistemlerin geliştirilmesi ve hizalanması için yürütülen araştırmaların bazı bölümlerini şimdiden hızlandırdığı belirtildi. OpenAI, bu gelişmelerin güvenlik çalışmalarında da kullanılmasını hedeflediğini açıkladı.

Şirket, gelişmiş yapay zekâ sistemlerinin yetenekleri arttıkça güvenlik standartlarının da aynı ölçüde güçlendirilmesi gerektiğini vurguladı.