ICT Media
Ülkemizde, AB’deki yapay zekâ düzenlemesine eşdeğer bir hukuki düzenleme henüz bulunmamakla beraber AB Yapay Zekâ Yasasına uyumlu olacak şekilde düzenleme yapılmasına yönelik çalışmalar başlatılmıştır. Teknolojinin hızla ilerlemesi karşısında hukuk kurallarının belirli bir sürecin ürünü olması, ülkemizde yapay zekânın hukuki durumunun tamamen belirsiz olduğu yönünde kanılara ve eleştirilere sebep olabilmektedir. İfade etmek gerekir ki, müstakil bir yapay zekâ kanununun henüz bulunmaması, hukukun temel prensipleri ve genel hükümlerin uygulama alanı bulmasını etkilememektedir.
T.C. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi (CBDDO), ICT MEDIA Dergisi’nin “Yapay Zekâ ve Yasal Düzenlemeler” konusundaki sorularını cevaplandırdı:
1- Yapay zekâ teknolojisinin hızla gelişmesiyle birlikte, bu teknolojinin toplum üzerindeki etkilerini nasıl değerlendiriyorsunuz? Mevcut yasal düzenlemelerin yapay zekâ teknolojilerine uygunluğu konusunda ne düşünüyorsunuz? Yapay zekâ teknolojisinin yaygınlaşmasıyla birlikte hangi yasal düzenlemelere ihtiyaç duyulmaktadır?
Yapay zekâ, özellikle son yıllarda insanlığın karşısına çıkan en heyecan verici ve dönüştürücü teknolojilerden biri olmuştur. Günümüzde hızla gelişen ve pek çok alanda uygulama alanı bulan yapay zekânın, gelecekte de hayatımızı kökten değiştirme potansiyeline sahip olduğu değerlendirilmektedir. Bu kapsamda yapay zekâ teknolojilerinin artan bir hızla hayatımızla bütünleşmesi bazı riskleri de beraberinde getirmektedir. Nitekim teknolojinin özümsenmesi kapsamında yaşanan bu süreç her değişim süreci gibi bazı endişelere neden olmakta ve bu endişeler sektörlerden gelen geri bildirimlerle daha da anlamlı hale gelmektedir.
Bu bağlamda Mart 2024 tarihinde Amerikalı yetişkinlerle yapılan bir ankette bu kişilerin yüzde 40’tan fazlasının yapay zekânın toplum üzerinde çok olumsuz ya da olumsuz etkileri olacağını düşündüğü sonucu ortaya koyulmuştur.[1] Aynı anket kapsamında, 18-44 yaş arasındaki katılımcıların yaklaşık üçte birinin yapay zekânın toplum üzerinde olumlu etkisi olacağını düşündüğü belirtilmiştir. Oldukça yakın bir tarihte yapılan bu anketteki sonuçların bireylerin hayatımıza hızla giren bu teknolojilere temkinli bir şekilde yaklaştığına bir örnek teşkil etmektedir.
Gelinen noktada yapay zekâ kaynaklı zafiyetlere ilişkin olay günlükleri ve bunların izlenmesi için uluslararası platformlar oluşturulmaya başlanmıştır. Bununla birlikte yapay zekânın oluşturduğu riskler de doğası gereği “sosyoteknik riskler” şeklinde yeni bir kavramı ortaya çıkarmıştır. Bu risklerin mümkün olduğunca en aza indirilebilmesi için devletlerin ve uluslararası örgütlerin alacağı tedbirler önem arz etmektedir. Bu doğrultuda uluslararası düzeydeki çalışmaların devletleri etkilemesi ve böylece devletlerin egemenlik unsurları ve ulusal politikalarına uygun şekilde uygulamada yeknesaklık sağlanabileceği değerlendirilmektedir. Her ne kadar bahsi geçen risklere yönelik bazı belirsizlikler bulunsa da içerisinde bulunduğumuz süreç çerçeve planlarını oluşturmak için uygundur.
Ülkemizdeki en önemli gelişmelerden biri, Ağustos 2021 tarihinde Türkiye Ulusal Yapay Zekâ Stratejisinin[2] (UYZS) yayımlanmasıdır. UYZS’de yapay zekânın toplum üzerindeki etkisi “Stratejik Öncelik 4: Sosyoekonomik Uyumu Hızlandıracak Düzenlemeleri Yapmak” başlığı altındaki tedbirler ile ele alınmıştır. Bahsi geçen Stratejik Öncelik kapsamında etik ve hukuki senaryolara ilişkin yasal uyum süreçlerinin yürütülmesinden, yapay zekâ alanındaki gelişmelerin sosyoekonomik yapı üzerindeki etkisini değerlendirmeye kadar çok çeşitli başlıklar üzerinde durulmuştur. Öte yandan UYZS kapsamında oluşturulan yönetişim mekanizması altında konumlanmış olan çalışma gruplarından biri de “Yapay Zekâ Hukuku ve Etik Çalışma Grubu”dur. Bu çalışma grubu ilgili tedbirlerin faaliyetlerini destekleyecek çalışmalar yürütmektedir. Bu noktada uluslararası düzenlemeler de yakından takip edilmektedir. Nitekim dünyanın ilk kapsamlı yapay zekâ yasası olarak kabul edilen Avrupa Birliği (AB) Yapay Zekâ Yasasına[3] ilişkin uyumlaştırma çalışmaları da T.C. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi ile T.C. Sanayi ve Teknoloji Bakanlığı iş birliğinde yürütülmektedir.
Teknolojiyle alakalı hususların ele alındığı düzenlemelerin teknolojinin gelişmesiyle güncellenmesi ihtiyacının doğabildiği sık sık gözlemlenmektedir. Dolayısıyla dünya genelinde de mevcut regülasyonların, yapay zekânın hızla gelişen dinamik yapısına tam anlamıyla ayak uydurmasına ilişkin belli aralıklarla güncellemelere tabi tutulduğu görülmektedir. Nitekim ülkemizde de kişisel verilerin korunmasına ilişkin olarak Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR)[4] başta olmak üzere kapsamlı bir uyumlaştırma sürecinin yürütüldüğü ve bu doğrultudaki çalışmaların da yakından takip edildiğini söylemek mümkündür.
2- Kişisel veriler ve veri güvenliği konularında yapay zekâ teknolojileriyle ilgili nasıl bir yasal çerçeve oluşturulmalıdır? Yapay zekâ teknolojilerinin sağlık, askeri ve savunma amaçlarıyla kullanımıyla ilgili ulusal ve uluslararası düzeyde nasıl bir yasal denetim mekanizması oluşturulabilir?
Yapay zekânın risk oluşturmasının temel sebeplerinden biri, bu sistemlerin veriye dayalı sistemler olması yatmaktadır. Bununla birlikte, özel nitelikli kişisel verilerin işlenerek oluşturulduğu sistemlerde ortaya çıkan riskler daha da derinleşmektedir. Veri kaynaklı tehditler için oluşturulacak tedbirlerin hem sosyal hem de teknik yönü nedeniyle, hukuki çarelerin yanında teknik alanda çalışanlar ve hukukçular ve politika yapıcıların birlikte yürüteceği denetim mekanizmaları oluşturulması gerektiği değerlendirilmektedir. Böylece hukuk, veriye dayalı hususlarda korunması gereken menfaatlere ilişkin bir sınır çizerken, teknik disiplinlerin ise çizilen bu sınıra uygun şekilde veri paylaşımını mümkün kılması beklenmektedir. Bunun da mevzuat çalışmalarının metodoloji standartlarıyla desteklenmesi ile mümkün olacağı değerlendirilmektedir.
Ülkemizde kişisel verilerin korunması, temelini T.C. Anayasasının[5] “Özel hayatın gizliliği” başlıklı 20 nci maddesinin üçüncü paragrafından almaktadır. Bahsi geçen paragraf, Anayasamıza 2010 yılında eklenmiş olup: “Herkes, kendisiyle ilgili kişisel verilerin korunmasını isteme hakkına sahiptir. Bu hak; kişinin kendisiyle ilgili kişisel veriler hakkında bilgilendirilme, bu verilere erişme, bunların düzeltilmesini veya silinmesini talep etme ve amaçları doğrultusunda kullanılıp kullanılmadığını öğrenmeyi de kapsar. Kişisel veriler, ancak kanunda öngörülen hallerde veya kişinin açık rızasıyla işlenebilir. Kişisel verilerin korunmasına ilişkin esas ve usuller kanunla düzenlenir.” şeklindedir. Görüldüğü üzere, Anayasamızda kişisel verilerin korunmasına ilişkin hususların kanun ile düzenlenmesi esas alınmıştır. Bu doğrultuda da 2016 tarihinde, 6698 Sayılı Kişisel Verilerin Korunması Kanunu[6] (KVKK) yürürlüğe girmiştir.
En temel bileşeni veri olan yapay zekâ sistemlerinin meydana getirdiği risklerin de bahsi geçen Kanun ile en aza indirgenmesi ve KVKK’nın GDPR’a uyumlaştırılması süreciyle mevcut risklere karşı koruma mekanizmalarının optimize edilmesi hedeflenmektedir. Bununla birlikte, KVKK dışında, ülkemizde kişisel verilerin korunmasına ilişkin birtakım hususlar 5237 Sayılı Türk Ceza Kanunu, 5651
Sayılı İnternet Ortamında Yapılan Yayınların Düzenlenmesi ve Bu Yayınlar Yoluyla İşlenen Suçlarla Mücadele Edilmesi Hakkında Kanun[7] gibi farklı kanunlarda da yer almaktadır.
Ayrıca ülkemizde, ulusal düzeyde yürütülecek veri odaklı çalışmalarda verinin paylaşılması, kullanılması ve saklanması gibi konularda ulusal bir strateji belirlemek amacıyla UYZS kapsamında çalışmalar sürdürülmektedir. Nitekim Orta Vadeli Program (2024-2026)[8]da da belirlenen “Veri esaslı rekabet gücünün artırılmasına yönelik ulusal veri stratejisi hazırlanacaktır.” tedbirine ve On İkinci Kalkınma Planı (2024-2028)[9]’nda yer alan Ulusal Veri Stratejisi ve Eylem Planının hazırlanması ile kamu kurumlarında veri yönetişiminin güçlendirilmesine yönelik 584 ve 967 sayılı politikalara ilişkin görev ve sorumluluk T.C. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi’ne tevdi edilmiştir. Bu kapsamda Birleşmiş Milletler Kalkınma Programı (UNDP)[10] iş birliği ile Türkiye’de veri erişimini, kullanımını ve paylaşımını tanımlayacak olan bir yönetişim çerçevesi oluşturulmasına ilişkin çalışmalar başlatılmış ve Türkiye için Veri Yönetişimi Çerçevesi Öneri Raporu yayımlanmıştır[11]. Ülkemizin öncelikli ihtiyaçları ve uluslararası eğilimler dikkate alınarak Ulusal Veri Stratejisi[12] hazırlık çalışmaları da devam etmektedir.
Yapay zekâ teknolojilerinin geniş kitleleri etkileyebilecek alanlarda kullanılmasına ilişkin risklerin ise daha ciddi riskleri beraberinde getireceği değerlendirilmektedir. Örneğin sağlık sektöründe özel nitelikli kişisel verilerin işlendiği ve bu verilerin öğrenilmesi halinde ilgili kişinin mağdur olmasına ya da ayrımcılığa maruz kalmasına neden olabileceği ihtimali göz önüne alındığında ortaya çıkan risklerin de ayrıca önem arz ettiği söylenebilir. Nitekim bir ülkedeki vatandaşların biyometrik verilerinin ele geçirilmesi ve bu sayede genetik kodlarının saptanabilmesi o ülkeyi dış saldırılara açık hale getirebilecektir. Örneğin, genetik testler yapan bir laboratuvar, kullanıcılarının verilerinin ele geçirildiğini doğrulamıştır.[13] Bu kapsamda neredeyse 7 milyon kişinin verilerinin ele geçirildiği iddia edilmiştir. Bu rakam yalnızca verisi sızan kişileri ilgilendirmemektedir; bu kişilerin alt ve üst soyunu ve daha geniş çapta analiz edilerek kötü niyetli şekilde işlenmesi halinde spesifik toplulukları da savunmasız konumda bırakabilecektir. Dolayısıyla kişilerin rızaları dâhilinde de olsa iyi niyetle yapılan bazı veri aktarımlarının ulusal güvenliğe varabilecek sorunlara sebep olabileceği görülmektedir.
Bu kapsamda, hukuki düzenlemeler, stratejiler ve rehberler kadar, dünya genelinde mevcut düzenin bir parçası olan herkesin dijital okuryazarlık ve mahremiyet konusunda bilinçlenmesi kritik önem arz etmektedir.
3- Yeni teknolojilerin etkileri ülke sınırlarını aşıyor. Yapay Zekânın uluslararası düzeyde regüle edilmesi için ne tür iş birliği mekanizmaları oluşturulmalıdır? Yapay zekâ sistemlerinin uluslararası düzeyde adalet, eşitlik ve insan hakları normlarına uygunluğunu sağlamak için ne adımlar atılabilir?
Yapay zekâ sistemlerinin sınır aşan etkilerinin makul seviyede yönetilebilmesi ve mevcut risklerin azaltılabilmesi için, uluslararası sözleşmelerin hazırlanması ve uygulanması, yapay zekâya özgü uluslararası teknik standartların belirlenmesi ve ülkeler arası iş birliğini teşvik eden platformların kurulması veya hâlihazırda var olan ilgili iş birliği platformlarının, yapay zekâyı da gündemlerine almaları sağlanmalıdır. Bu ihtiyaç UYZS’de de “Uluslararası Düzeyde İş Birliklerini Güçlendirmek” şeklinde stratejik öncelik olarak belirlenmiş olup bu öncelik doğrultusunda yapay zekâ alanındaki uluslararası gelişmeleri takip etmek, uluslararası platformlardaki çalışmalara katkı vermek ve yerli ekosistemin diğer ülkelerdeki paydaşlarıyla etkileşimini artırmak üzere uluslararası çoklu ve ikili iş birliklerinin güçlendirilmesi hedeflenmektedir.
Nitekim ülkemizce, bu nitelikleri taşıyan bölgesel ve uluslararası birçok çalışma yakından takip edilmektedir. Örneğin Türkiye, 2019 yılında onaylanan ve Mayıs 2024’te güncellenen OECD (Ekonomik Kalkınma ve İş Birliği Örgütü)[14] Yapay Zekâ Tavsiye Kararına[15], UNESCO (Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü)[16] 'nun Yapay Zekâ Etiği Tavsiye Kararına[17], G7 Yapay Zekâ Rehber İlkeleri ve Davranış Kurallarına[18], Bletchley Yapay Zekâ Güvenlik Zirvesi Bildirgesi[19] gibi önemli çıktılara aktif katkı sunmuş olup bu dokümanlarda kabul edilen hususlar doğrultusunda politikalarını şekillendirmektedir. Ayrıca Türkiye, 11 Mart 2024’te yayımlanan “Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development”[20] başlıklı Birleşmiş Milletler 78. Genel Kurulu tarafından kabul edilen karar tasarısına eş-sunucu olmuştur. Bu çalışmalar sırasında da gözlemlendiği üzere OECD ve UNESCO nezdinde yürütülen çalışmaların gerek ulusal gerekse uluslararası düzlemde yapay zekâya yönelik olarak yürütülen düzenleme çalışmalarına rehberlik ettiği görülmektedir.
Ek olarak ifade edilmelidir ki ulusal güvenlik bağlamında yapay zekânın geliştirilmesi ve kullanımı için de açık etik yönergeler ve ilkeler oluşturulması önem arz etmektedir. Dolayısıyla, yapay zekâ yaşam döngüsü boyunca şeffaflık, adalet, insan kontrolü ve insan haklarına saygı gibi etik ilkelere bağlılığın sağlanması gerekmektedir. Nitekim Avrupa Konseyi Yapay Zekâ Komitesinin yapay zekâ alanındaki uluslararası sözleşme çalışmaları da yapay zekânın uluslararası düzeyde insan hakları, demokrasi ve hukukun üstünlüğüne uygunluğunu sağlama yolunda atılmış ilk ve önemli bir adımını oluşturmaktadır.
2019-2021 yılları arasında faaliyet göstermiş olan Avrupa Komisyonu Yapay Zekâ Geçici Komitesinin (Ad Hoc Committee on Artificial Intelligence - CAHAI)[21] 2021 yılında görev süresi dolmuş ve 1 Ocak 2022 - 31 Aralık 2024 tarihleri arasında çerçeve sözleşme çalışmalarına devam etmek üzere Yapay Zekâ Komitesi (Committee on Artificial Intelligence- CAI)[22] Avrupa Konseyi bünyesinde görevine başlamıştır. Yapay Zekâ Komitesinin ülkemiz nezdindeki Sekretarya ve Delegasyon Başkanlığı görevi T.C. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi tarafından yürütülmüş ve çerçeve sözleşmenin yazım aşamasında ülkemiz adına aktif katkı sağlanmıştır. Çerçeve sözleşmenin amacı, yapay zekâ yaşam döngüsünün insan haklarına saygı, demokrasi ve hukukun üstünlüğü ilkeleri ile uyumlu olmasını sağlamayı amaçlayan bazı temel ilkelerin ve yükümlülüklerin belirlenmesidir. Çerçeve Sözleşme, yapay zekânın yaşam döngüsü boyunca insan hakları, demokrasi ve hukukun üstünlüğünün korunmasını hedeflemekte olup halihazırda mevcut olan ilkeleri tamamlayıcı niteliktedir. Söz konusu çerçeve sözleşme, 16-17 Mayıs 2024 tarihlerinde Strazburg’da yapılan Avrupa Konseyi üyesi 46 ülkenin Dışişleri Bakanlarını bir araya getiren Avrupa Konseyi Bakanlar Komitesinin yıllık bakanlar toplantısı[23] sırasında kabul edilmiş olup[24] 5 Eylül 2024 tarihinde imzaya açılacaktır.[25]
4- Avrupa Parlamentosu, Avrupa Yapay Zekâ Yasasını onayladı. Söz konusu yasa, yapay zekâyla ilgili ne tür düzenlemeler içeriyor?
13 Mart 2024 tarihinde Avrupa Parlamentosu tarafından onaylanan Avrupa AB Yapay Zekâ Yasası[26], 21 Mayıs 2024 tarihinde ise AB Konseyi tarafından onaylanmış olup[27] AB Yapay Zekâ Yasasının yakında AB Resmî Gazetesinde yayımlanması beklenmektedir. Yasanın ne tür düzenlemeler içerdiği hususuna değinmeden evvel yasanın yürürlüğe girme süreci ile ilgili kısa bir açıklamaya yer verilmesinde fayda bulunmaktadır. AB Yapay Zekâ Yasasında, yasanın AB Resmî Gazetesi’nde yayımlanmakla bütünüyle yürürlüğe girmesi yerine kademeli olarak yürürlüğe girmesi öngörülmüştür. Yasanın 113 üncü maddesinde, yasanın, AB Resmî Gazetesi’nde yayımlanmasını takip eden 20 nci günde yürürlüğe gireceği belirtilmiş ve 113 üncü maddede özel olarak belirtilen hükümler bakımından ayrı yürürlüğe girme süreleri öngörülmüştür.
AB Yapay Zekâ Yasasının odağında şeffaflık ve temel hakların korunması vurgusunun yer aldığı söylenebilir. Yapay zekâ teknolojilerinin geliştirilmesinden devreden çıkarılmasına kadar olan süreçleri düzenlemeyi amaçlayan yasa, ülkeleri bir Risk Yönetim Çerçevesi benimseye zorlamaktadır. Bu kapsamda yasa, risk temelli bir yaklaşımı benimsemekte ve yapay zekâ sistemlerini yüksek risk, düşük risk, kabul edilemez risk ve sınırlı risk olarak sınıflandırmaktadır. Bu sınıflandırma doğrultusunda temel hak ve hürriyetlere yönelen risklerin ortaya çıkarabileceği zararlar ile orantılı olarak sorumluluklar da artmaktadır. Örneğin yasa, yüksek riskli yapay zekâ sistemleri bakımından risk yönetim sistemlerinin oluşturulmasını, risk yönetiminin uygulanmasını ve bu sistemlerle ilgili süreçlerin belgelenmesini gerekli kılmaktadır. Ek olarak birtakım yüksek riskli yapay zekâ sistemlerinin yasada belirtilen hallerde ve sayılan aktörler tarafından konuşlandırılmasından önce temel haklar etki değerlendirmesi yapılması zorunlu kılınmaktadır. Yasada ayrıca yüksek riskli yapay zekâ sistemlerinin geliştirilmesi ve kullanımında başkaca yükümlülükler de getirilmektedir. Buna örnek olarak, yüksek riskli yapay zekâ sistemlerinin bu sistemlere özgü oluşturulmuş veri tabanına kaydedilmesi yükümlülüğü ile yüksek riskli yapay zekâ sistemlerinin bir uygulaması olan duygu tanıma sistemlerinin kullanılması durumunda bu sistemlere maruz kalan gerçek kişilerin bilgilendirilmesi yükümlülüğü gösterilebilecektir.
Bu yükümlülükler açısından ele alındığında AB Yapay Zekâ Yasası, kimi kesimlerce inovasyonun önünde bir engel olarak nitelendirilebilmektedir[28]. Örneğin teknoloji milyarderleri tarafından; yasanın sınır aşan niteliğinden dolayı düzenlenmesinin uluslararası iş birliği ve koordinasyon gerektirdiği fakat farklı yasal çerçeveler ve kültürel farklılıklar göz önüne alındığında bu sürecin karmaşık olabileceği iddia edilmiştir. Yine de dünya çapında tek bir düzenleme yapılması pek olası gözükmemektedir. Dolayısıyla AB'nin ve diğer devletlerin kendi yasalarının olması olağan ve beklenen bir uygulama olarak kabul edilmektedir. Bu doğrultuda temel beklenti, teknolojinin yarattığı riskler konusunda ortak bir anlayış benimsemek ve ulusal düzenlemeler içindeki ve arasındaki kör noktaları kapatmak için iş birliğinin sağlanması yönündedir.
Yapay zekâya yönelik getirilen düzenlemelerin; yapay zekânın etik kullanımının sağlanması, insan haklarının ve güvenliğinin etkin bir şekilde korunması, yapay zekânın ortaya çıkarabileceği olumsuz sosyal ve ekonomik etkilerin azaltılması gibi endişe duyulan konularda faydalı olacağı değerlendirilmektedir.
Bununla beraber Yasa, yapay zekâ sistemlerinin geliştirilmesi, test edilmesi ve doğrulanması için kontrollü bir ortam sağlayan yapay zekâ düzenleyici kum havuzlarının[29] (regulatory sandboxes), yenilikçi yapay zekâ sistemlerinin gerçek dünya koşullarında test edilmesinin de önünü açmaktadır. Ulusal düzenleyici kum havuzlarının yanında uluslararası düzenleyici kum havuzlarının oluşturulmasının önem arz ettiği göz önüne alındığında mevcut düzenlemenin olumlu bir gelişme olduğu değerlendirilmektedir.
5- Türkiye'de yapay zekâ teknolojilerinin regülasyonu konusunda mevcut durumu nasıl değerlendiriyorsunuz? Türkiye'de yapay zekâ teknolojilerinin etik ve güvenlik standartlarını belirlemek için hangi yasal adımlar atılmalıdır?
Ülkemizde, AB’deki yapay zekâ düzenlemesine eşdeğer bir hukuki düzenleme henüz bulunmamakla beraber AB Yapay Zekâ Yasasına uyumlu olacak şekilde düzenleme yapılmasına yönelik çalışmalar başlatılmıştır. Teknolojinin hızla ilerlemesi karşısında hukuk kurallarının belirli bir sürecin ürünü olması, ülkemizde yapay zekânın hukuki durumunun tamamen belirsiz olduğu yönünde kanılara ve eleştirilere sebep olabilmektedir. İfade etmek gerekir ki, müstakil bir yapay zekâ kanununun henüz bulunmaması, hukukun temel prensipleri ve genel hükümlerin uygulama alanı bulmasını etkilememektedir. Başta T.C. Anayasası, ülkemizin taraf olduğu ilgili sözleşmeler[30], KVKK, 5237 sayılı Türk Ceza Kanunu[31], 5846 sayılı Fikir ve Sanat Eserleri Kanunu[32] olmak üzere sair mevzuatımızda yapay zekâ bakımından uygulanabilecek hükümler ve temel prensipler yer almaktadır.
Ek olarak ihtiyaç duyulan hukuki düzenlemelerin de, var olan durumu gözlemleyerek gerekli risk ve etki değerlendirmelerinin sonucuna göre ve katılımcı bir sürece yayılarak yapılması temel hedef olmalıdır. Gelişen teknolojiler ile birlikte sürekli olarak yeni zorluklar ve riskler ve ortaya çıkmakta ve bunlarla başa çıkabilmek için çevik ve esnek politikalar benimsenmesi, yapılan düzenlemelerin de yeni teknolojileri karşılayacak şekilde kaleme alınması gerekmektedir. Böylesi bir yaklaşım, yapay zekâ teknolojilerinin ortaya çıkarabileceği gelecek problemlere yönelik hukuki çareleri de içeren bir hukuki düzenlemenin yapılmasını ve uygun politikaların benimsenmesini kolaylaştıracaktır. Zira dinamik teknolojiler karşısında ani reflekslerle yahut düzenleme yapma yarışında zirvede olma dürtüleri ile yapılan düzenlemeler, sık sık değişikliğe ihtiyaç duyma riski taşımaktadır.
Böylesine dinamik bir sürece uyum sağlanabilmesi için ise gelişmelere ayak uydurmanın ve en yeni teknolojileri düzenlemenin zorlukları ileri sürülmektedir. Bununla birlikte, AB'nin önerdiği risk temelli yaklaşım bahsi geçen zorluklara karşı makul bir yöntem olarak değerlendirilebilecektir. Bu nedenle ülkemizde de insan odaklı bir yaklaşımla ele alınan ve yakın gelecekte ortaya çıkması öngörülen sosyal, hukuki, ekonomik ve benzeri problemlere mümkün olduğunca karşılık verebilen bir kanunun hazırlanması hedeflenmektedir.
Yapay zekâ teknolojilerinin etik ve güvenlik standartlarının belirlenmesinde ise öncelikle kanunlar, uluslararası sözleşmeler ve bunlara dayanılarak çıkarılan sair mevzuat genel olarak gözetilmesi gereken kural ve prensipleri içermeleri açısından kritik öneme sahiptir. Hukuki düzenlemelerde ortaya konulan kural ve prensiplerin uygulanmasına yönelik metodoloji standartlarla belirlenebilmektedir. Günümüzde ISO (Uluslararası Standartlar Teşkilatı)[33], ITU (Uluslararası Telekomünikasyon Birliği)[34], NIST[35] (ABD Ulusal Standartlar ve Teknoloji Enstitüsü), IEEE (Elektrik ve Elektronik Mühendisleri Enstitüsü)[36] gibi kuruluşların yapay zekâya ilişkin standardizasyon faaliyetleri bulunmaktadır. Ülkemizde de uluslararası çalışmaları takip etmek ve katkı sunmak amacıyla Türk Standartları Enstitüsü bünyesinde Yapay Zekâ Ayna Komitesi oluşturulmuştur. Söz konusu standartlara uyum gönüllülük esasına dayalı olsa da standartlara uyulması ile güvenlik risklerinin en az düzeye indirgenmesi sağlanabilecektir. Söz konusu standartlara dayalı sertifikasyon hizmetlerinin zorunlu ve sürdürülebilir olması için hukuki referansların oluşturulması gerektiği de unutulmamalıdır.
Yapay zekânın etik ilkelere uygun bir şekilde kullanımına ilişkin birtakım uluslararası çalışmalar da bulunmaktadır. Bu çalışmalardan OECD ve UNESCO tarafından yayımlanan tavsiye ve rehber çalışmalarının, ülkelerin ve diğer uluslararası kuruluşların yapay zekâya ilişkin hukuk politikaları üzerinde etkili olduğu gözlemlenmektedir. Bu kapsamda OECD tarafından, (1) kapsayıcı büyüme, sürdürülebilirlik, iyi olma hali, (2) insan merkezli değerler ve adalet, (3) şeffaflık ve açıklanabilirlik, (4) sağlamlık, güvenlik ve emniyet, (5) hesap verebilirlik olmak üzere yapay zekâ etik ilkeleri belirlenmiştir.[37] İlaveten, UNESCO tarafından ise 23 Kasım 2021 tarihinde Yapay Zekâ Etiği Üzerine Tavsiye Kararı[38] kabul edilmiş ve OECD etik ilke ve değerlerine benzer şekilde yapay zekâ değer ve ilkeleri ortaya konulmuştur. Söz konusu prensipler ile yukarıda da ifade edildiği üzere ilgili teknik standartlara uyumun da sağlanması ile risklerin bir kısmının bertaraf edilebileceği değerlendirilmektedir. Nitekim söz konusu prensipler dikkate alınarak aynı prensiplere yer veren UYZS’de de Yapay Zekâ Risk Yönetimine ilişkin hususlar “Güvenilir ve Sorumlu Yapay Zekâ” çalışmaları altında ele alınmaktadır. Bu çalışmalar kapsamında bir denetim mekanizmasının hayata geçirilmesi amacıyla T.C. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi tarafından ilgili kuruluşlar ile iş birliği çerçevesinde çeşitli çalışmalar yürütülmektedir.
Yapay zekânın etik kullanımının temin edilebilmesi, yukarıda sayılan veya uygulanabilir başkaca ilkelerin, ülkelerin ulusal düzenlemelerinde açık hüküm altına alınması ile mümkün olabilecektir. Ancak bu noktada etiğin, “belirli bir yazılı normlar bütünü, bir grup insanın belirli amaçlarla oluşturduğu norm bütünleri” veya “belirli bir grupta, belirli bir zamanda, kişilerin birbirleriyle ilişkilerinde değerlendirmelerini ve eylemlerini belirlemeleri beklenen değerlendirme ve davranış normları sistemleri”[39] olarak tanımlanabildiği ve hukuktan ayrı bir disiplin olarak ele alındığının akılda tutulmasında fayda bulunmaktadır. Bu bakımdan, etik ve hukuk arasındaki disiplin ve yaklaşım farklılıkları göz önünde bulundurularak yapay zekânın etik ve hukuk kurallara uygun olarak kurgulanabilmesi hem etik uzmanlarının hem hukukçuların hem de ilgili tüm paydaşların iş birliği ile mümkün olabilecektir.
[1] Thormundsson, Bergur. Adults in the United States on the impact of AI on the society as of March 2024, by age group, 2024. https://www.statista.com/statistics/1466914/opinion-ai-impact-on-society-us-by-age/, Erişim Tarihi: 24/05/2024.
[2] Ulusal Yapay Zekâ Stratejisi 2021-2025, https://cbddo.gov.tr/SharedFolderServer/Genel/File/TR-UlusalYZStratejisi2021-2025.pdf, Erişim Tarihi: 24/05/2024.
[3] AB Yapay Zekâ Yasasının AB Konseyi tarafından onaylanan versiyonu için bkz. https://data.consilium.europa.eu/doc/document/PE-24-2024-INIT/en/pdf, Erişim Tarihi: 24/05/2024.
[4] Avrupa Birliği Genel Veri Koruma Tüzüğü, https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016R0679, Erişim Tarihi: 24/05/2024.
[5] Türkiye Cumhuriyeti Anayasası, 1982, https://www.mevzuat.gov.tr/MevzuatMetin/1.5.2709.pdf, Erişim Tarihi: 24/05/2024.
[6] 6698 sayılı Kişisel Verilerin Korunması Kanunu, 2016. https://www.mevzuat.gov.tr/mevzuat?MevzuatNo=6698&MevzuatTur=1&MevzuatTertip=5, Erişim Tarihi: 24/05/2024.
[7] 5651 Sayılı İnternet Ortamında Yapılan Yayınların Düzenlenmesi ve Bu Yayınlar Yoluyla İşlenen Suçlarla Mücadele Edilmesi Hakkında Kanun, 2007. https://www.mevzuat.gov.tr/mevzuatmetin/1.5.5651.pdf, Erişim Tarihi: 24/05/2024.
[8] Orta Vadeli Program (2024-2026), 2023. https://www.sbb.gov.tr/wp-content/uploads/2023/09/Orta-Vadeli Program_2024-2026.pdf, Erişim Tarihi: 24/05/2024.
[9] On İkinci Kalkınma Planı (2024-2028), 2023. https://www.sbb.gov.tr/wp-content/uploads/2023/12/On-Ikinci-Kalkinma-Plani_2024-2028_11122023.pdf, Erişim Tarihi: 24/05/2024.
[10] United Nations Development Programme, https://www.undp.org/about-us, Erişim Tarihi: 24/05/2024.
[11] Veri Yönetişimi Çerçevesi - Türkiye için Tavsiye Raporu, 2024. https://www.undp.org/tr/turkiye/publications/veri-yonetisimi-cercevesi-turkiye-icin-tavsiye-raporu, Erişim Tarihi: 24/05/2024.
[12] Ulusal Veri Stratejisi, https://cbddo.gov.tr/ulusal-veri-stratejisi/, Erişim Tarihi: 24/05/2024.
[13] McCallum&Tidy, 23andMe: Profiles of 6.9 million people hacked, 2023. https://www.bbc.com/news/technology-67624182, Erişim Tarihi: 24/05/2024.
[14] Organisation for Economic Co-operation and Development, https://www.oecd.org/about/, Erişim Tarihi: 24/05/2024.
[15] OECD AI Principles overview, https://oecd.ai/en/ai-principles, Erişim Tarihi: 24/05/2024.
[16] United Nations Educational, Scientific and Cultural Organization, https://www.unesco.org/en, Erişim Tarihi: 24/05/2024.
[17] Recommendation on the Ethics of Artificial Intelligence, https://unesdoc.unesco.org/ark:/48223/pf0000381137, Erişim Tarihi: 24/05/2024.
[18] G7 Yapay Zekâ Rehber İlkeleri ve Davranış Kuralları’na ilişkin basın duyurusu için bkz. https://ec.europa.eu/commission/presscorner/detail/en/ip_23_5379, Erişim Tarihi: 26/05/2024.
[19] The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 November 2023. https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023, Erişim Tarihi: 26/05/2024.
[20] Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development, https://digitallibrary.un.org/record/4043297, Erişim Tarihi: 26/05/2024.
[21] Avrupa Komisyonu Yapay Zekâ Geçici Komitesi (Ad Hoc Committee on Artificial Intelligence – CAHAI), https://www.coe.int/en/web/artificial-intelligence/cahai, Erişim Tarihi: 24/05/2024.
[22] Yapay Zekâ Komitesi (Committee on Artificial Intelligence- CAI), https://www.coe.int/en/web/artificial-intelligence/cai, Erişim Tarihi: 24/05/2024.
[23] 133rd Session of the Committee of Ministers (Strasbourg, France - 16-17 May 2024), https://www.coe.int/en/web/cm/cm-133-session, Erişim Tarihi: 24/05/2024.
[24] Council of Europe adopts first international treaty on artificial intelligence, https://www.coe.int/en/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence, Erişim Tarihi: 25/05/2024.
[25] Committee on Artificial Intelligence (CAI), https://www.coe.int/en/web/artificial-intelligence/cai, Erişim Tarihi: 27/05/2024.
[26] AB Yapay Zekâ Yasası.
[27] Council of the EU, Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI, 21 Mayıs 2024, https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/, Erişim Tarihi: 24/05/2024.
[28] Big Tech execs say Europe’s new AI law could harm innovation, https://edition.cnn.com/2024/05/24/tech/meta-amazon-ai-fears-eu-law/index.html, Erişim Tarihi: 24/05/2024.
[29] Yasanın Tanımlar başlıklı 3 üncü maddesinin 55 inci alt fıkrasındaki tanım doğrultusunda düzenleyici kum havuzu kavramı YZ sistemlerinin güvenli bir şekilde geliştirilmesini, test edilmesini ve doğrulamasını kolaylaştıran, belirli bir plan doğrultusunda bir kamu kuruluşu tarafından oluşturulan kontrollü bir ortam olarak tanımlanabilir.
[30] Türkiye’nin taraf olduğu çok taraflı sözleşmeler için bkz. Avrupa Konseyi Sözleşmeleri, https://diabgm.adalet.gov.tr/sayfadetay/avrupa-konseyi-sozlesmeleri02062023122709,
Birleşmiş Milletler Sözleşmeleri, https://diabgm.adalet.gov.tr/sayfadetay/birlesmis-milletler-sozlesmesi02062023124208,
Lahey Sözleşmeleri, https://diabgm.adalet.gov.tr/sayfadetay/lahey-sozlesmeleri02062023125538, Erişim Tarihi: 24/05/2024.
[31] 5237 sayılı Türk Ceza Kanunu, 2004, https://www.mevzuat.gov.tr/MevzuatMetin/1.5.5237.pdf, Erişim Tarihi: 24/05/2024.
[32] 5846 sayılı Fikir ve Sanat Eserleri Kanunu, 1951, https://www.mevzuat.gov.tr/mevzuatmetin/1.3.5846.pdf, Erişim Tarihi: 24/05/2024.
[33] International Organization for Standardization, https://www.iso.org/about-us.html, Erişim Tarihi: 24/05/2024.
[34] International Telecommunication Union, https://www.itu.int/en/about/Pages/default.aspx, Erişim Tarihi: 24/05/2024.
[35] U.S. National Institute of Standards and Technology, https://www.nist.gov/about-nist, Erişim Tarihi: 24/05/2024.
[36] Institute of Electrical and Electronics Engineers, https://www.ieee.org/about/index.html, Erişim Tarihi: 24/05/2024.
[37] OECD AI Principles overview, Erişim Tarihi: 24/05/2024.
[38] Recommendation on the Ethics of Artificial Intelligence, Erişim Tarihi: 24/05/2024.
[39] KUÇURADİ, Ioanna, “Etik ve ‘Etikler’”, https://ww4.ticaret.edu.tr/icm/wp-content/uploads/sites/121/2020/03/Etik-ve-Etikler.pdf, Erişim Tarihi: 24/05/2024.
