Affetmeyen bir sistem, farkında olmadan en sert yargıç hâline gelir. Üstelik kimse onun kararını “kötü niyetli” diye suçlayamaz. Çünkü ortada niyet yoktur. Sadece hesap vardır. Ama insan hayatı hesapla ilerlemez. İnsan hayatı sapmalarla, kırılmalarla, ikinci denemelerle ilerler. Belki de bu yüzden önümüzdeki yılların asıl meselesi yapay zekânın ne kadar akıllı olduğu olmayacak. Asıl mesele şu olacak:  İnsan kalmak için hangi alanları algoritmaların dışında tutacağız?

 

 

İnsanlık affetmeyi icat ederek hayatta kaldı. Yanlış yapanın tekrar denemesine, düşenin ayağa kalkmasına, geçmişin bir noktada geride bırakılmasına izin verdi. Hukuk da, ahlak da, toplumsal düzen de bu varsayım üzerine kuruldu: İnsan değişebilir.

Peki algoritmalar?

Bugün yapay zekâ sistemleri hatırlamak üzerine kurulu. Unutmak değil, silmek hiç değil. Bir kez işlenen veri, sistemden çıkmıyor. Sadece başka bir yere taşınıyor. Başka bir modele aktarılıyor. Başka bir kararda yeniden karşına çıkıyor.

İşte dünyada giderek daha yüksek sesle sorulan ama bizde henüz pek duyulmayan soru tam burada:
Affetmeyen bir sistemle birlikte yaşanabilir mi?

Bir insan geçmişte yaptığı bir hatadan dolayı siciline not düşülür ama zamanla bu not nlamını yitirir. Süre geçer, koşullar değişir, kişi değişir. Algoritmalar içinse zaman yalnızca veri miktarını artırır. Eski hata eskimez, sadece yeni bağlamlara eklenir.

Bu yüzden yapay zekâ kararları, insan kararlarından farklı bir ahlaki ağırlık taşır. Çünkü algoritma yanıldığında pişman olmaz. Telafi etmez. “İkinci şans” kavramı onun sözlüğünde yoktur. Model güncellenir ama sonuç çoğu zaman kalır.

Bugün bazı ülkelerde kredi, sigorta ve güvenlik sistemlerinde kullanılan skorlar, fiilen bir karakter notuna dönüşmüş durumda. Bu notun nasıl oluştuğu bilinmiyor. Ne zaman silineceği bilinmiyor. Hatta silinip silinemeyeceği bile net değil.

Bu noktada mesele yapay zekânın adil olup olmaması değil. Mesele, merhamet kapasitesinin sıfır olması.

Çünkü adalet, hata payı olan bir sistemdir. Merhamet ise bilerek hata payı tanır.

Algoritmalar hata payını azaltmak için vardır. Ama hata payı azaldıkça, insan payı da azalır. Dünyada bu yüzden yeni bir kavram tartışılmaya başlandı:
“Algoritmik af hakkı.”

Yani bir insanın, geçmişteki bir verinin artık karar süreçlerinde kullanılmamasını talep edebilmesi. Unutulma hakkının bir adım ötesi. Sadece verinin silinmesi değil, etkisinin de silinmesi.

Türkiye’de bu kavram henüz masada değil. Çünkü biz hâlâ algoritmaları tarafsız sanıyoruz. Oysa tarafsızlık, değer içermemek değildir. Tarafsızlık, değerleri gizlemektir.

Affetmeyen bir sistem, farkında olmadan en sert yargıç hâline gelir. Üstelik kimse onun kararını “kötü niyetli” diye suçlayamaz. Çünkü ortada niyet yoktur. Sadece hesap vardır. Ama insan hayatı hesapla ilerlemez. İnsan hayatı sapmalarla, kırılmalarla, ikinci denemelerle ilerler.

Belki de bu yüzden önümüzdeki yılların asıl meselesi yapay zekânın ne kadar akıllı olduğu olmayacak. Asıl mesele şu olacak:
İnsan kalmak için hangi alanları algoritmaların dışında tutacağız?

Çünkü affetmeyen bir dünyada düzen vardır ama umut yoktur. Ve umut olmayan bir düzen, uzun süre ayakta kalmaz.