Anthropic’te araştırmacı olarak görev yapan Jacob Coxon, şirketten istifa ettiğini duyurarak yapay zekâ sektöründeki gelişmelere ilişkin dikkat çeken değerlendirmelerde bulundu. Daha önce OpenAI’de de çalışan Coxon, son üç yılını iki şirkette ön eğitim araştırmaları yürüterek geçirdiğini belirtti.

Coxon, sosyal medya hesabından yaptığı paylaşımında OpenAI ve Anthropic’in yapay zekâ geliştirme yarışında sorumlu davranmadığını savundu. İki şirketin de kendi kendini geliştirebilen süperzekâ sistemlerine doğru ilerlediğini belirten araştırmacı, bu sürecin insan hayatı açısından ciddi riskler taşıdığını ifade etti.

Coxon, yapay zekâ geliştiren kişilerin teknolojinin on yılın sonuna kadar insanları öldürebileceğine inandığını öne sürdü. Bu değerlendirmelerin kamuoyuna yönelik bir pazarlama söylemi olmadığını belirten araştırmacı, bazı yönetici ve kıdemli araştırmacıların kamuoyu önünde daha temkinli ifadeler kullandığını, ancak özel görüşmelerde risklere ilişkin endişelerini dile getirdiklerini söyledi.

Araştırmacı ayrıca gelecekteki yapay zekâ sistemlerinin insan seviyesinin üzerine çıkabileceğini, siber sistemlere erişebileceğini ve gerçek dünyada güç ve kaynak elde edebileceğini belirtti. Bu yeteneklerdeki ilerlemenin de yavaşlamadığını ifade etti.

OpenAI ve Anthropic için farklı değerlendirme

Coxon, iki şirketin yapay zekâ risklerine yaklaşımının aynı olmadığını savundu. OpenAI’de birçok kişinin konunun “medeniyet açısından taşıdığı önemi” yeterince içselleştirmediğini belirten Coxon, Anthropic’te ise risklerin daha iyi anlaşıldığını ancak şirketin diğer aktörlerin sorumlu davranmayacağı düşüncesiyle yarıştan çekilmediğini söyledi.

“Süperzekâ çalıştırmasını başlatmak” konusunda uyarı

Coxon, yapay zekâ laboratuvarlarında çalışan araştırmacılara da çağrıda bulundu. Araştırmacılardan, bir süperzekâ sisteminin nasıl çalıştığı konusunda yeterli anlayışa sahip olmadan büyük ölçekli pekiştirmeli öğrenme süreçlerini başlatmanın sonuçlarını değerlendirmelerini istedi.

Yapay zekâ yarışının “nasıl olsa gerçekleşecek” düşüncesiyle kabul edilmemesi gerektiğini belirten Coxon, süperzekâ geliştirme sürecinin özel bir şirketin iç yazışmalarında alınacak bir kararla başlatılmasının doğru olmadığını savundu.

ABD’deki yapay zekâ şirketleri arasında koordinasyon çağrısı

Coxon, yapay zekâ şirketleri arasında koordinasyon sağlanabileceği görüşünü de dile getirdi. Temmuz ayında yaşanan Hugging Face saldırısını bu konuda önemli bir uyarı olarak değerlendiren araştırmacı, ABD’deki yapay zekâ laboratuvarları arasında geliştirme hızına ilişkin anlaşmalar yapılmasının mümkün olduğunu söyledi.

Coxon, küresel bir yapay zekâ yarışının önüne geçilemediğini ve bunun için model yeteneklerinin geliştirilmesine geçici bir sınırlama getirilmesi gibi daha kapsamlı adımların gündeme gelebileceğini belirtti.

Coxon’ın açıklamalarının ardından Anthropic’in Alignment Science Lead’i Evan Hubinger da X üzerinden yaptığı paylaşımda, Coxon’ın değerlendirmelerine katıldığını belirterek yapay zekânın insanlığın tamamını yok edebilecek bir tehdit oluşturabileceğini söyledi.