“Yapay zekayı durdurma” çağrılarına yenileri ekleniyor

Yapay Zeka Teknolojileri Kendi Kodlarını Yazarak Evrimleşiyor

Yapay zeka teknolojilerinin kendi kodlarını yazarak “insansız şekilde evrimleşebileceği” noktasına yaklaşması, ülkeleri ve şirketleri önlem almaya çağırıyor. ABD merkezli yapay zeka şirketi Anthropic, “Yapay Zeka Kendini İnşa Ettiğinde” başlıklı makalesiyle bu konuya dikkat çekti. Şirketin paylaştığı verilere göre, bir yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebildiği teorik eşiğe ulaşmanın beklenenden çok daha yakın olduğu ve otonom yazılım döngülerinin oluşturulduğu belirtiliyor.

Anthropic, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğine işaret ederek, Claude yazılım sisteminde kendi üretim kod tabanına entegre edilen kodların yüzde 80’den fazlasının model tarafından yazıldığını açıkladı. Şirket, yapay zekanın 5 aşamalı yolculuğunda şu anda 4. aşamada olduğunu belirtiyor.

Raporda yapay zekadaki gelişimin 5 aşamaya bölündüğü ifade ediliyor. İlk aşamada çalışmanın normal bir şirkette çalışmak gibi olduğu belirtilirken, ikinci aşamada çalışanların üretken yapay zekalardan yardım alarak kod yazdıkları, üçüncü aşamada ise ajan yapay zekaların kendi kendine kod yazabilir hale geldiği vurgulanıyor. Günümüzde ise kodları kendi çalıştırabilen ve işleri diğer yapay zekalara devredebilen bir konuma gelindiği ifade ediliyor. Şirketin 5. aşama olarak öngördüğü noktada ise ajanların kendi modellerini oluşturup eğitebilecek kadar yetenekli hale geleceği ve yapay zekanın gelecekteki sürümlerinin bizzat kendisi tarafından sürekli olarak geliştirilebileceği belirtiliyor.

Yapay zekanın ilerleyişiyle ilgili endişeler artarken, Future of Life Institute (FLI) tarafından yapılan bir çağrıda, GPT-4’ten daha güçlü sistemlerin eğitimine en az 6 ay süreyle ara verilmesi istenmişti. Bu çağrıda, yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler taşıdığı vurgulanmış ve distopik senaryolara dikkat çekilmişti.

Yapay zekanın yatırımlarının artmasıyla birlikte, küresel yapay zeka pazarı hızla büyümeye devam ediyor. Gartner’a göre, 2026 yılında küresel yapay zeka harcamalarının 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025 yılındaki 1,76 trilyon dolarlık harcamaya kıyasla yüzde 47’lik büyük bir artışı işaret ediyor. Şirket, yapay zeka harcamalarının 2027 yılında 3,49 trilyon dolara yükseleceğini öngörüyor.