Eski Anthropic Çalışanı: Yapay Zeka Gelişimi Durmazsa İnsanlık Yok Olabilir

Yapay zeka (YZ) firması Anthropic'ten ayrılan araştırmacı Jacob Coxon, YZ teknolojisi üzerinde çalışan kişilerin, teknolojinin ilerleme hızından ve insanlık için potansiyel sonuçlarından "gerçekten korktuğunu" dile getirdi. Coxon, mevcut ilerleme hızı yavaşlatılmazsa yakın gelecekte insanlığın yok olma ihtimalinin yüksek olduğunu iddia etti.

Öne çıkanlar

• Eski Anthropic çalışanı Jacob Coxon, YZ'nin kontrolsüz gelişiminin insanlık için "yok olma riski" taşıdığını belirtti.
• Anthropic'in başkanı Dario Amodei de YZ gelişiminin yavaşlatılması ve sektörde düzenlemeler yapılması çağrısında bulundu.
• OpenAI ve xAI gibi rakip firmaların yöneticileri de Amodei'nin yavaşlama ve düzenleme önerisini destekliyor.
• Bazı sektör uzmanları, bu tür uyarıların rekabeti engellemek veya hype yaratmak amaçlı olabileceğini savunuyor.
• Anthropic sözcüsü, şirketin YZ modellerini güçlü güvenlik önlemleriyle geliştirdiğini ve riskleri azaltmak için çalıştığını ifade etti.

Ayrıntılar

Coxon'ın eski patronu, Anthropic başkanı Dario Amodei, YZ gelişiminin yavaşlatılması gerektiğini ve bu teknolojinin ciddi riskler taşıdığını savundu. Amodei, şirketlere ve hükümetlere bu riskleri ele almak için zaman tanınması gerektiğini belirtirken, OpenAI'dan Sam Altman ve xAI'dan Elon Musk gibi diğer büyük YZ firmalarının liderleri de bu yavaşlama ve düzenleme çağrısına destek verdi. Coxon, bu yavaşlamanın uluslararası bir YZ yarışını önlemek için Çin ile koordineli olması gerektiğini vurguladı.

Coxon, bir YZ kıyametinin nasıl görüneceği sorusunun en zor yanıtlanacak soru olduğunu belirtti. Amodei'nin bahsettiği risklerden biri, interneti ele geçirebilecek süper bilgisayar gibi hareket eden bot sürüsü senaryosuydu. Coxon, bu senaryonun altı ay ila bir yıl içinde gerçekçi olabileceğini öne sürdü. Anthropic'ten bir sözcü ise, şirketin YZ'nin hem faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduğunu ve riskleri ele almak için sektördeki en güçlü güvenlik önlemlerine sahip modeller geliştirmeye devam ettiklerini söyledi.

Neden önemli?

Yapay zeka teknolojisinin hızla ilerlemesi, sektör içindeki bazı önemli isimler arasında ciddi endişelere yol açıyor. Bu endişeler, YZ'nin potansiyel tehlikeleri hakkında kamuoyunda farkındalık yaratırken, aynı zamanda YZ gelişimine yönelik uluslararası düzenleme ve işbirliği ihtiyacını da gündeme getiriyor. Ancak bazı eleştirmenler, bu tür uyarıların rekabeti sınırlamak veya şirketlerin piyasa değerini artırmak için bir strateji olabileceğini düşünüyor.