Yapay Zeka Halüsinasyonu ABD'yi Çin Gemisine Müdahaleye Yaklaştırdı

ABD ordusu, yapay zeka destekli bir istihbarat raporundaki 'tamamen yanlış' bilgiler nedeniyle Orta Doğu'da bir Çin gemisine müdahale etme eşiğinden döndü. CNN'in haberine göre, bir ABD Özel Harekat Komutanlığı analisti tarafından sunulan bu hatalı rapor, Çin gemisinin nükleer silah programı bileşenleri taşıdığı yönünde iddialar içeriyordu. Yetkililer, raporu oluşturan sohbet botunun geminin taşıdığı materyali yanlış tanımladığını fark edince operasyon son anda iptal edildi.

Öne çıkanlar

• Yapay zeka kaynaklı hatalı bir istihbarat raporu, ABD'nin Çin gemisine askeri müdahalesini tetiklemek üzereydi.
• Rapor, bir sohbet botunun açık kaynak ve gizli sinyal istihbaratını birleştirmesiyle oluşturuldu.
• Yetkililer, sohbet botunun geminin taşıdığı materyali yanlış tanımladığını son anda fark etti.
• Bir kaynak, bu olayın 'neredeyse bir savaşı tetikleyeceğini' belirtti.
• ABD Savunma Bakanlığı, yapay zeka kullanımını hızlandırmak için yeni stratejiler uyguluyor.

Ayrıntılar

CNN'in dört kaynağa dayandırdığı haberine göre, ABD askeri yetkilileri, hava desteğiyle gemiye müdahale etmeye hazırlanıyordu. Analistin, Çin gemisinin manifestosuyla ilgili istihbarat raporlarını analiz etmek için bir sohbet botu kullandığı belirtildi. Bu sohbet botu, açık kaynak istihbaratını (OSINT) hükümetin elindeki gizli sinyal istihbaratıyla (SIGINT) birleştirerek yanıltıcı bir rapor oluşturdu.

Bu olay, yapay zekanın 'halüsinasyon' olarak adlandırılan, yani eğitim verilerinde yeterli bağlam olmadığında bilgi uydurma eğiliminin ciddi sonuçlarını gösteren önemli bir örnek. 2023'te Cambridge Sözlüğü tarafından yılın kelimesi seçilen 'halüsinasyon', gazetecilerden doktorlara kadar birçok alanda profesyonel raporların güvenilirliğini etkiledi.

Neden önemli?

Bu olay, ABD Savunma Bakanlığı'nın yapay zeka kullanımını hızlandırma stratejileri izlediği bir dönemde yaşandı. Savunma Bakanı Pete Hegseth, Ocak ayında başlatılan 'Yapay Zeka Hızlandırma Stratejisi' kapsamında, tüm uygun verilerin yapay zeka kullanımı için erişilebilir hale getirileceğini belirtmişti. Ancak bu tür olaylar, yapay zeka sistemlerinin güvenilirliği ve askeri operasyonlardaki potansiyel riskleri hakkında ciddi soruları gündeme getiriyor.