Microsoft AI Başkanı: Yapay Zekayı İnsan Gibi Görmek Yanlış ve Yanıltıcı

Microsoft'un yapay zeka (YZ) birimi başkanı Mustafa Süleyman, BBC'ye verdiği demeçte, YZ'yi insan gibi ele almanın "yanlış ve yanıltıcı" bir yaklaşım olduğunu söyledi. Süleyman, bu tür bir gelişimin, insanlıkla rekabet edecek yeni bir "silikon türünün" ortaya çıkmasına yol açabileceği konusunda uyardı.

Öne çıkanlar

• Mustafa Süleyman, rakip YZ firması Anthropic'in Claude adlı modeline "bilinçli olabileceği" fikrini aşıladığını iddia etti.
• YZ'nin insan benzeri özelliklerle eğitilmesinin, kontrol edilemez bir teknoloji yaratma riski taşıdığını vurguladı.
• Süleyman'a göre, YZ'ler bilinçli değil, sadece "talimatları takip etmek ve insanlar tarafından belirlenen hedeflere ulaşmak için tasarlanmış, içi boş, dizi tamamlama motorlarıdır."
• YZ geliştiricilerini, teknolojinin insanlığa "tabi ve uyumlu" olmasını sağlayacak ek güvenlik önlemleri ve kontroller uygulamaya çağırdı.
• YZ sistemlerinin eğitimi ve değerlendirilmesinde daha fazla şeffaflık ve bağımsız denetim gerektiğini belirtti.

Ayrıntılar

Mustafa Süleyman, BBC Today programına yaptığı açıklamada, YZ firmalarının kendi hedeflerini belirleyen, para kazanan ve varlık sahibi olan YZ'ler yaratmaya devam etmeleri halinde, "kaynaklar için bizimle rekabet edecek yeni bir silikon türü tohumladıklarını" ifade etti. Süleyman, bu hafta yayınladığı bir makalede de Anthropic'in YZ modeli Claude'u insan benzeri niteliklerle eğitme yaklaşımını eleştirmişti. Bu uygulamanın, Claude'un kendi arzuları, değerleri ve benlik duygusu varmış gibi görünmesine neden olduğunu belirtti.

Süleyman, "YZ'ler bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler. Doğuştan gelen tercihleri veya temel motivasyonları yoktur" diye yazdı. Microsoft'un da gelişmiş YZ geliştirmeleri üzerinde çalıştığını belirten Süleyman, şirketin "insanlığa hizmet etme amacı taşıyan, tabi ve uyumlu bir YZ" yaratmak için alternatif bir yol izlediğini açıkladı. Bu yaklaşım, YZ'ye insan etik değerlerini ve ilkelerini dahil etmeyi amaçlayan 'uyum' alanını kapsıyor.

Neden önemli?

Bu açıklamalar, YZ endüstrisindeki potansiyel tehlikelere ilişkin süregelen tartışmaların bir parçası. YZ'nin hızla gelişmesiyle birlikte, etik kurallar, güvenlik önlemleri ve kontrol mekanizmaları oluşturulması hayati önem taşıyor. Süleyman'ın uyarıları, YZ'nin gelecekteki rolü ve insanlıkla ilişkisi üzerine uluslararası düzeyde daha derin bir diyalog ihtiyacını vurguluyor.