Anthropic, Yapay Zeka Risklerini Değerlendirmesi İçin Harici Gözlemcilere 'Çalışan Benzeri' Erişim Verdi

Yapay zeka geliştiricisi Anthropic, modellerinin potansiyel risklerini değerlendirmek amacıyla kar amacı gütmeyen METR kuruluşuna “çalışan benzeri” erişim hakkı tanıdı. Bu adım, şirket tarafından, yapay zeka teknolojilerinin kontrolden çıkabileceği yönündeki endişelere karşı güvenlik önlemlerini artırma taahhüdünün bir parçası olarak atıldı.

METR, OpenAI ve Google gibi önde gelen laboratuvarlarla daha önce çalışmış bir kuruluştur. Şimdi ise Anthropic'in ofisinde kendi donanım ve dahili sistemlerine erişimi olan bir ekiple görev yapacak.

Öne çıkanlar

• Anthropic, yapay zeka modellerinin risklerini değerlendirmesi için harici bir denetim kuruluşu olan METR'e “çalışan benzeri” erişim sağladı.
• METR ekibi, Anthropic'in ofisinde şirket donanımına ve dahili sistemlerine erişebilecek.
• Bu karar, yapay zeka sistemlerinin ekonomi, siber güvenlik ve insanlık için oluşturabileceği tehlikelere yönelik artan endişelere bir yanıt niteliğinde.
• METR, bulgularını Anthropic'in onayı olmadan yayınlayabilecek, ancak şirket belirli bilgilerin gizlenmesini talep edebilir.
• Bu düzenleme, Anthropic'in güvenlik uygulamalarına ilişkin şeffaflık ve hesap verebilirlik taahhüdünü gösteriyor.

Ayrıntılar

Anthropic CEO'su Dario Amodei, Eylül ayında OpenAI ve SpaceX'in patronları Sam Altman ve Elon Musk ile harici denetçilerin önde gelen laboratuvarlara dahil edilmesi önerisinde nadir bir fikir birliği sağlamıştı. Perşembe günü yapılan bu duyuru, bu taahhütlerin uygulanmasındaki ilk adımı işaret ediyor. Anthropic, modeller güçlendikçe daha güçlü güvenlik önlemleri ve daha zorlu risk değerlendirmeleri gerektiğini belirtiyor. Şirket, kamuya açık hesap verebilir olmak istediğini ancak güvenlik çalışmalarına ilişkin tüm bilgileri kamuoyuyla paylaşamayacağını ifade etti.

METR, daha önce Hugging Face'in kötü niyetli OpenAI modelleri tarafından hacklenmesini araştıran kuruluşlardan biriydi. Anthropic, altı METR çalışanını işe aldı ve onlara şirket donanımı, ofis alanı ve kendi risk değerlendirme ekiplerinin erişimine benzer dahili araç ve sistemlere erişim sağladı. Anthropic, bu düzenleme için METR'e ödeme yapmıyor; METR, yapay zeka şirketlerinden veya personelinden bağış kabul etmiyor ve bireylerden, hayır kurumlarından ve Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü gibi devlet kurumlarından gelen bağışlarla finanse ediliyor.

Neden önemli?

Bu adım, yapay zeka endüstrisinde artan güvenlik endişelerine karşı atılan somut bir adımı temsil ediyor. Harici denetçilerin bağımsız raporlama yeteneği, yapay zeka geliştiricilerinin şeffaflığını ve hesap verebilirliğini artırabilir. Ayrıca, bu tür işbirlikleri, yapay zeka teknolojilerinin gelişimiyle birlikte ortaya çıkan potansiyel risklerin daha iyi yönetilmesine ve kamu güveninin tesis edilmesine yardımcı olabilir. Anthropic, diğer öncü yapay zeka şirketlerini de benzer adımlar atmaya teşvik ediyor.