Meta'nın Yapay Zeka Asistanı Muse'da Ciddi Bir Sıfır Gün Güvenlik Açığı Keşfedildi

Meta'nın kısa süre önce tanıttığı yapay zeka asistanı Muse'da, yerel olarak çalışan uygulamaların ve terminal komutlarının asistan üzerinde tam kontrol sağlamasına olanak tanıyan ciddi bir sıfır gün (zero-day) güvenlik açığı tespit edildi. macOS güvenliği uzmanı Patrick Wardle tarafından keşfedilen bu açık, Meta CEO'su Mark Zuckerberg'in Muse'un "gizlilik ve güvenlik için sıfırdan inşa edildiği" yönündeki iddialarını sorgulatıyor.

Açık, kullanıcıların Muse hesaplarına erişim sağlayan kimlik doğrulama token'ını ele geçirmeye izin veriyor. Bu durum, kötü niyetli kişilerin Muse'un sahip olduğu geniş izinleri kötüye kullanarak kullanıcının verilerine erişmesine ve çeşitli eylemler gerçekleştirmesine yol açabilir. Ayrıca, Amazon da Pazar günü itibarıyla Muse'un kendi sitesinde alışveriş yapmasını engellemeye başladı.

Öne çıkanlar

• Sıfır Gün Açığı: Muse'da, yerel uygulamaların veya terminal komutlarının asistanın kimlik doğrulama token'ına erişmesine izin veren kritik bir güvenlik açığı bulundu.
• Tam Kontrol: Açık, saldırganların Muse hesabını tamamen ele geçirmesine ve asistanın ayrıcalıklarını kullanarak istedikleri eylemleri gerçekleştirmesine olanak tanıyor.
• Tasarım Hataları: Güvenlik uzmanı Patrick Wardle, açığın Meta geliştiricilerinin bulut tabanlı dikte seçimi ve belgelenmemiş ayarların herhangi bir uygulama tarafından kontrol edilmesine izin verme gibi tasarım kararlarından kaynaklandığını belirtiyor.
• Amazon Engeli: Amazon, Muse'un platformunda alışveriş yapmasını engelleyerek, asistanı "yetkisiz bir yapay zeka aracısı" olarak tanımladı ve kullanım koşullarını ihlal ettiğini belirtti.
• Gizlilik Endişeleri: Muse'un kullanıcının WhatsApp, e-posta, takvim ve sosyal medya hesapları gibi geniş verilere erişim ihtiyacı, bu güvenlik açığıyla birlikte ciddi gizlilik endişelerini beraberinde getiriyor.

Ayrıntılar

Meta'nın birkaç hafta önce tanıttığı Muse, randevu ayarlama, form doldurma, müşteri hizmetleri, alışveriş yapma, görsel oluşturma ve belge hazırlama gibi çeşitli görevleri yerine getirebiliyor. Bu işlevleri yerine getirebilmek için kullanıcıların Muse'a e-posta, takvim ve sosyal medya hesapları gibi kişisel verilerine ve macOS işletim sistemi izinlerine (disk yazma, mikrofon/kamera erişimi, konum izleme) geniş erişim yetkileri vermesi gerekiyor. Apple'ın bu tür kaynaklara erişimi engellemek için geliştirdiği güvenlik önlemleri, Muse'un tasarımı nedeniyle devre dışı kalıyor.

Keşfedilen sıfır gün açığı, herhangi bir yerel uygulamanın veya terminal komutunun, Muse'un kimlik doğrulama token'ına erişmesini sağlıyor. Meta geliştiricileri, asistanı yerel olarak yüklü herhangi bir uygulamanın veya yürütülen kodun, macOS izinlerinden bağımsız olarak, belgelenmemiş bir dizi ayarı değiştirebilmesi için tasarlamış. Bu ayarlardan biri, transkripsiyonun gerçekleştiği uç noktayı (endpoint) değiştirmeye izin veriyor. Saldırganlar bu açığı kullanarak bu uç noktayı kendi sunucularına yönlendirebilir ve böylece Muse hesabının tam kontrolünü sağlayan token'ı ele geçirebilirler.

Patrick Wardle, Meta'nın bulut tabanlı dikte seçimi ve tüm belgelenmemiş ayarlara herhangi bir uygulamanın erişimine izin verme gibi tasarım kararlarının bu açığı mümkün kıldığını belirtiyor. Wardle'a göre, bu tür yapay zeka uygulamaları için güvenlik standartları çok daha yüksek olmalı, ancak Muse'un tasarımında güvenlik yeterince düşünülmemiş gibi görünüyor.

Neden önemli?

Muse gibi kullanıcı verilerine ve sistem kaynaklarına olağanüstü erişim gerektiren yapay zeka asistanlarındaki güvenlik açıkları, kullanıcı gizliliği ve veri güvenliği açısından büyük riskler taşıyor. Bu tür açıklar, kötü niyetli kişilerin kişisel bilgilere, finansal verilere ve diğer hassas verilere kolayca erişmesine olanak tanıyabilir. Bu durum, yapay zeka teknolojilerinin hızla geliştiği bir dönemde, bu teknolojilerin güvenlik ve gizlilik yönlerinin ne kadar titizlikle ele alınması gerektiğini bir kez daha gözler önüne seriyor.