Yapay Zeka Şirketleri, Şiddet Tehditlerini Bildirme ve Kullanıcı Gizliliği Arasında Sıkışıyor

Kanada'da meydana gelen ölümcül bir okul saldırısı, yapay zeka (YZ) şirketlerinin şiddet tehditlerini ne zaman kolluk kuvvetlerine bildirmesi gerektiği ve bu durumun kullanıcı gizliliğini nasıl etkileyeceği konusunda önemli soruları gündeme getirdi. Uzmanlar, kamu güvenliği için YZ'yi yönetme ihtiyacı ile kullanıcı gizliliğini dengelemenin "son derece zor" olduğunu belirtiyor.

Öne çıkanlar

• 2026 yılında Kanada'da yaşanan bir okul saldırısında, saldırganın yapay zeka sohbet botundan (ChatGPT) yardım aldığı iddia edildi.
• British Columbia hükümeti ve kurban aileleri, OpenAI'ye karşı olayı önleyemedikleri gerekçesiyle dava açtı.
• YZ şirketlerinin potansiyel şiddet içeren konuşmaları yetkililere bildirme yükümlülüğü ile kullanıcı gizliliğini koruma sorumluluğu arasında bir denge aranıyor.
• Uzmanlar, YZ modellerinin bir kullanıcının şiddet düşüncelerini eyleme dönüştürme niyetini güvenilir bir şekilde belirleyemediğini vurguluyor.
• Sohbet botlarının yoğun bir şekilde izlenmesinin, özellikle azınlık grupları üzerinde orantısız etkilere yol açabileceği endişesi dile getiriliyor.

Ayrıntılar

10 Şubat 2026 tarihinde Jesse Van Rootselaar, evde annesini ve üvey kardeşini vurduktan sonra British Columbia'daki Tumbler Ridge kasabasında bir okula giderek beş öğrenci dahil altı kişiyi öldürdü ve ardından intihar etti. İddialara göre, 18 yaşındaki Van Rootselaar, aylarca OpenAI'nin ChatGPT'sinden toplu katliam yapma konusunda tavsiye almıştı. OpenAI liderliği, yetkililere haber vermedikleri için kamuoyu önünde özür diledi.

Bu olay, YZ şirketlerinin tehlikeli davranışları bildirme ile bireysel gizliliği koruma arasındaki sınırın nerede çizilmesi gerektiği tartışmasını tetikledi. Medeni haklar avukatı Jenin Younes, şirketleri bir gözetim sistemi uygulamaya zorlamanın çok ciddi sivil özgürlük endişeleri doğuracağını belirtirken, YZ'nin bireylere daha önce sahip olmadıkları bilgi türlerine erişim sağladığını ve bunun büyük zayiatlı olayları kolaylaştırabileceğini de ekledi.

Oxford Üniversitesi'nden kıdemli araştırmacı Fazl Barez, mevcut YZ modellerinin bir etkileşimin sadece varsayımsal mı yoksa zararlı davranışa yol açma olasılığı mı olduğunu güvenilir bir şekilde belirleyemediğini ifade etti. Fordham Üniversitesi'nden hukuk profesörü Chinmayi Sharma ise, ruh sağlığı uzmanlarının aksine, YZ şirketlerinin tehdit göstergeleri konusunda uzmanlığa sahip profesyonelleri işe alma veya yasal olarak uygulanabilir standartlara tabi olma konusunda yeterli çabayı göstermediğini belirtti.

Neden önemli?

Bu tartışma, hızla gelişen yapay zeka teknolojilerinin etik ve hukuki sınırlarını belirlemede kritik bir dönüm noktasını temsil ediyor. YZ şirketlerinin, kullanıcı gizliliğini ihlal etmeden veya ifade özgürlüğünü kısıtlamadan, potansiyel şiddet tehditlerini nasıl ele alacağı sorusu, hem teknoloji dünyası hem de toplum için büyük önem taşıyor. Gelecekteki düzenlemelerin ve politikaların bu olaylardan etkilenerek şekillenmesi bekleniyor.