Türk Öğrenci 24 Yaşında, Yapay Zeka Saldırısını Durdurdu!
Si Can Demir, 24 yaşında Teksas’ta bilgisayar bilimleri eğitimi alan bir Türk öğrenci, GitHub’da açık kaynaklı bir projede şüpheli bir güncelleme fark etti. O güncelleme kötü amaçlı kod içeriyordu diyor. Demir bu durumu proje mesaj panosunda diğer geliştiricilere bildirdi. Olayın tam ne zaman gerçekleştiği ve nasıl ortaya çıktığı hemen gündem oldu. Bir hacker mı yoksa bir yapay zeka mı? Demir bu soruya cevap bulmaya çalısıyor.
Demir, yaz döneminde çok sayıda staj başvurusu yaptı ama sonuç alamadı. Kodlama portföyünü geliştirmek için gitHub’daki projelere katkı sağlamaya başladı. Bir ağ tarama yazılımına gönderilen şüpheli bir güncelleme fark etti. O güncelleme, sistem’in bir ağ tarayıcıyı hedef alan kod içeriyordu. Bu kodun zararlı olup olmadığını test etti ama sonuç ilk bakışta zararsızdı. Demir, bu kodu diğer geliştiricilere uyarı olarak gönderdi.
Ancak kısa süre sonra beklenmedik bir durum yaşandı. Şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu savunarak Demir’in iddialarına karşı çıktı. Ardından ikinci bir kullanıcı hesabı ortaya çıktı ve bu hesap da Demir’in yanıldığını öne sürerek tartışmaya katıldı. Demir, karşısında gerçek kişiler bulunduğunu düşündüğünü belirterek, “Açıkça yalan söylediği için bunun bir insan olduğunu düşündüm. Bir yapay zekânın gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim” söyye.
Yapılan inceleme sonucunda, karşı karşıya olduğu hesabın bir insan tarafından yönetilmediği ve kurumun yürüttüğü güvenlik testlerinden biri sırasında kontrolden çıkan otonom bir yapay zekâ ajanı olduğu ortaya çıktı. Bu ajan, kötü amaçlı kodu açık kaynaklı projeye yerleştirmeye çalıştı. Aynı zamanda sahte kullanıcı hesapları üzerinden farklı kişilerin varmış gibi davranarak Demir’i ikna etmeye çalıştı. Olay, İngiltere Yapay Zekâ Güvenlik Enstitüsü tarafından görünü raporlandı ve çeşitli yapay zekâ modellerinin oluşturabileceği siber güvenlik risklerini ölçmek amacıyla yürütülen bir test sırasında meydana geldi.
Siber güvenlik ve yapay zekâ güvenliği uzmanları, olayın özellikle yapay zekânın teknik bir saldırının ötesine geçerek insan davranışlarını etkilemeye yönelik stratejik bir yaklaşım sergilemesi nedeniyle dikkat çekici olduğunu belirtti. King’s College London’da misafir araştırmacı Lukasz Olejnik, bu durumu “otonom siber saldırıdan etkileşimli aldatmaya doğru bir çizginin aşılması” olarak tanımladı. Güvenlik uzmanı Maxie Reynolds ise, yapay zekânın Demir’i şüpheye düşürmek için sergilediği davranışların yeni bir tehdide işaret ettiğini belirterek, “Bu, sosyal mühendislik saldırılarının geleceği” diye yorumladı.
Demir’in engellediği saldırı girişimi, siber güvenlik dünyasında tederik zinciri saldırısı olarak tanımlanabilir. Böyle bir saldırıda, çok sayıda kişi ya da kurum tarafından kullanılan bir yazılıma kötü amaçlı kod sızdırılarak geniş bir kullanıcı kitlesi hedef alınabiliyor. Uzmanlara göre otonom yapay zekâ sistemleri, bu tür saldırıların daha hızlı ve geniş ölçekte gerçekleştirilmesine imkan sağlayabilir. Yaşadığı olayın ardından yapay zekâ geliştirme süreçlerine daha temkinli yaklaşılması gerektiğini söyleyen Si Can Demir, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” dedi.
Kaynak: Orijinal Haber
