Nörobilim Yapay Zekayı Siber Saldırılardan Nasıl Koruyabilir?
Derin öğrenme, yalnızca çekler ve zarflar üzerindeki elle yazılmış karakterleri tanıyabildiği günlerden beri uzun bir yol kat etti. Günümüzde derin sinir ağları, fotoğraf ve video editörlerinden tıbbi yazılımlara ve sürücüsüz arabalara kadar birçok bilgisayarla görme uygulamasının temel bir bileşeni haline geldi. Genel olarak beynin yapısına göre şekillenen sinir ağları, biz insanlar gibi dünyayı görmeye yaklaştı. Ama yine de gidecekleri uzun bir yol var ve insanların asla yanılmayacağı durumlarda hatalar yapıyorlar.
Genellikle rakip örnekler olarak bilinen bu durumlar, bir AI modelinin davranışını şaşırtıcı şekillerde değiştirir. Tartışmalı makine öğrenimi, mevcut yapay zeka sistemlerinin en büyük zorluklarından biridir. Öngörülemeyen şekillerde başarısız olan veya siber saldırılara açık hale gelen makine öğrenimi modellerine liderlik edebilirler.
Düşman saldırılarına karşı dirençli AI sistemleri oluşturmak, aktif bir araştırma alanı ve AI konferanslarında sıcak bir tartışma konusu haline geldi. Gelen bilgisayar vizyonu , düşmanca saldırılara karşı derin öğrenme sistemlerini korumak için bir ilginç yöntem sinir ağları ve memeli vizyon sistemi arasındaki boşluğu kapatmak için sinirbilimindeki bulguları uygulamaktır.
Bu yaklaşımı kullanarak, MIT ve MIT-IBM Watson AI Lab araştırmacıları, memeli görsel korteksinin özelliklerinin doğrudan derin sinir ağları ile eşleştirilmesinin, davranışlarında daha öngörülebilir ve düşmanlık karışıklıklarına karşı daha sağlam AI sistemleri oluşturduğunu keşfettiler. BioRxiv ön baskı sunucusunda yayınlanan bir makalede araştırmacılar, mevcut derin öğrenme tekniklerini sinirbilimden ilham alan sinir ağlarıyla birleştiren bir mimari olan VOneNet’i tanıttı.
Münih Üniversitesi, Ludwig Maximilian Üniversitesi ve Augsburg Üniversitesi’ndeki bilim adamlarının yardımıyla yapılan çalışma, neredeyse bu yıl düzenlenecek olan önemli yıllık AI konferanslarından biri olan NeurIPS 2020’de kabul edildi.
Evrişimsel sinir ağları “Convolutional neural network”
Günümüzde bilgisayarla görmede kullanılan ana mimari, evrişimsel sinirağlarıdır (CNN). Birbiri üzerine istiflendiğinde, görüntülerden hiyerarşik özellikleri öğrenmek ve çıkarmak için birden fazla evrişimli katman eğitilebilir. Alt katmanlar, köşeler ve kenarlar gibi genel desenleri bulur ve daha yüksek katmanlar, nesneler ve insanlar gibi daha spesifik şeyleri bulmada yavaş yavaş ustalaşır. Geleneksel tamamen bağlı ağlara kıyasla, ConvNets’in hem daha sağlam hem de hesaplama açısından verimli olduğu kanıtlanmıştır. Bununla birlikte, CNN’lerin ve insan görsel sisteminin bilgiyi işleme şekli arasında temel farklılıklar var.
DERİN DAHA DA DERİNE
“Derin sinir ağları (ve özellikle evrişimli sinir ağları), görsel korteksin şaşırtıcı iyi modelleri olarak ortaya çıktı – şaşırtıcı bir şekilde, beyinden toplanan deneysel verilere sinirbilim verilerini açıklamak için özel olarak hazırlanmış hesaplama modellerinden daha iyi uyma eğilimindeler. MIT-IBM Watson AI Lab’ın IBM Direktörü David Cox, TechTalks’a verdiği demeçte. “Ancak her derin sinir ağı beyin verileriyle eşit derecede eşleşmiyor ve beyin ile DNN’lerin farklı olduğu bazı kalıcı boşluklar var.”
Bu boşluklardan en belirgin olanı, küçük bir yama veya algılanamayan bir gürültü tabakası gibi ince tedirginliklerin sinir ağlarının girdilerini yanlış sınıflandırmasına neden olabileceği karşıt örneklerdir. Bu değişiklikler çoğunlukla insan gözü tarafından fark edilmez.
Cox, “Kesinlikle DNN’leri kandıran görüntülerin kendi görsel sistemlerimizi asla kandırmayacağı bir durumdur” diyor. “Aynı zamanda, DNN’lerin görüntülere doğal bozulmalara (örn. Gürültü eklenmesi) karşı şaşırtıcı derecede kırılgan olması da söz konusu, bu nedenle genel olarak sağlamlık DNN’ler için açık bir sorun gibi görünüyor. Bunu aklımızda tutarak, beyin ve DNN’ler arasındaki faydalı olabilecek farklılıkları aramak için buranın iyi bir yer olduğunu düşündük.
Cox, MIT’de nörobilim profesörü James DiCarlo’nun öğrencisi olduğu 2000’lerin başından beri sinirbilim ve yapay zekanın kesişimini araştırıyor. İkili o zamandan beri birlikte çalışmaya devam ediyor.
“Beyin inanılmaz derecede güçlü ve etkili bir bilgi işleme makinesi ve ondan pratik amaçlar için kullanılabilecek yeni numaralar öğrenip öğrenemeyeceğimizi sormak kışkırtıcı. Aynı zamanda yapay sistemler hakkında bildiklerimizi, beyni anlamamıza yardımcı olacak deneyler önerebilecek kılavuz teoriler ve hipotezler sağlamak için kullanabiliriz,”diyor Cox.
Beyin benzeri sinir ağları
Yeni araştırma için Cox ve DiCarlo, nöral ağların, aktivasyonları beyin aktivitesine benzer olduğunda düşman saldırılarına karşı daha sağlam hale gelip gelmediğini görmek için makalenin baş yazarları Joel Dapello ve Tiago Marques’e katıldı. AI araştırmacıları , AlexNet, VGG ve ResNet’in farklı varyasyonları dahil olmak üzere ImageNet veri setinde eğitilmiş birkaç popüler CNN mimarisini test etti. Ayrıca, bir sinir ağının, onları yanlış sınıflandırmaktan kaçınmak için rakip örnekler üzerinde eğitildiği bir süreç olan “rakip eğitiminden” geçen bazı derin öğrenme modellerini de içeriyorlardı.
Bilim insanı, derin sinir ağlarındaki aktivasyonları ve beyindeki sinir tepkilerini karşılaştıran “BrainScore” ölçüsünü kullanarak AI modellerini değerlendirdi . Daha sonra, bir saldırganın hedef sinir ağlarının yapısı ve parametreleri hakkında tam bilgi sahibi olduğu beyaz kutu karşıt saldırılarına karşı test ederek her modelin sağlamlığını ölçtüler. “Şaşırtıcı bir şekilde, beyin benzeri bir model ne kadar fazlaysa, sistem düşman saldırılarına karşı o kadar sağlamdı” diyor Cox.
Derinlere daha da derinlere inmek, orada kalıp biraz düşünmek için; biraz korkusuzluk, biraz bildiklerinden vazgeçebilme kararlığı, derinlerde karşılaşabilme ihtimali olan yeni, hiç bilinmeyen BİLGİ’nin karşısında hayret ettiğinde yüzleşme cesareti ister. Bilimin ışığında, etik ve ahlak değerler üzerinde yol alabilmek için “Düşünmenin tam zamanı”!