Perustieteiden korkeakoulun väitöskirjat ovat saatavilla yliopiston ylläpitämässä avoimessa Aaltodoc-julkaisuarkistossa.
Väitös tietotekniikan alalta, M.Sc. Blerta Lindqvist
Luokittelijoiden kestävyysominaisuuksien parantaminen – Tutkimus hyökkäyksiä kestävistä nykyaikaisista luokittelijoista
Väitös Aalto-yliopiston perustieteiden korkeakoulusta, tietotekniikan laitokselta.
Väitös Aalto-yliopiston perustieteiden korkeakoulusta, tietotekniikan laitokselta.
Väitöskirjan nimi: Improving Classifier Robustness - A Study on Adversarial Robustness in Modern Classifiers
³Õä¾±³Ù³Ù±ð±ô¾±Âáä: Blerta Lindqvist
³Õ²¹²õ³Ù²¹±¹Ã¤¾±³Ù³ÙäÂáä: professori Wade Trappe, Rutgers University, USA
Kustos: professori Antti Yli-Jääski Aalto-yliopiston perustieteiden korkeakoulu
Koneoppimiseen perustuvat luokittelijat ovat parhaita luokittelijoita tällä hetkellä. Niitä käytetään yhä enemmän turvallisuuskriittisillä aloilla. Tällaisia aloja ovat esimerkiksi pankkitoiminta, itseohjautuva ajaminen, haittaohjelmien tunnistus ja syövän tunnistus. Toisin kuin ihmisiä, koneoppimiseen perustuvat luokittelijat voidaan helposti huijata hyökkäyksillä, jotka muuttavat näytteitä hieman ja aiheuttavat virheellisiä luokitteluja. Haavoittuvien koneoppimiseen perustuvien luokittelijoiden käyttö aloilla, joilla ei ole paljon virhevaraa, on huolestuttavaa niille, jotka ovat riippuvaisia luokittelijoiden tuloksista.
Tässä väitöskirjassa pyrimme parantamaan koneoppimiseen perustuvien luokittelijoiden kestävyysominaisuuksia. Tutkimme symmetrian käyttöä puolustautumiseen vihollisen häiriöhyökkäyksiä vastaan erityyppisissä luokittelijoissa sekä puolustuksesta tietäviä että tietämättömiä vastustajia vastaan. Lisäksi tutkimme, kuinka luokittelijan kestävyysominaisuuksia ja kykyä yleistää voidaan parantaa lisäämällä luokittelijafunktion sujuvuutta, jonka tiedetään liittyvän läheisesti kykyyn yleistää ja kestävyysominaisuuksiin. Lisäksi tutkimme luokittelijan kyvyn yleistää lisäämistä käyttämällä regressiopohjaisia ominaisuuksia, jotka tallentavat keskinäisinformaatiota standardiominaisuuksien välillä.
Työssä osoitamme, että neuroverkoissa voidaan torjua hyökkäyksiä häiriötekijöihin symmetrian avulla. Osoitamme myös, että symmetriapuolustusta voidaan soveltaa päätöspuihin osoitettuamme, että näiltä puilta puuttuu myös invarianssi symmetrioiden suhteen. Havaitsimme, että lisäharjoitusnäytteet heikentävät hyökkäysten kestävyysominaisuuksia päätöspuissa, mikä on vastoin yleistä käsitystä. Selitämme, miksi näin tapahtuu päätöspuissa.
Avainsanat: hyökkäävän perturbaation puolustus, symmetria, CNN hyökkäyksen kestävyysominaisuus
Yhteystiedot: blerta.lindqvist@aalto.fi tai
Linkki väitöskirjan sähköiseen esittelykappaleeseen (esillä 7 päivää ennen väitöstä):
Perustieteiden korkeakoulu väitöskirjat
Zoom pikaopas