Bij de training van tegenstanders worden de trainingsgegevens aangevuld met 'vijandige' voorbeelden die zijn gegenereerd met behulp van een aanvalsalgoritme Als de aanvaller een soortgelijk aanvalsalgoritme gebruikt om voorbeelden van tegenstanders te genereren, wordt de tegenstander getraind netwerk kan behoorlijk robuust zijn tegen aanvallen.
Hoe werkt vijandig leren?
Adversarial machine learning is een machine learning-techniek die probeert modellen voor de gek te houden door misleidende input te leveren. … De meeste machine learning-technieken zijn ontworpen om te werken op specifieke probleemsets waarin de trainings- en testgegevens worden gegenereerd uit dezelfde statistische distributie (IID).
Hoe werken tegenstrijdige voorbeelden?
Adversariële voorbeelden zijn inputs voor machine learning-modellen die een aanvaller opzettelijk heeft ontworpen om het model een fout te laten maken; ze zijn als optische illusies voor machines.… Een vijandige invoer, die over een typische afbeelding wordt gelegd, kan ertoe leiden dat een classifier een panda verkeerd categoriseert als een gibbon.
Wat is een contradictoire training in diep leren?
Een vijandige aanval kan het presenteren van een machine-learningmodel met onnauwkeurige of verkeerde representatieve gegevens inhouden terwijl het aan het trainen is, of het introduceren van kwaadwillig ontworpen gegevens om een reeds getraind model te misleiden om fouten te maken.
Wat is zelfconfronterende training?
Om het verdedigingsvermogen verder te versterken, wordt een zelf-gecontroleerde vijandige training voorgesteld, die de wederzijdse informatie tussen de representaties van originele voorbeelden en de corresponderende vijandige voorbeelden maximaliseert.
