I kontradiktorisk träning utökas träningsdata med "motstridiga" sampel genererade med en attackalgoritm Om angriparen använder en liknande attackalgoritm för att generera motstridiga exempel, nätverk kan vara ganska robust mot attacken.
Hur fungerar kontradiktoriskt lärande?
Modstridig maskininlärning är en maskininlärningsteknik som försöker lura modeller genom att tillhandahålla vilseledande input. … De flesta maskininlärningstekniker utformades för att fungera på specifika problemuppsättningar där tränings- och testdata genereras från samma statistiska distribution (IID).
Hur fungerar motstridiga exempel?
Modstridiga exempel är indata till maskininlärningsmodeller som en angripare avsiktligt har utformat för att få modellen att göra ett misstag; de är som optiska illusioner för maskiner.… En motstridig ingång, överlagrad på en typisk bild, kan få en klassificerare att felkategorisera en panda som en gibbon.
Vad är motstridig träning i djupinlärning?
En motstridig attack kan innebära att man presenterar en maskininlärningsmodell med felaktiga eller felaktiga uppgifter när den tränas, eller att man introducerar uppsåtligt utformade data för att lura en redan tränad modell att göra fel.
Vad är självfientlig träning?
För att ytterligare stärka försvarsförmågan föreslås självövervakad motståndsutbildning, som maximerar den ömsesidiga informationen mellan representationerna av originalexempel och motsvarande motståndsexempel.
