Logo sv.boatexistence.com

Hur skiljer sig transparens och förklarabarhet?

Innehållsförteckning:

Hur skiljer sig transparens och förklarabarhet?
Hur skiljer sig transparens och förklarabarhet?
Anonim

Transparency löser detta problem genom att använda lätttolkbara modeller, av vilka vi kommer att beröra några i nästa avsnitt. Förklarlighet löser detta problem genom att "packa upp Black Box" eller försöka få insikt från maskininlärningsmodellen, ofta genom att använda statistiska metoder.

Vad är modellförklaring?

Modellförklaring är ett brett koncept för att analysera och förstå resultaten från ML-modeller. Den används oftast i samband med "black-box"-modeller, för vilka det är svårt att visa hur modellen kom fram till ett specifikt beslut.

Vad är förklaring i djupinlärning?

Explainability (även kallad "tolkbarhet") är konceptet att en maskininlärningsmodell och dess resultat kan förklaras på ett sätt som "ger mening" för en människa på en acceptabel nivå … Andra, till exempel system för djupinlärning, är, även om de är mer presterande, fortfarande mycket svårare att förklara.

Vad betyder förklaringsbarhet i ett AI-system?

Andrew Maturo, dataanalytiker, SPR. “Förklarlig AI i enkla termer betyder AI som är transparent i sin verksamhet så att mänskliga användare kommer att kunna förstå och lita på beslut Organisationer måste ställa frågan – kan du förklara hur din AI genererade det specifik insikt eller beslut?” –

Vad är förklaringsproblem?

Människor har en uppenbar aversion mot black-box-beslut som påverkar dem ekonomiskt, hälsomässigt och dussintals andra sätt samtidigt som de är omedvetna om vissa olika typer av beslut. … När AI fattar dessa beslut kan krav på förklaring höras.

Rekommenderad: