Transparantie lost dit probleem op door gebruik te maken van gemakkelijk te interpreteren modellen, waarvan we er in de volgende sectie op in zullen gaan. Verklaarbaarheid lost dit probleem op door "de Black Box uit te pakken", of door te proberen inzicht te krijgen in het machine learning-model, vaak met behulp van statistische methoden.
Wat is modelverklaarbaarheid?
Model Explainability is een breed concept voor het analyseren en begrijpen van de resultaten van ML-modellen. Het wordt meestal gebruikt in de context van "black-box"-modellen, waarvoor het moeilijk is aan te tonen hoe het model tot een specifieke beslissing is gekomen.
Wat is verklaarbaarheid in deep learning?
Verklaarbaarheid (ook wel 'interpreteerbaarheid' genoemd) is het concept dat een machine learning-model en de output ervan kan worden uitgelegd op een manier die voor een mens 'logisch' is op een acceptabel niveau … Andere, zoals deep learning-systemen, zijn weliswaar beter presterend, maar blijven veel moeilijker uit te leggen.
Wat betekent verklaarbaarheid in de context van een AI-systeem?
Andrew Maturo, data-analist, SPR. Verklaarbare AI in eenvoudige bewoordingen betekent AI die transparant is in zijn operaties, zodat menselijke gebruikers beslissingen kunnen begrijpen en vertrouwenOrganisaties moeten de vraag stellen - kun je uitleggen hoe je AI dat heeft gegenereerd specifiek inzicht of besluit?” –
Wat is een verklaarbaarheidsprobleem?
Mensen hebben een duidelijke afkeer van black-box-beslissingen die hen financieel, gezondheidstechnisch en op tientallen andere manieren beïnvloeden, terwijl ze zich tegelijkertijd niet bewust zijn van bepaalde verschillende soorten beslissingen. … Wanneer AI deze beslissingen neemt, kan de vraag naar verklaarbaarheid worden gehoord.
