Esistono diversi metodi o approcci per creare trasparenza e comprensione dell’intelligenza artificiale. Nei seguenti paragrafi abbiamo riassunto quelli principali:
La tecnologia LRP (Layer-wise Relevance Propagation, letteralmente “trasferimento della rilevanza livello per livello”) è stata descritta per la prima volta nel 2015. Si tratta di una tecnica per determinare le caratteristiche dei vettori in ingresso che influenzano maggiormente l’output di una rete neurale.
Il Counterfactual Method (“metodo controfattuale”) descrive il modo in cui gli input di dati (testi, immagini, grafici, ecc.) vengono modificati in modo mirato dopo aver ottenuto un risultato. In seguito si determina in che misura il risultato dell’output è stato cambiato.
Il Local Interpretable Model-Agnostic Explanations (LIME) è un metodo che ha l’obiettivo di spiegare il comportamento di ogni classificatore della macchina e il relativo output. Lo scopo è rendere i dati e le procedure decisionali comprensibili agli utenti non esperti in materia.
La razionalizzazione è una procedura utilizzata specificamente nei robot basati sull’IA. La macchina è progettata in modo tale da poter spiegare autonomamente le proprie azioni.