La rapida crescita del machine learning ha reso possibile sviluppare applicazioni con modelli complessi capaci di risultati straordinari.

Tuttavia, sebbene i modelli black box (scatola nera) abbiano conosciuto una crescita esplosiva, è molto difficile comprenderne le relazioni interne, rendendoli inadatti alla comprensione dei dati o all’utilizzo in contesti critici (ad esempio, in ambito medico).

I modelli spiegabili, al contrario, sono molto più comprensibili, sia per la loro semplicità che per l’utilizzo di metriche interne facilmente interpretabili, ma in genere risultano molto meno potenti rispetto ai modelli black box.

Non sarebbe fantastico poter “collegare” un modello spiegabile a un modello black box per comprendere i risultati e le motivazioni dietro le scelte fatte dal modello?

In questa sessione esploreremo i fondamenti dei modelli spiegabili e come aggiungere una "testa spiegabile" al tuo modello black box.