Trustworthy and Explainable Machine Intelligence – RELATE

Attività di ricerca:

RELATE è un gruppo multidisciplinare di ricercatori e tecnologi, che conducono attività di ricerca di base e applicata, attraverso la cooperazione sinergica nell’ambito di diverse discipline, tra cui data mining, machine/ deep learning, computational intelligence e calcolo ad alte prestazioni. In particolare, RELATE si concentra su sistemi intelligenti basati sulla conoscenza che possono apprendere dai grandi volumi di dati e fornire una interpretazione dei modelli, delle previsioni effettuate e del processo decisionale seguito, sia nei settori scientifici che applicativi.

Le principali attività riguardano:

• Machine intelligence models and algorithms. Questa attività mira a progettare approcci e metodologie interpretabili per ottimizzare e automatizzare i processi, estrarre e classificare i dati, rilevare, analizzare e prevedere tendenze/ modelli e migliorare l’interazione uomo/ ambiente, attraverso modelli e algoritmi più sicuri, più equi e più leggibili, come ad esempio gli alberi e le regole decisionali e la regressione lineare;
• Security intelligence techniques. L’obiettivo è quello di concepire e sviluppare metodologie e tecniche intelligenti per affrontare i problemi di sicurezza e privacy attraverso approcci affidabili e interpretabili. L’utilizzo di tecnologie come la cyber-physical security (Physical Unclonable Functions) e Blockchain/DLT, è anche un aspetto importante di questa attività;
• Modeling & simulation of complex systems. Lo scopo è quello di progettare e implementare modelli e algoritmi interpretabili per la prevenzione delle catastrofi naturali, sfruttando anche sistemi di calcolo scientifico ad alte prestazioni (HPC);
• Lo sviluppo verde e sostenibile in ambienti Smart, assicurando anche che le metodologie e gli algoritmi adottati si comportino in modo responsabile e affidabile, è lo scopo di questa attività.

Obiettivi

RELATE mira a sviluppare soluzioni intelligenti e innovative caratterizzate da un elevato grado di affidabilità e intelligibilità. In particolare, l’affidabilità viene perseguita attraverso lo sviluppo di sistemi avanzati che mirano a superare i limiti noti dei sistemi intelligenti (come, ad esempio, la vulnerabilità agli attacchi, la mancanza di protezione della privacy e l’inclinazione contro le sotto-rappresentazioni), mentre l’Intelligibilità viene perseguita fornendo agli esseri umani spiegazioni chiare, dettagliate e precise delle operazioni e dei risultati delle tecniche di intelligenza artificiale adottate. Inoltre, poiché molte delle applicazioni possono essere computazionalmente impegnative e onerose, la progettazione di sistemi intelligenti per tali scenari sarà orientata all’ottenimento di proprietà come scalabilità, adattamento ad ambienti in continua evoluzione e tolleranza ai guasti.

Campi di applicazione

Cybersecurity, Healthcare, Industry 4.0, HPC