Motional e i ricercatori del MIT hanno pubblicato su Nature uno studio che affronta uno dei problemi più ostici dei veicoli a guida autonoma: nessuno sa perché frenano quando frenano. Il metodo sviluppato, chiamato Concept-Wrapper Network o CW-Net, traduce i calcoli interni della rete neurale di un veicolo in concetti che un essere umano può leggere e capire, senza alterare le prestazioni di guida del sistema.
Finora, se un’auto autonoma frenava bruscamente su una strada apparentemente libera, né il conducente né il passeggero avevano modo di sapere perché. La rete neurale elabora, decide, agisce — ma il ragionamento resta opaco. CW-Net si inserisce come uno strato interpretativo sopra il modello esistente: genera etichette concettuali come “veicolo fermo in avvicinamento” o “ciclista nelle vicinanze”, che descrivono fedelmente le ragioni della decisione presa dal planner. Il team — guidato da Laura Major, presidente e CEO di Motional, insieme al ricercatore MIT Eoin Kenny e al co-senior author Momchil Tomov di Motional — ha testato il sistema non in simulazione, ma su strada, a bordo di un robotaxi reale su una pista privata con un operatore di sicurezza.
I risultati più interessanti emergono proprio dai casi limite. Durante un test con un ciclista, il veicolo si fermò come previsto. Ma CW-Net rivelò che il planner sperimentale non stava in realtà reagendo alla presenza del ciclista: la frenata proveniva dal sistema di backup di sicurezza, non dalla rete neurale principale. Il conducente, avvisato, aumentò la propria attenzione attorno ai ciclisti. L’analisi successiva confermò che quella cautela era giustificata. Senza CW-Net, quella discrepanza sarebbe rimasta invisibile.
La questione non è solo tecnica. La ricerca sull’IA spiegabile per i veicoli autonomi era rimasta fino ad ora quasi interamente confinata a laboratori e simulazioni, senza mai misurarsi con le complessità del mondo reale. Questo lavoro rompe quel confine. Come ha dichiarato Laura Major, un approccio puramente end-to-end può arrivare a un’accuratezza del 90 o anche 95 per cento, “ma non è abbastanza per rimuovere un conducente o guadagnarsi la fiducia di città, comunità e clienti.” La spiegabilità, in questo contesto, non è un accessorio: è una condizione per la fiducia pubblica e, probabilmente, per la conformità normativa.
Molti enti regolatori hanno già inserito l’IA spiegabile come componente centrale delle proprie normative, e i veicoli autonomi sembrano destinati a seguire la stessa traiettoria man mano che verranno distribuiti su scala. CW-Net non modifica il modello sottostante, non ne degrada le prestazioni, e funziona in tempo reale su hardware montato a bordo. Sono tre caratteristiche che rendono il sistema compatibile con una futura adozione industriale. Se il metodo regge anche in ambienti urbani complessi — traffico misto, condizioni meteorologiche variabili, pedoni imprevedibili — potrebbe diventare un requisito standard per chiunque voglia portare un robotaxi su strada pubblica.
