Qualcuno ricorderà quando all’inizio dell’anno un robotaxi Waymo aveva investito una bambina nei pressi di una scuola elementare di Santa Monica, in California. L'incidente aveva, ovviamente, riacceso il dibattito sulla sicurezza dei veicoli a guida autonoma ma anche e soprattutto sulla difficoltà di misurare oggettivamente le loro prestazioni rispetto a un guidatore umano.
La questione, infatti, è che i modelli su cui si basa il sistema di guida autonoma di Waymo non tengono conto delle abilità tipiche di un essere umano. Un guidatore umano (al netto di tutti i suoi limiti) se vede un bambino che corre verso la strada, o si trova nei pressi di una scuola, intuisce che c’è una situazione più critica perché un bambino non è un utente della strada qualunque e la scuola non è un edificio pubblico come gli altri. Un sistema autonomo processa dati, ma non è certo che processi gli stessi segnali nello stesso modo
A gennaio per difendersi dalle critiche, Waymo aveva utilizzato i propri modelli interni per sostenere che un guidatore umano attento avrebbe impattato la bambina a circa 22 km/h, mentre il robotaxi l'aveva colpita a soli 10 km/h dopo aver decelerato da 27 km/h. Il problema era che quel modello aveva limiti riconosciuti. Nonostante questo Waymo ha continuato a lavorare sulla sicurezza dei propri robotaxi tanto che ha pubblicato su Nature Communications (una delle riviste scientifiche peer-reviewed più prestigiose al mondo) una nuova ricerca alla base del Reference Driver (ReD). Si tratta di una sorta di manichino virtuale del guidatore umano (sul modello dei crash test usati per valutare la sicurezza strutturale delle auto) ma applicato al comportamento di guida invece che all'integrità meccanica.
Come funziona il Reference Driver di Waymo
La differenza rispetto ai modelli precedenti è evidente. I vecchi sistemi simulavano solo le manovre reattive dell'ultimo secondo prima di un impatto. Il Reference Driver, invece, è in grado di riprodurre l'intera sequenza che porta a un incidente, incluso l’effetto sorpresa che un guidatore prova quando la situazione davanti a lui si trasforma inaspettatamente in una potenziale collisione. Questa capacità è resa possibile da un framework chiamato active inference, ovvero la teoria che un guidatore immagini continuamente scenari futuri possibili e agisca per raggiungere quello più sicuro e prevedibile.
«Simulare la ”sorpresa” che un guidatore prova durante un conflitto fornisce un punto di riferimento più simile a quello umano per i sistemi di guida autonoma, qualcosa che prima era impossibile automatizzare su scala», ha dichiarato Arkady Zgonnikov, professore assistente al TU Delft.
Le questioni legali e morali
Waymo intende usare il ReD per valutare le proprie prestazioni su migliaia di scenari reali in un ambiente virtuale, identificando margini di miglioramento con una velocità prima impossibile. Il codice del modello viene reso disponibile con licenza accademica non commerciale così da renderlo disponibile a ricercatori, università e chiunque voglia contribuire al suo sviluppo. L'azienda sta anche collaborando con regolatori e organizzazioni per costruire un consenso scientifico condiviso su cosa significhi guidare in modo “attento e competente” stabilendo così la definizione che dovrebbe fare da riferimento per tutti i sistemi di guida autonoma.
Un modo per Waymo di tutelarsi ora che i robotaxi iniziano a circolare con maggiore frequenza sulle strade di tutto il mondo (a breve anche in Europa) e per colmare un vuoto normativo importante. Definire cosa significa guidare in modo “attento e competente” non è solo un problema tecnico ma è soprattutto un problema giuridico e morale. Quando un robotaxi causa un incidente, chi risponde? Il costruttore del veicolo, lo sviluppatore del software, l'operatore del servizio? Il Reference Driver è un primo tentativo di dare una risposta scientifica a una domanda sempre più urgente. Un po' come le attenuanti per i guidatori umani, anche per i sistemi autonomi potrebbe esistere una soglia oltre la quale la responsabilità si riduce, ma solo se esiste un metro condiviso per misurarla. Perché l’imprevedibilità resta un dato con il quale non possiamo esimerci dal fare i conti e che l’evoluzione tecnologica può ridurre (ed è un bene) ma non eliminarla del tutto.
Dimmi che auto guidi e ti dirò chi sei. Che sia per scelta, esigenza o nessuna delle due, l’auto racconta molto delle persone. Non solo di chi ne fa un manifesto del proprio stile di vita. Daniele scrive di automobili perché raccontano molto del tempo in cui vengono pensate, prodotte e commercializzate. Cambiano forma, alimentazione e nome, ma continuano a dire qualcosa su chi le compra (e chi no). Giornalista pubblicista, racconta il mondo dell’auto cercando di capire cosa comunica davvero, oltre ai CV e ai consumi.