19/10/2017 - Notizie
Auto senza pilota: l'opinione di Gill Pratt direttore del Toyota Research Institute
Tempo di lettura: 2 minutiSi parla molto sui media di auto senza pilota e molte società automobilistiche hanno aperto linee di ricerca su prototipi. Ma quando la Full Autonomy? L'opinione di un esperto.
APPROFONDIMENTI
GILL PRATT: Siamo ancora lontani dalla Full Autonomy
CHE COSA: Full Autonomy? Siamo lontani dalla autonomia totale dei veicoli senza pilota
CHI: Gill Pratt, direttore del Toyota Research Institute,
In una intervista all'IEE Spectrum, la rivista della IEEE, il direttore del Toyota Research Institute, Gill Pratt, chiarisce molti aspetti delle attuali ricerche sulla automia completa dei veicoli senza pilota e mette in guardia da facili entusiasmi, dettati da ragioni pubblicitarie.
Consigliamo una lettura del testo integrale, che chiarisce anche per non esperti i problemi che incontrano i ricercatori robotici nel cercare di dotare di full autonomy i loro robot.
I problemi posti dal Gill Pratt costituiscono un ottimi esempio di "Roboetica in pratica".
Trovate il testo dell'intervista in inglese, qui: https://spectrum.ieee.org/cars-that-think/transportation/self-driving/toyota-gill-pratt-on-the-reality-of-full-autonomy
Riassumiamo qui i punti principali:
- Il paradosso dell'Over-Trusting Autonomy
- Se i veicoli senza pilota dovranno apportare un miglioramento rispetto alla guida con pilota umano, come e chi deciderà di QUANTO debbano essere migliori?
- Il Machine Learning e il progetto "The Car Can Explain” (L'auto che comunica)
- Simulare tutti i comportamenti folli dei piloti umani
- Occorre una rivoluzione nel Computer Hardware Design
- Umani e macchine: chi deve controllare chi?
Il primo aspetto sviluppato da Pratt riguarda il fatto che non tutti i km sono uguali, e che il livello 5 di autonomia, che è Full Autonomy, richiede che TUTTI I KM (10 trilioni di km percorsi da veicoli) siano gestiti dal veicolo senza intervento umano indipendentemente dalla situazione del traffico, del meteo, e di altre condizioni. Secondo Pratt ora ci stiamo avvicinando al livello 4 di autonomia.
Il paradosso dell'Over-Trusting Autonomy
Vi è un altro paradosso, meno noto ma più pertinente di quello, spesso citato, del Trolley * - sostiene Pratt - e riguarda il fatto che con tutta la pubblicità inesatta sulle auto senza pilota i consumatori stiano sviluppando livello di aspettativa sulle prestazioni di queste auto non corrtispondenti alla realtà. Il paradosso dell'Over-Trusting Autonomy dice che più le auto autonome saranno precise e affidabili, meno gli utenti umani saranno preparati a condizioni e occasioni straordinarie, dove il veicolo non potrà sempre intervenire (ma l'umano potrà non rendersene conto in tempo).
Noi umani - spiega il direttore del Toyota Research Center - siamo abituati a comportarci secondo predizioni. Il nostro cervello funziona in questo modo, pensiamo: “oggi il tempo è bello, ieri era bello, quindi domani sarà bello”. Se una macchina funziona, non immaginiamo che potrebbe rompersi e non funzionare più. Tutti gli ingegneri conoscono i problemi della manutenzione delle macchine, del loro ciclo di vita, ecc
A mano a mano che miglioreremo le prestazioni della tecnologie delle macchine autonome, queste richiederanno sempre meno intervento degli umani, il che aggraverà il problema di porre eccessiva fiducia nelle tecnologie del veicolo, proprio perché la tendenza degli utenti sarà di pensare “se non è mai successo fin’ora, non succederà” a un veicolo così perfetto.
In un certo senso, il caso peggiore è se un autoveicolo richieda un intervento umano ogni 200.00 miglia, un caso che un conducente che guidi solo 100,000 miglia non vedrà mai. Ma ogni tot casi, potrebbe essere anche un solo caso rispetto alle due macchine che possiedo, potrebbe accadere che il veicolo autonomo abbia bisogno del nostro intervento. E noi, che tipicamente ci siamo sempre affidati completamente al veicolo, per anni, saremo impreparati all’emergenza. Questo è il nostro vero paradosso: “A mano a mano che facciamo meglio, rendiamo più grave il problema dell’eccessiva fiducia degli utenti”
ll Machine Learning e il progetto "The Car Can Explain” (L'auto che comunica)
"Che le auto autonome incorreranno in incidenti, è certo". Ciò che non è certo che per ognuno degli incidenti il produttore riuscirà a risalire alla causa nè che riuscirà ad aggiornare il software in modo da evitare che altri veicoli facciano lo stesso errore"
Pratt applica qui il principio del Machine Learning per la robotica, ovvero che un robot dotato di capacità di apprendimento potrà esibire comportamenti non prevedibili (e - Pratt sostiene - difficilmente intellegibili).
Pratt applica questo principio al funzionamento del sistema di machine learning dei veicoli autonomi. I sistemi di machine learning, ancora più quelli di deep learning, hanno performance molto elevate ma è molto difficile ottenere da questi sistemi delle "risposte" sulle cause del funzionamento, o mal funzionamento. E' molto difficile "far parlare" la macchina su che cosa sia successo. Ecco perché vi sono progetti dedicati a "far parlare la macchina" (The Car Can Explain.”).
* In caso di situazione di pericolo non risolvibile, l'Intelligenza Artificiale di un veicolo autonomo, fra il conducente e un pedone, entrambi a rischio di morte, chi sceglierà di salvare?