Stabilire un quadro etico per i veicoli autonomi

Di Mark Patrick, Mouser Electronics.

La bussola morale ottenuta sulla base di un'indagine condotta a livello mondiale che ha coinvolto 2,3 milioni di persone 

Gli argomenti trattati in questa serie saranno i seguenti:

• Come le tecnologie per la guida autonoma stanno ridisegnando il panorama automotive
• Superare le percezioni e adottare le tecnologie per la guida autonoma
• Autonomia dei veicoli: le fasi chiave dell’evoluzione
• Tecnologie dei sensori per i veicoli autonomi
• Le comunicazioni V2V e V2I forniscono i dati “time-critical” per i veicoli autonomi
• Stabilire un quadro etico per i veicoli autonomi

Guidare può essere monotono. A volte il conducente sale in macchina e inizia a guidare, avendo un'idea approssimativa di quando giungerà a destinazione. Anche se la guida può essere considerata un'attività di routine, il conducente deve rimanere vigile e attento durante tutto il viaggio, facendo attenzione a potenziali pericoli, soprattutto durante la guida in aree urbane molto trafficate o con condizioni meteorologiche avverse. Un conducente fa ricorso alla propria esperienza, acquisita nel corso degli anni, per decidere se un determinato comportamento potrebbe causare un incidente, nonché valutare le situazioni alle quali prestare maggiore attenzione le azioni che potrebbe dover intraprendere in tempi brevi.

Come precedentemente illustrato in un altro blog di questa serie, le tecnologie dei sensori forniscono ai sistemi autonomi dei veicoli i dati necessari per generare in tempo reale una mappa dell'ambiente circostante. Questa mappa è ulteriormente arricchita dalle informazioni ricevute dai sistemi di comunicazione V2V e V2I. Grazie a queste fonti di informazione di vitale importanza, le reti neurali utilizzate per l'apprendimento automatico sono in grado di condurre il veicolo in tutta sicurezza, monitorare costantemente l'ambiente circostante e intraprendere le azioni necessarie nel momento in cui si dovessero manifestare potenziali pericoli.

Un veicolo autonomo è intrinsecamente più diligente e affidabile rispetto a un conducente umano, il quale potrebbe distrarsi o commettere errori di giudizio. In ogni caso, non bisogna dimenticare che permangono ancora situazioni che potrebbero portare a un incidente, con le inevitabili conseguenze. Nel caso dei veicoli autonomi, il processo decisionale basato su scenari del tipo “vita o morte” comporta l'insorgere di problematiche di natura etica e morale.

Mentre i veicoli autonomi sono destinati a diffondersi in misura sempre maggiore sulle strade, i dilemmi etici e morali che i sistemi autonomi dovranno necessariamente affrontare sono già oggetto di un dibattito che coinvolge il settore automobilistico nel suo complesso, dai consumatori, ai legislatori, alle compagnie di assicurazione fino ad arrivare ovviamente ai costruttori stessi. Vi sono alcune decisioni difficili da prendere, che molto probabilmente saranno quelle che avranno la maggiore visibilità sui mezzi di informazione mondiali, che già sembrano in attesa di pubblicare notizie relative a incidenti tra veicoli autonomi.

Sfortunatamente, si sono già verificati diversi incidenti mortali con i veicoli a guida autonoma dovuti, ad esempio, al fatto che gli algoritmi di rilevamento non sono stati in grado di dedurre la possibilità di un incidente imminente oppure di rilevare che il veicolo di fronte stava transitando a una distanza pericolosamente vicina. Anche se questi sistemi autonomi sono sottoposti a sofisticate prove di simulazione e a test esaustivi, sussiste sempre la possibilità che si verifichi uno scenario casuale e imprevedibile.



Guida in città 

L'etica di “vita o morte”
Le decisioni che si devono prendere nelle situazioni in cui una fatalità è inevitabile sono estremamente complesse. Le decisioni che richiedono una frazione di secondo sono nella maggior parte dei casi frutto dell'istinto piuttosto che dell'analisi approfondita della situazione. Qual è la molla che spinge un conducente, per non parlare di un veicolo autonomo, a decidere se effettuare una sterzata per evitare un pedone oppure mettere a repentaglio più vite dirigendosi verso un caffè all'aperto. In un contesto di questo tipo, ci si potrebbe chiedere se il sistema autonomo sia stato programmato, ad esempio, per poter riconoscere il numero di passeggeri presenti sul bus o di avventori in un caffè.

Anche gli atteggiamenti nei confronti del tipo di azione che un conducente potrebbe intraprendere variano nelle diverse aree geografiche del globo, come spiegato in questo articolo pubblicato sulla rivista Nature relativo al dilemma della bussola morale (ovvero i valori di riferimento). I risultati si questo studio sono sintetizzati nella figura 1.

Il progetto di ricerca, condotto da un team di esperti provenienti da tutto il mondo, si poneva l'obiettivo di individuare e sviluppare una serie di principi globali e socialmente accettabili da utilizzare nei casi in cui un veicolo autonomo si sarebbe trovato di fronte a situazioni che implicavano scelte attinenti la sfera etica e morale. La diversità degli atteggiamenti su base regionale, una volta accettata su base nazionale, potrebbe essere adattata tramite la messa a punto dei parametri delle reti neurali.

Nel Vecchio Continente, la Commissione Europea sta lavorando per consentire la circolazione di veicoli completamente autonomi su determinati tratti della rete stradale. Nel mese di Luglio del 2022, il regolamento generale sulla sicurezza stradale (GSR – General Safety Regulation) ha stabilito un insieme minimo di sistemi ADAS obbligatori per tutti i veicoli circolanti, in aggiunta ai requisiti tecnici per i livelli 4 e 5 previsti dallo schema di riferimento di SAE per i veicoli completamente autonomi (si faccia riferimento al terzo blog di questa serie: “Autonomia dei veicoli: le fasi chiave dell'evoluzione”).

All'interno dell'Unione Europea, lo spinoso problema dell'etica viene affrontato in maniera frammentaria e molti Stati nazionali preferiscono procedere in autonomia. Un esempio è la Germania, che nel 2017 ha stabilito un codice etico di condotta per il veicoli autonomi. Secondo tale codice, la priorità alla salvaguardia degli esseri umani e ai tentativi di evitare lesioni personali rispetto ad animali e proprietà è un requisito chiave per gli algoritmi di apprendimento automatico nelle situazioni in cui un incidente è inevitabile. Il governo della Gran Bretagna non ha ancora affrontato il dibattito sugli aspetti etici, anche se ha emanato una guida per effettuare prove di veicoli autonomi su strade pubbliche che devono rispettare una serie di criteri prestabiliti.

Attribuzione di responsabilità
L'attribuzione di responsabilità di un incidente è un'altra tematica che suscita notevole interesse. Nel caso di conducenti umani, le compagnie assicurative, una volta esaminate le richieste di risarcimento delle parti coinvolte e i report dei servizi di soccorso, di solito pervengono a una conclusione condivisa su chi ha causato il sinistro.

Con i veicoli completamente autonomi, livelli 4 e 5 dello schema SAE, il conducente non esiste e i passeggeri non possono intervenire in alcun modo. In uno scenario di questo tipo, la causa dell'incidente può essere imputabile al produttore del veicolo, allo sviluppatore degli algoritmi, al produttore di sensori oppure ancora al conducente umano di un altro veicolo. Il livello 3 della guida autonoma potrebbe dare origine a una “zona grigia”, in quanto prevede il subentro di un guidatore umano nel caso di richiesta di intervento da parte dei sistemi autonomi. Chiaramente, il conducente potrebbe avere poco tempo per intervenire o poter fare qualche manovra per cercare di evitare l'incidente.

Probabilmente, uno dei vantaggi di poter indagare su un incidente che coinvolge un veicolo autonomo è la possibilità di accedere ai dati registrati nella “scatola nera”. In California, ad esempio, per i veicoli autonomi di prova è obbligatorio fornire un insieme completo dei dati del sistema relativo ai 30 secondi che precedono l'incidente. Tuttavia, non è ancora chiaro se un requisito di questo tipo possa diventare una norma per tutti i veicoli autonomi venduti su scala mondiale.

Nonostante i numerosi problemi ancora da risolvere, di natura sia tecnica sia morale, gli obiettivi legati all'introduzione dei veicoli autonomi sono garantire una maggiore sicurezza per tutti gli utenti della strada, ridurre la congestione e abbattere i livelli di inquinamento. Per l'implementazione di una quadro morale socialmente accettabile sarà solo questione di tempo.

www.mouser.com

  Richiedi maggiori informazioni…