Benvenuti in Italia Autopilot! Dove le ombre sul cemento battono l’intelligenza artificiale

La disavventura di Nello Coppeto nella Galleria Giovanni XXIII di Roma evidenzia i limiti dei sistemi di guida assistita basati sulla sola visione artificiale. Le ombre del grigliato della galleria hanno ingannato l’Autopilot, causando una sterzata improvvisa e riaprendo il dibattito su sicurezza, infrastrutture e responsabilità.

_{Quando l’asfalto romano manda in tilt l’Autopilot: il caso di Nello Coppeto sulla Galleria Giovanni XXIII}

Vi presento oggi un caso accaduto ad un mio contatto LinkedIN che ci fa riflettere sulla tranquillità che si può provare nel guidare la vostra Tesla o BYD o LeapMotor o altra BEV lungo una delle nostre vie o viali cittadini italiani con autopilot di serie inserito. Quanto poi descriverò è accaduto in una via trafficata di Roma, la Galleria Giovanni XXIII.

Siete tranquilli, state pensando agli affari vostri, le vostre preoccupazioni familiari o lavorative vi tengono occupati mentalmente, quando, all’improvviso, la vostra auto decide da sola di sterzare verso il veicolo che avete a fianco. In questi casi la prontezza di riflessi è di certo di grande aiuto.

Ciò è proprio quello che è accaduto a Nello Coppeto, Responsabile del Giotto Cyber Suite Lab; Nello ha condiviso su LinkedIn la sua esperienza, raccontandola con delle opportune riflessioni …

Ma a cosa è stata dovuta l’improvvisa sterzata autonoma? La causa o meglio “il colpevole” era sopra la testa di Nello, non in senso metaforico ma in senso fisico, letterale: il grigliato metallico che copre la galleria, progettato tra il 1999 e il 2004, proietta sull’asfalto un pattern di strisce d’ombra parallele, perpendicolari al senso di marcia. Per noi esseri viventi, italiani soprattutto, abituati a convivere con ogni tipo di degrado infrastrutturale e di asfalto rovinato, è semplicemente “un disegno sul cemento”. Per l’elettronica di computer vision delle moderne auto con guida assistita, addestrate a riconoscere le strisce delle corsia, quelle ombre sono una trappola perfetta, una sorta di inganno: il sistema le interpreta come segnaletica orizzontale, si confonde, e decide di sterzare. Le conseguenze possono essere davvero gravi.

Passiamo ora a considerare le riflessioni di Nello, che non ha solo raccontato l’accaduto ma si è anche posto tre domande:

• Chi ha progettato quella copertura che crea l’inganno ottico?
• Chi ha omologato quel sistema di AUTOPILOT in Italia?
• Chi dovrebbe occuparsi di questi problemi visto che potrebbero riaccadere in futuro?

L’elettronica evoluta su infrastrutture stradali arretrate

La questione principale sollevata da Coppeto è molto chiara: stiamo usando intelligenza artificiale di frontiera su infrastrutture pensate male forse anche per gli esseri umani. La Galleria Giovanni XXIII non è l’unico caso: in Italia esistono altre strutture come ponti, tunnel, guard-rail e istallazioni segnaletiche che presentano stranezze o anomalie.

Il problema tecnico alla base non è una novità per gli esperti del settore. I sistemi basati esclusivamente su telecamere, come il Tesla Vision, adottato dalla casa di Elon Musk dopo l’abbandono del radar nel 2021, sono vulnerabili a ombre, riflessi e illusioni ottiche, che possono causare comportamenti errati del sistema di guida assistita. Le strisce d’ombra create dal grigliato romano della galleria di Roma sono un esempio classico di quello che gli esperti chiamano “edge case”, situazioni al limite che i modelli di machine learning non hanno mai analizzato durante il loro allenamento: in questi casi vengono prese decisioni errate che possono essere pericolose.

Cavalcavia, colline, ombre marcate e strisce di corsia ravvicinate possono confondere la logica di mantenimento della corsia e di prevenzione delle collisioni, provocando rallentamenti, manovre non necessarie o in generale problemi al traffico. Nello scenario di Nello Coppeto, il sistema non ha frenato, ma sterzato; un comportamento questo forse più imprevedibile e potenzialmente rischioso in una galleria urbana con molto traffico.

La questione giuridica del Livello 2 SAE

Nello parla anche di questione legali … L’Autopilot ad esempio di Tesla, è classificato come sistema di Livello 2 SAE: guida assistita, non guida autonoma. In poche parole, il conducente è sempre e comunque responsabile. Tesla lo indica in modo chiaro, lo fa accettare tramite firma e lo ripete ad ogni attivazione del sistema. Quindi, di conseguenza, se l’auto sterzasse e ferisse qualcuno, la responsabilità civile e penale cadrebbe, almeno in prima battuta, su chi era seduto al posto di guida davanti al volante.

La cosa che può sembrare strana è che la parola “Autopilot” fa pensare molte persone ad aerei o auto che vanno da sole quando invece ad oggi Autopilot è una facility che richiede l’attenzione costante dell’umano al volante.

Oltre il caso romano: i precedenti che fanno pensare ad un futuro incerto

Il caso di Coppeto non è il primo, e molto probabilmente non sarà l’ultimo. Il primo luglio 2021, in autostrada verso Loano, una Tesla Model 3 con Autopilot inserito si schiantò a 130 km/h contro un furgone ribaltato sulla carreggiata. I dati di bordo mostrarono che non ci fu alcun rallentamento prima dell’impatto: il sistema semplicemente non si era accorta dell’ostacolo.

Un’inchiesta del Guardian pubblicata nell’aprile 2024 ha mostrato i risultati di tre anni di indagini della NHTSA: il sistema Autopilot è stato coinvolto in almeno 13 incidenti mortali tra il 2021 e il 2023, con numerosi altri sinistri con feriti.

Sul fronte della “phantom braking”, locuzione inglese con cui si riferiscono le frenate improvvise in assenza di pericolo reale, la situazione non è migliore. In Germania, l’autorità KBA ha aperto nel 2025 un’indagine specifica sul fenomeno, e anche in Italia numerosi utenti riportano esperienze simili nei forum dedicati.

Anche la ricerca accademica ha trattato l’argomento: studi recenti hanno dimostrato che pattern di ombre artificiali proiettate sull’asfalto possono essere usati come veri e propri attacchi ai sistemi di rilevamento delle corsie dei veicoli autonomi, causando sterzate fuori strada con un tasso di successo molto alto (sopra il 90%) oltre i 10 mph.

Conclusione

Nello Coppeto conclude il suo post affermando che forse è il caso di dotare le auto di sensori aggiuntivi per prevenire i pericoli legati alle lacune della sola visione artificiale. Forse la scelta di Tesla di abbandonare il radar in favore del solo Tesla Vision è stata solo di tipo economico visto che ha ridotto i costi di produzione, ma ciò ha avuto come conseguenza il rendere il sistema più vulnerabile a scenari di ambiguità visiva, come quelli creati dalle ombre di un grigliato costruito a Roma durante gli anni ’90.

Quando parliamo di guida autonoma e assistita non stiamo considerando solo una questione tecnologica: la cosa dovrebbe essere valutata in un modo più olistico, a 360 gradi. Questi scenari richiedono infrastrutture stradali adeguate, omologazioni rigorose, responsabilità chiare e, soprattutto, la presa di coscienza di come un algoritmo, per quanto sofisticato, non sia ancora in grado di convivere con il nostro famoso caos italiano.

Antonio Piovesan

Laureato in ingegneria Informatica nel 2002, certificato CISSP dal 2023, entra nel mondo ICT come analista/full stack developer. Prosegue nella formazione frequentando un executive Master in cybersecurity e data protection presso 24ORE Business School. Si occupa ora di temi legati alla cybersecurity governance in ambito grande distribuzione organizzata. Nutre una forte passione per la tecnologia, l’innovazione e la cybersecurity, favorendo la diffusione della consapevolezza al rischio digitale. Ama leggere libri sulla storia della matematica ed è un appassionato di letteratura e cinematografia fantascientifica.

Aree di competenza: NIS2, Governance & Security Compliance, DevSecOps, Divulgazione e Cultura Cyber