Les chercheurs ont découvert que les autocollants sur les panneaux de signalisation peuvent tromper les systèmes d'IA dans les voitures autonomes, conduisant à un comportement imprévisible et dangereux.

Au Symposium de sécurité des systèmes et distribué à San Diego, la Donald Bren Bren Bren Bren Bren, la Donald Bren Information & Computer Sciences de l'UC Irvine a présenté leur étude révolutionnaire. Les chercheurs ont exploré les impacts réels des attaques malveillantes à faible coût et facilement déployables sur les systèmes de reconnaissance des panneaux de signalisation (TSR) – un composant essentiel de la technologie des véhicules autonomes.

Leurs résultats ont étayé ce qui avait été théorique auparavant: que les interférences telles que la falsification de panneaux routiers peuvent les rendre indétectables aux systèmes d'IA dans les voitures autonomes. Encore plus préoccupant, une telle interférence peut amener les systèmes à mal lu ou créer des panneaux «fantômes», conduisant à des réponses erratiques, notamment le freinage d'urgence, la vitesse et d'autres violations routières.

Alfred Chen, professeur adjoint d'informatique à UC Irvine et co-auteur de l'étude, a déclaré: «Ce fait met en lumière l'importance de la sécurité, car les vulnérabilités dans ces systèmes, une fois exploitées, peuvent conduire à des risques de sécurité qui deviennent une question de vie et de mort.»

Évaluation à grande échelle dans les voitures autonomes des consommateurs

Les chercheurs pensent que la leur est la première évaluation à grande échelle des vulnérabilités de sécurité TSR dans des véhicules disponibles commercialement des principales marques grand public.

Les véhicules autonomes ne sont plus des concepts hypothétiques; Ils sont ici et prospèrent.

« Waymo a livré plus de 150 000 manèges autonomes par semaine, et il y a des millions de véhicules Tesla équipés de Tesla sur la route, ce qui démontre que la technologie des véhicules autonomes fait partie intégrante de la vie quotidienne en Amérique et dans le monde », a souligné Chen.

Ces étapes illustrent le rôle intégral des technologies autonomes jouent dans la mobilité moderne, ce qui rend d'autant plus crucial les défauts potentiels.

L'étude s'est concentrée sur trois conceptions représentatives d'attaques d'IA, évaluant leur impact sur les marques de véhicules de consommation supérieures équipées de systèmes TSR.

Une menace simple et à faible coût: autocollants multicolores

Ce qui rend l'étude alarmante, c'est la simplicité et l'accessibilité de la méthode d'attaque.

La recherche, dirigée par Ningfei Wang – un chercheur actuel chez Meta qui a mené les expériences dans le cadre de son doctorat. Chez UC Irvine – a démontré que des autocollants multicolorés tourbillonnants pourraient facilement confondre les algorithmes TSR.

Ces autocollants, que Wang a décrits comme «à moindre coût et facilement», peuvent être créés par toute personne disposant de ressources de base.

Une découverte particulièrement intrigante, mais concernant, pendant le projet, tourne autour d'une caractéristique appelée «mémorisation spatiale». Conçu pour aider les systèmes TSR à conserver la mémoire des signes détectés, cette fonctionnalité peut atténuer l'impact de certaines attaques, telles que la suppression d'un panneau d'arrêt de la «vue» de la voiture. Cependant, Wang a déclaré que cela rend l'usurpation de l'usurpation un faux panneau d'arrêt «beaucoup plus facile que ce à quoi nous nous attendions».

Remettre en question les hypothèses de sécurité sur les voitures autonomes

La recherche a également réfuté plusieurs hypothèses largement tenues dans les cercles académiques sur la sécurité des véhicules autonomes.

«Les universitaires ont étudié la sécurité des véhicules sans conducteur depuis des années et ont découvert diverses vulnérabilités pratiques de sécurité dans la dernière technologie de conduite autonome», a fait remarquer Chen. Cependant, il a souligné que ces études se déroulent souvent dans des configurations académiques contrôlées qui ne reflètent pas des scénarios du monde réel.

«Notre étude comble cette lacune critique», a poursuivi Chen, notant que des systèmes disponibles commercialement étaient auparavant négligés dans la recherche universitaire. En se concentrant sur les algorithmes d'IA commerciaux existants, l'équipe a découvert des hypothèses, des inexactitudes et de fausses affirmations brisées qui ont un impact significatif sur les performances réelles de TSR.

Une conclusion majeure impliquait la prévalence sous-estimée de la mémorisation spatiale dans les systèmes commerciaux. En modélisant cette fonctionnalité, l'équipe UC Irvine a directement contesté la validité des affirmations antérieures faites par la communauté de recherche de pointe.

Catalyser d'autres recherches

Chen et ses collaborateurs espèrent que leurs résultats servent de catalyseur pour de nouvelles recherches sur les menaces de sécurité contre les véhicules autonomes.

«Nous pensons que ce travail ne devrait être que le début, et nous espérons qu'il inspire davantage de chercheurs dans le monde universitaire et l'industrie à revoir systématiquement les impacts réels et la signification de ces types de menaces de sécurité contre les véhicules autonomes du monde réel», a déclaré Chen.

Il a ajouté: « Ce serait la première étape nécessaire avant de savoir si, au niveau sociétal, une action est nécessaire pour assurer la sécurité dans nos rues et nos autoroutes. »

Pour garantir des tests rigoureux et élargir la portée de leur étude, les chercheurs ont collaboré avec des institutions notables et ont bénéficié du financement fourni par la National Science Foundation et le Carmen + University Transportation Center du Département des transports américains.

Alors que les véhicules autonomes continuent de devenir plus omniprésents, l'étude de UC Irvine soulève un drapeau rouge sur les vulnérabilités potentielles qui pourraient avoir des conséquences sur la vie ou la mort. Les résultats de l'équipe nécessitent des protocoles de sécurité améliorés, des partenariats proactifs de l'industrie et des discussions en temps opportun pour garantir que les véhicules autonomes peuvent naviguer en toute sécurité dans nos rues sans compromettre la sécurité publique.