Si l'intelligence artificielle est en passe de transformer plusieurs métiers, il semblerait qu'elle ne soit pas encore prête à assurer totalement la conduite autonome des véhicules. Bien que les voitures autonomes semblent fonctionner de manière indépendante, certaines d'entre elles nécessitent encore l'assistance humaine pour naviguer dans des contextes complexes.
Cette dépendance soulève des inquiétudes auprès de nombreux experts, notamment le sénateur Markey, qui a interrogé en février dernier sept entreprises leaders du domaine sur leurs protocoles de sécurité, sans obtenir de réponses claires concernant la fréquence et les modalités d'intervention des opérateurs à distance (RAO).
Dans son rapport, Markey déclare : "Les sociétés de véhicules autonomes se glorifient de leur capacité à réduire les accidents causés par l'erreur humaine. Pourtant, elles doivent admettre que leur technologie repose sur une intervention humaine constante." Ses inquiétudes s'appuient sur des retours d'expériences d'organisations de réglementation et des utilisateurs eux-mêmes.
Les préoccupations autour de Tesla
Le refus des entreprises de communiquer ces informations, en particulier de Tesla, éveille des soupçons. Ce dernier a déjà été critiqué pour avoir induit ses clients en erreur concernant le niveau d'autonomie réelle de ses véhicules, en utilisant des désignations telles que "Full Self-Driving". Bien que cette technologie se dévoile comme innovante, elle requiert des interventions humaines régulières.
Il a été souligné que Tesla permet à ses opérateurs d'intervenir à distance, mais le sénateur Markey note que ces systèmes pourraient ne pas être à la hauteur des attentes en raison de terminologies imprécises.
Questions de latence
Outre les doutes soulevés par la fréquence d'intervention des RAO, Markey a également questionné les entreprises sur la latence de connexion et la localisation de leurs opérateurs. Les résultats de l'enquête ont révélé que Waymo, la filiale d'Alphabet, est la seule à employer certains de ses opérateurs à l'étranger.
Des détails ont émergé, notamment lors d'une audience en février, où Waymo a indiqué que ses opérateurs dans les pays comme les Philippines pourraient avoir des conséquences sur la sécurité des véhicules autonomes. Markey avertit que "la distance physique entre le véhicule et les opérateurs augmente le potentiel de latence, ce qui peut avoir des impacts significatifs sur la capacité d'assistance rapide et efficace, crucial dans les situations d'urgence." Selon les données fournies, la latence avec les opérateurs aux États-Unis varie entre 150 millisecondes et 250 millisecondes pour ceux à l'étranger.
"Une latence excessive pourrait conduire à des recommandations inappropriées, mettant ainsi en danger la sécurité du véhicule et de ses occupants." a-t-il précisé.
Encadrer les pratiques des opérateurs
Markey a aussi mis en exergue une autre problématique : de nombreux opérateurs à distance de Waymo ne détiennent pas de permis de conduire américain. Cela pourrait entraîner des conseils dangereux, surtout dans un environnement de conduite totalement différent. Un incident a récemment mis en lumière cette réalité : un robotaxi de Waymo a ignoré un panneau d'arrêt d'un autobus scolaire sur les indications d'un RAO, en raison des conseils inappropriés donnés par un opérateur inexpérimenté.
Depuis la sortie de son rapport, Markey a sollicité la National Highway Traffic Safety Administration (NHTSA) pour examiner de plus près ces pratiques, tout en envisageant des mesures législatives pour réguler l'usage d'opérateurs à distance dans l'ère des véhicules autonomes.
