Les Américains retirent de la circulation les 950 robots-taxis jusqu’à ce qu’ils apprennent à ne pas écraser les gens et à ne pas percuter les enfants.

/

Nous disons depuis des années qu’une technologie inachevée n’a rien à faire sur les routes sans une supervision humaine permanente. Mais Cruise vient seulement de s’en rendre compte, tout comme les hommes politiques. Et les conséquences les plus graves de leur négligence ne sont apparemment pas le fruit du hasard.

L’étau commence à se resserrer autour de la conduite autonome. Au point de se rompre le cou. De notre point de vue, ce n’est pas une surprise ; c’est plutôt un point d’interrogation sur ce que les politiciens, en particulier aux États-Unis, ont permis. Après tout, non seulement Tesla, mais aussi Waymo et Cruise ont fait des routes publiques leur terrain d’essai. Dans aucun des deux cas, les entreprises n’ont développé la technologie à un stade où elle pourrait résister à un déploiement commercial, mais elles ont été autorisées à expérimenter au point de ne même pas avoir besoin d’un opérateur physiquement assis au volant des voitures d’essai.

Pendant de nombreuses années, les responsables politiques ont cru les fabricants qui affirmaient que leurs algorithmes étaient plus fiables que les humains. Mais ce n’est pas le cas, pas dans l’état actuel de la technique, si bien que les voitures robotisées perdaient régulièrement leurs repères dans le trafic et que ce n’était qu’une question de temps avant que quelque chose de grave ne se produise. Ce n’est que lors d’un accident survenu début octobre, lorsque le robot-taxi de Cruise a écrasé une femme projetée sur sa trajectoire par une autre voiture, que les yeux du grand public se sont ouverts. Même à ce moment-là, on se demandait si l’accident aurait pu être évité. Mais même si cela n’avait pas été le cas, le problème critique est apparu au moment où la voiture s’est arrêtée pour la première fois sur la femme qu’elle a heurtée. Elle a ensuite décollé comme si de rien n’était, faisant littéralement rouler la piétonne blessée.

Cruise a d’abord affirmé que le robot-taxi n’avait rien fait de mal et qu’il s’était arrêté exactement comme prévu. Il a complètement occulté la partie concernant le redémarrage et la souffrance supplémentaire de la femme frappée, et a manipulé la séquence vidéo de l’incident. À la suite de cette révélation, les autorités californiennes ont décidé que les voitures sans conducteur n’étaient plus autorisées à circuler sur la voie publique. Cruise a alors suspendu toutes ses activités, en attendant les résultats d’une enquête interne. Mais l’affaire ne s’est pas arrêtée là non plus.

En fait, la société a actuellement retiré 950 voitures de la circulation afin d’éviter d’autres tragédies similaires. En outre, le programme Cruise Origin, dans le cadre duquel les robots-taxis ne devaient plus avoir de volant ni de pédales, a été temporairement suspendu. Mais ce n’était qu’une cerise pourrie sur le gâteau, car les voitures à pédales n’étaient déjà commandées que par un opérateur à distance, qui ne pouvait souvent rien faire – il suffisait de surcharger le réseau mobile.

En outre, l’entreprise a longtemps cherché à brouiller les pistes, selon une enquête de l’organisation américaine The Intercept. En effet, The Intercept a mis la main sur des documents internes de Cruise qui montrent que les robots-taxis ont depuis longtemps des difficultés à détecter les enfants près des routes. Néanmoins, ils ont été autorisés à traverser des voies publiques où des enfants se déplacent. Une telle chose est vraiment étonnante.

En fait, les documents indiquent que les robots-taxis « ne disposent pas d’un classificateur de haute précision pour reconnaître les petites URV ». Il s’agit des usagers de la route les plus vulnérables, à savoir les enfants. Cela s’explique notamment par le fait qu' »il existe très peu de cas permettant d’estimer le risque ». Les robots-taxis sont donc censés s’appuyer, entre autres, sur les opérateurs, qu’ils soient dans la voiture ou à distance, pour les aider à identifier les enfants.

Cruise a déjà commenté le rapport, affirmant que le système « n’a pas échoué à détecter les enfants, mais il a échoué à les reconnaître en tant qu’enfants ». Ce qui nous ramène au début. C’est-à-dire au fait que, aussi avancés que soient les algorithmes informatiques d’aujourd’hui, ils ne peuvent tout simplement pas remplacer les humains. Nous verrons ce qui se passera ensuite, mais pour l’instant, une chose est sûre : les taxis de croisière sont hors jeu jusqu’à ce que la société leur apprenne à ne pas écraser les gens et à ne pas percuter les enfants. C’est aussi simple que cela.

Cruise voulait impressionner le public en autorisant la conduite autonome sans opérateurs de sécurité derrière le volant. Mais nous connaissons tous le sort de l’oreille de la cruche avec laquelle il faut aller chercher de l’eau pendant longtemps. De nouvelles découvertes suggèrent que la casser aurait pu être encore plus catastrophique. Photo : Cruise

Source : Reuters, The Intercept

Tous les articles d’Autoforum.cz sont des commentaires exprimant l’opinion des rédacteurs ou de l’auteur. À l’exception des articles marqués comme étant de la publicité, le contenu n’est pas sponsorisé ou influencé de quelque manière que ce soit par des tiers.