Sécurité applicative : pourquoi passer au DevSecOps ?

Intelligence Autonome : le cas Uber

News Seela
Auteur.e :
Alexis G.

Le monde automobile a énormément évolué, que ce soit mécaniquement, mais aussi électroniquement avec l’arrivée des calculateurs sous nos capots. Pour faire simple, un calculateur est un système embarqué qui permet à l’aide de plusieurs capteurs de gérer certains paramètres tels que l’allumage et les temps d’injections. Très tôt, nous avions compris que les assistances informatiques permettent d’accroître les performances et la sécurité de nos véhicules.

Pour ses services de déplacement automobiles, la société Uber travaille sur la recherche et le développement de voiture autonome. Leur objectif est simple : proposer aux clients une nouvelle méthode de déplacement ! Ce projet a pour but de transporter différents clients dans des voitures dépourvues de conducteur. Pour ce faire, il faudra à Uber la force de développer des systèmes complétements autonomes.

Malheureusement, le 18 mars 2018 en Arizona, une voiture autonome en test de la société Uber percute la piétonne Elaine Herzberg qui succombera de ses blessures quelques heures plus tard…

Pour comprendre ce qu’il s’est réellement passé, il est important de décomposer les éléments utilisés par le véhicule. Ce dernier est un SUV Volvo XC90 sur lequel sont connectés plusieurs capteurs dont un LIDAR (laser imaging detection and ranging). Un LIDAR est un appareil qui a pour mission de cartographier son environnement. Pour obtenir un tel résultat, il émet de la lumière infrarouge qui rebondit sur chaque objet environnant.

En résumé, la société Uber s’est associée à plusieurs marques pour travailler sur une nouvelle manière de se déplacer. On peut deviner que chaque capteur envoie les données récoltées sur un serveur dans lequel se trouve le logiciel développé par Uber.

Ce programme serait donc capable d’interpréter les résultats reçus par les capteurs pour interagir et piloter mécaniquement le véhicule, par exemple tourner ou freiner. L’Intelligence Autonome, ce fameux soir de l’accident, le LIDAR aurait bel et bien identifié Elaine Herzberg. Contre toute attente, le véhicule n’a pas pris la décision de freiner… Mais pourquoi ?

Nous parlons souvent d’intelligence artificielle dans ces véhicules modernes.

Malheureusement, cela peut s’apparenter à un abus de langage. Il faut différencier 2 grands types d’IA :

Les IA faibles : définies comme une intelligence limitée dans leurs actions et qui sont classées non-sensibles. Elles sont capables de “progresser” mais toujours en suivant les instructions prévues dans le code.

Les IA fortes : Dans ce cas, l’IA tente au maximum de se rapprocher de l’humain et la notion de sensibilité entre en jeu. Toujours à l’état de recherche, ce type d’IA a pour vocation de “développer” ses sens.

Sans avoir accès au programme d’Uber, il est difficile de savoir quel type d’IA était en essai. Le fait que ce logiciel n’ait pas ordonné à la voiture de freiner peut être vu comme un souci de configuration et de sensibilité du système. Les développeurs n’auraient pas prévu qu’un piéton puisse être en dehors d’une zone piétonne. Pour faire simple, le véhicule a bien vu Elaine Herzberg ce soir-là, mais n’a pas décidé de ralentir, car il était “impossible” qu’un piéton se trouve sur une route rapide ouverte. Le logiciel n’aurait donc pas classé Elaine comme piétonne, mais comme un “objet”. Uber a évidemment revu entièrement son logiciel et a travaillé avec Volvo pour fournir une nouvelle version des véhicules d’essais. Ces nouveaux engins sont en circulation depuis fin 2018, toujours en Amérique du Nord.

Le cas Herzberg nous démontre que faire rouler un serveur avec son logiciel capable de contrôler les organes mécaniques d’une auto peuvent être plus complexes que prévu. Dans cette situation, nous pouvons conclure qu’il s’agit d’une erreur logicielle.

Qu’arrivera-t-il si nous parlons d’un logiciel corrompu ? Uber en a payé les frais, mais continu sa volonté de proposer une expérience inédite comme le fait son voisin Tesla.

Nous nous dirigeons vers des assistances de plus en plus convaincantes, mais rappelons-nous qu’il ne s’agit pour l’instant qu’une aide à la conduite.

Retour à l'acceuil
Nos derniers articles
Pourquoi passer au DevSecOps
Cyber conseils
Allô ? Ici le PBX Hacking
Lire l'article
Pourquoi passer au DevSecOps
News Seela
Intelligence Autonome : le cas Uber
Lire l'article
Pourquoi passer au DevSecOps
Sécuriser
L'Attaque Kaseya, quelles leçons à tirer ?
Lire l'article
Accéder à tous les articles