Réflexions en marge du Colloque « L’héroïsme à l’ère de l’intelligence artificielle » organisé par l’armée de l’air à l’Ecole militaire le 18 décembre 2017.

« Si nous croyons que la machine abîme l’homme c’est que, peut-être, nous manquons un peu de recul pour juger les effets de transformations aussi rapides que celles que nous avons subies. » (Saint-Exupéry)

Les avancées technologiques depuis vingt ans ont été vertigineuses. Une machine peut à présent écrire ses propres algorithmes et modéliser ses comportements futurs. Dans le domaine aéronautique, cela se traduit, entres autres, par la possibilité de réaliser une maintenance prédictive : c’est-à-dire d’identifier, avant le posé de l’avion, les pièces à changer afin d’éviter une panne. Dans le domaine militaire, à travers l’automatisation des drones opérant en essaim.

Cette multiplication des applications usant de l’intelligence artificielle est source de multiples questions éthiques, démocratiques, philosophiques, voire sociologiques. En plein cœur de l’actualité, la voiture autonome : lorsque cette dernière ne pourra plus éviter une collision mortelle, elle devra décider de l’impact, et donc de la personne à sacrifier. On comprend donc que la programmation de cette décision sera basée sur des règles. Seront-elles imposées par le gouvernement aux concepteurs ? Ou, chaque concepteur aura un programme dont il fera la promotion auprès de sa clientèle ? Les questions n’en finissent pas.

Cédric Villani, mathématicien de renom et Député de la cinquième circonscription de l’Essonne, intervenu lors du colloque organisé par l’armée de l’air intitulé « L’héroïsme à l’ère de l’intelligence artificielle », s’est interrogé sur trois points : comment peut-on analyser l’intelligence artificielle ? Quels sont les points clés pour avoir et maitriser cette intelligence artificielle ? Quels sont les axes clés pour l’aborder ?

Comment peut-on analyser l’intelligence artificielle ? Il n’existe, selon lui, aucune définition générale. Il s’agirait de « toute technologie donnant un résultat très perfectionné et dont on pourrait croire que cela relève de l’humain ». L’intelligence artificielle serait un amoncellement continu de techniques basées sur la compréhension, l’exemple de bons comportements etc. Ainsi de conclure qu’il n’existe aujourd’hui aucuns grands principes et, pourtant, une efficacité qui croit de jour en jour.

Quels sont les points clés pour avoir et maîtriser l’IA ? Aux dires de Cédric Villani, quatre composantes ont été identifiées :

D’une part, il faut de l’intelligence humaine. Le combat de la France est donc de réussir à retenir les meilleurs experts, étudiants.
D’autre part, il faut un stock de données classées. En effet, grâce à ces données, des statistiques peuvent être élaborées et des lignes des apprentissages programmées.
De plus, il faut des méthodes de calcul. Or, aujourd’hui Cédric Villani dresse le constat que l’Europe est en retard comparé aux USA ou à la Chine.
Enfin, il faut de l’argent pour financer tout cela.

Quels axes clés pour l’aborder ? Monsieur Cédric Villani a énuméré de nombreux axes qu’on se propose ici de relayer et, lorsque cela est nécessaire, commenter :

Stratégie et talent humain. En d’autres termes, il est nécessaire de disposer d’experts restant au contact de l’ensemble des idées soulevées dans le monde.
Une certaine souplesse dans la façon de travailler. En effet, c’est une matière qui évolue souvent et, rapidement.
Le besoin de règles sur les questions de droit et de responsabilité humaine. L’idée est de ne pas tout déléguer à la machine. La responsabilité humaine doit persister.
Travailler sur l’explicabilité. C’est-à-dire réussir à expliquer pourquoi et comment l’algorithme d’une machine est arrivé à certaines conclusions et pas à d’autres.
Penser l’homme avec la machine et la machine avec l’homme. Quelle est la place respective de chacun ? Cela suppose de s’interroger sur le protocole de communication qui sera mis en place entre l’homme et la machine. Car en effet, sans bon protocole, il n’y a pas de bons développements.

Tout ceci prouve que l’on réfléchit à la complémentarité entre l’homme et la machine. Pour autant, une crainte persiste : celle que l’homme puisse être à terme dépassé par la machine. Prenons l’exemple du drone militaire et de la distanciation au combat : une vidéo envoyée par le drone et jugée par un opérateur. Décision de la machine ? Décision humaine ? A ce stade, ce qu’il faut retenir, c’est que l’humain reste au centre du dispositif. L’homme ne disparaît pas, il se positionne différemment. Ainsi, ce qu’il faut penser aujourd’hui, c’est la place de l’homme dans ces nouvelles chaînes intégrant l’intelligence artificielle. L’intelligence artificielle n’est pas une fin en soi mais un moyen.

Amusante, une question a été soulevée lors de ce colloque : le héros de demain ne serait-il pas celui capable de déjouer les pronostics de la machine ? Qu’en pensez-vous ?

Bonnes fêtes de fin d’année à tous et bonnes réflexions ! JM