Sécurité : l’intelligence artificielle, enjeu de souveraineté nationale

Cédric Villani (à gauche) s’est vu confier une mission de réflexion sur l’intelligence artificielle par le Premier ministre Edouard Philippe. Le 8 septembre 2017, ce dernier a défini la stratégie nationale dans ce domaine, qui porte sur divers enjeux, notamment économiques, sociaux et éthiques, consécutifs à la révolution technologique. Le Premier ministre a également souligné les atouts de la France : vivier de start-up spécialisées ; excellence de la recherche et de la formation en mathématiques ; bases de données de très haute qualité ; grands groupes industriels utilisateurs de l’intelligence artificielle.

Face à la puissance technique et financière des Etats-Unis et de la Chine dans le domaine de l’intelligence artificielle, l’émergence de « champions » en France repose sur une action transversale d’équipes de recherche, d’associations et de petites, moyennes et grandes entreprises.

Ce thème a fait l’objet d’une conférence-débat organisée, le 21 septembre 2017 à Paris, par l’Institut national des hautes études de la sécurité et de la justice. Y sont notamment intervenus : le mathématicien Cédric Villani, titulaire 2010 de la Médaille Fields (équivalent du prix Nobel) et député de l’Essonne ; David Ofer, vice-président d’ITrust ; Luc Manigot, directeur des opérations de Sinequa ; la magistrate Myriam Quemener, conseillère juridique à la Délégation aux industries de sécurité et à la lutte contre les cybermenaces (ministère de l’Intérieur).

Caractéristiques. L’intelligence artificielle (IA) consiste en une multitude de techniques, qui répondent à des enjeux par des solutions adaptées, explique Cédric Villani. Compte tenu de la complexité des paramètres, l’algorithme va s’adapter au contexte et trouver une solution par tâtonnements, à partir d’exemples. L’IA a progressé grâce à un usage systématique de données, mais la modélisation facilite la compréhension de la causalité. L’excellence repose sur une recherche sur l’algorithme théorique, notamment par le CNRS, les sciences humaines et cognitives, les start-up, une grande base de données et la volonté d’allier le « scientifique » au « politique ». La recherche théorique doit déboucher vers « l’économique », mais les chercheurs français se rangent plutôt du côté de la théorie que de la valorisation, estime Cédric Villani. L’IA fait l’objet de débats intenses sur l’opposition de la confidentialité, pour protéger l’utilisateur, à l’intérêt public pour la mise en commun la plus large possible dans une société qui s’expose sur les réseaux sociaux. Dans le domaine de la santé, l’IA intervient dans la prévention et l’analyse de multiples cas pour détecter à l’avance un risque ou suggérer un traitement personnalisé. En matière de sécurité, un grand nombre de sources et de méthodes différentes permet d’éviter une réponse binaire. La vigilance s’impose pour évaluer le niveau des résultats attendus. Selon Cédric Villani, une démarche protectionniste conduit à l’échec. Il s’agit de maintenir l’expertise nationale et de permettre aux chercheurs de s’épanouir dans un contexte européen en tenant compte d’une perspective économique par rapport aux Etats-Unis et à la Chine.

Cybersécurité.  Aujourd’hui, les « APT » (« menaces persistantes avancées » en français) s’introduisent dans les réseaux informatiques des entreprises pour voler leurs données. Selon le Livre Blanc de la société de sécurité informatique ITrust, les attaques d’APT sont perpétrées, à des fins politiques ou financières, par des agences gouvernementales ou des organisations criminelles capables de financer leur propre programme de recherche de failles. Une attaque APT se poursuit longtemps, jusqu’à ce que la cible soit intégralement compromise. Un outil basé sur l’IA permet de mettre en valeur chaque zone ciblée par une attaque APT pour l’arrêter. L’attaquant procède en plusieurs étapes : reconnaissance de la cible par de nombreuses techniques ; armement pour combiner le vecteur d’attaque avec un contenu malicieux (« malware ») ; infiltration du malware ; exploitation d’une faiblesse logicielle ou humaine pour l’activer ; installation durable du malware sur un ordinateur hôte individuel ; appel du malware vers l’attaquant, qui en prend le contrôle ; exfiltration des données. L’IA analyse les flux d’informations pour détecter les signaux faibles d’un virus inconnu et déterminer l’origine, le scénario et la propagation de l’attaque, précise David Ofer. Ensuite, des outils interviennent avant que les pirates ne remplissent leur mission. Dès 2010, les agences de renseignement américaines CIA (civile) et DIA (militaire) ont mentionné l’existence d’APT. En matière de cybersécurité, la France emploie des ingénieurs et des chercheurs de haut niveau, soumis à une enquête préalable sur leur éventuel passé professionnel à l’étranger, indique David Ofer. Selon lui, les entreprises spécialisées dans l’IA et à la recherche des financements peuvent trouver des fonds de 60 M$ à 250 M$ aux Etats-Unis, contre 2 M$ en France. Parmi les 5 plus importantes dans ce domaine, figurent 3 américaines, 1 britannique et 1 israélienne. En outre, aux Etats-Unis, les forces armées achètent tous les produits IA des start-up ou les aident à trouver des clients. En Israël, le Mossad (service de renseignement) a créé un fonds d’investissements dédié et fondé sur l’adage : « vous avez une idée ? On va en parler dans trois ans ! » En Europe et en France, les petites et moyennes entreprises d’IA en cybersécurité ne devraient pas dépendre seulement des fonds publics, estime David Ofer. Il s’agit de les fédérer pour leur donner accès aux marchés financiers.

« Big Data ». Selon la société de sécurité informatique Sinequa, la traque financière des organisations criminelles ou terroristes doit relever trois défis : croissance exponentielle des volumes d’informations à collecter et à traiter ; diversité des sources et des formats (textes multilingues, images, vidéos et transcriptions audio) ; analyse de textes sophistiqués en plusieurs langues. Il s’agit d’accéder, par des outils d’IA, à celles utiles à la connaissance d’un « client », explique Luc Manigot. Leurs valeurs et variétés constituent un terreau complexe à partir duquel se construit un algorithme. Les services de renseignement se basent sur des règles déterminées, insuffisantes pour cerner tous les aspects du terrorisme. L’IA permet de construire des modèles départementaux pour disposer de la bonne information au bon endroit et au bon moment.

Justice et liberté. L’IA apporte une aide à la décision, estime Myriam Quemener. Elle permet d’accélérer les procédures et de modéliser beaucoup de décrets. La coopération public/privé existe. Ainsi, deux cours d’appel de province se sont associées à une start-up pour établir une plate-forme d’analyse juridique, en vue d’envisager des solutions. Toutefois, l’IA est perçue comme une menace par certaines professions de justice craignant d’être remplacées par des robots. En « pistant » les magistrats dans leurs recherches, l’IA met en péril leur indépendance, sans compter des contournements possibles de la justice. Enfin, il convient de sensibiliser le citoyen à la nécessité de son consentement pour l’accès à ses données sensibles.

Loïc Salmon

site réalisé par triibu