Comprendre le fonctionnement des algorithmes, qui déterminent par exemple les publicités ou les contenus sur internet, est "essentiel", a estimé jeudi le secrétaire d'Etat au numérique Mounir Mahjoubi lors du colloque "Intelligence artificielle pour l'humanité".
La loi prévoit déjà pour les acteurs numériques une "obligation" de "rendre transparents les critères qui ont permis la présentation d'une information et d'expliquer comment l'ordre a été établi", a-t-il rappelé.
Un site d'annonce en ligne comme Leboncoin a déjà un bouton "pourquoi" qui permet à l'internaute de comprendre pourquoi l'annonce lui a été présentée, a-t-il estimé.
"C'est obligatoire", et si ce n'est "pas encore mis en oeuvre par tout le monde, ça le sera bientôt", a-t-il assuré.
Le rapport du député Villani sur l'intelligence artificielle, rendu public mercredi soir, insiste sur la nécessité de progresser dans la connaissance de la manière dont les algorithmes fonctionnent pour prendre leur décisions.
Parfois, même les développeurs eux-mêmes ne savent pas expliquer pourquoi la machine en est parvenue à telle ou telle recommandation, ou à prendre telle ou telle décision.
Le secrétaire d'Etat au numérique a expliqué que beaucoup de chercheurs travaillaient en ce moment sur des outils automatiques capables d'auditer les intelligences artificielles, pour permettre de comprendre comment ils arrivent à leurs conclusions.
"On peut y arriver", et "je crois que ca devient de plus en plus essentiel", a-t-il souligné.
Le président de la République doit présenter jeudi après-midi à ce colloque ses orientations pour développer cette nouvelle technologie en passe de révolutionner l'économie et la société, et actuellement dominée par les Etats-Unis et la Chine.