Publication du rapport de la CNIL sur les enjeux éthiques des algorithmes et de l’intelligence artificielle

Chargée par l’article 11 de la loi n°78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés dans sa rédaction issue de la loi du 7 octobre 2016 pour une République numérique de mener une « réflexion sur les problèmes éthiques et les questions de société soulevés par l'évolution des technologies numériques »(1), la Commission nationale de l’informatique et des libertés (CNIL), a présenté le 15 décembre 2017 à MM. Mounir Mahjoubi, Secrétaire d’État chargé du numérique, et Cédric Villani, député, chargé par le gouvernement d’une mission sur l’intelligence artificielle, un rapport de synthèse du débat public que l’autorité administrative indépendante a animé sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, intitulé « Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle »(2).

Prenant acte de l’omniprésence des algorithmes dans la vie des hommes et des sociétés, le rapport dégage deux principes fondateurs pour une intelligence artificielle au service de l’homme que la CNIL souhaite inscrire dans une nouvelle génération de garanties et de droits fondamentaux de l’ère numérique, des « droits-systèmes ».
  • Un principe de loyauté : qu’il traite ou non de données personnelles, tout algorithme doit être loyal envers ses utilisateurs, consommateurs comme citoyens, communautés ou grands intérêts collectifs. Il s’agit ainsi de garantir l’intérêt supérieur des utilisateurs.
  • Un principe de vigilance/réflexivité : il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets technologiques par nature imprévisibles qui s’insèrent dans des chaînes algorithmiques très compartimentées et qui font souvent l’objet d’une confiance excessive.
La CNIL souligne que ces deux principes doivent être complétés par des principes organisationnels, formulés en six recommandations opérationnelles, qui doivent conduire à l’intelligibilité et la responsabilité des systèmes algorithmiques, ainsi qu’à la nature de l’intervention humaine dans la prise de décision algorithmique.
  • Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) ;
  • Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
  • Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîte noire » ;
  • Constituer une plateforme nationale d’audit des algorithmes ;
  • Encourager la recherche sur l’intelligence artificielle éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
  • Renforcer la fonction éthique au sein des entreprises.
 
Notes
puce note (1) Article 59 de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique
puce note (2) Rapport de la CNIL sur les enjeux éthiques des algorithmes et de l'intelligence artificielle (pdf)
 
 
Informations légales