Dans la prochaines semaines, la CNIL (Commission Nationale de l'Informatique et des Libertés) lancera une consultation sectorielle auprès de l'écosystème de l'IA et de la sécurité informatique, des utilisateurs et des associations représentatifs afin de définir les produits, solutions et services de Cybersécurité à étudier prioritairement.
Dans un communiqué, elle annonce que "La numérisation croissante de l’activité va de pair avec la pression d’une menace cyber qui se professionnalise. Les solutions de cybersécurité ont évolué vers des technologies mêlant intelligence artificielle, mutualisation et utilisation d’informations diverses, prises de décision automatisée, ou encore analyse du comportement des utilisateurs pour les outils les plus avancés. Ces solutions permettent de répondre à l’obligation de sécurisation des systèmes d’information pour les organismes.

Certaines d’entre elles reposent, cependant, sur la collecte et l’utilisation de données personnelles, parfois à large échelle. Elles peuvent aboutir à des décisions automatisées ayant un impact sur les personnes dans leur rôle de citoyen, d’employé, ou de patient (par exemple, une personne dont l’adresse IP se trouve, à tort, présente dans une plage temporairement bloquée pendant une attaque présumée et dont l’accès lui est nécessaire). Il est nécessaire de trouver le bon équilibre afin de sécuriser les traitements tout en étant protecteur des droits et libertés des personnes."

Rappelons que depuis le 23 janvier 2023 un service dédié à l'intelligence artificielle a été créé pour renforcer "sa compréhension sur les risques engendrés sur la vie privée" et "préparer l'entrée en application du règlement européen sur l'IA".
Des recommandations sur l'usage devraient être bientôt officialisées.