Gestion de la confiance, du risque et de la sécurité de l’IA
IA : Quels enjeux pour une intégration sûre ?
L’émergence de l’intelligence artificielle (IA) transforme le paysage numérique des entreprises, mais cette avancée technologique soulève des questions cruciales concernant la gestion de la confiance, des risques et de la sécurité.
Lors de la première édition de Lyon Cyber Expo, nous avons eu le plaisir de réunir Stanislas Chesnais – CEO – Xpdeep, Yosra Barbier – Responsable régionale de la sécurité de l’information – Allianz Partners et Secrétaire du CEFCYS, Jonathan Caille – Technical Manager du produit Command & Control – division Cyber – Sopra Steria et Philippe Wieczorek – Directeur Innovation – Minalogic. Ils ont partagé avec nous leurs perspectives sur les enjeux d’utilisation sécurisée de l’IA dans les entreprises.
La confiance : un impératif à bâtir
Dans un contexte où l’IA est intégrée aux processus décisionnels, la confiance devient primordiale. Philippe Wieczorek, Directeur Innovation chez Minalogic, a affirmé que « la confiance ne se décrète pas, elle se construit grâce à la transparence des algorithmes et à l’explicabilité des décisions prises par ces systèmes ».
Il est essentiel que les utilisateurs comprennent comment les algorithmes fonctionnent et sur quelles bases les décisions sont prises. Ce besoin de transparence est particulièrement important dans des domaines tels que la cybersécurité, où des erreurs d’interprétation peuvent avoir des conséquences graves.
Identifier les risques pour mieux les atténuer
Les risques associés à l’utilisation de l’IA ne doivent pas être négligés. Stanislas Chesnais, CEO d’Xpdeep, a averti que « l’IA peut constituer une double lame : elle peut être un atout pour améliorer la sécurité, mais elle peut également être une cible pour des cyberattaques lorsque ses vulnérabilités ne sont pas identifiées ».
Pour aborder cette problématique, les organisations doivent établir des mesures proactives d’évaluation des risques. Cela inclut la mise en place de systèmes de détection capables d’identifier les failles potentielles, ainsi que l’adoption d’une culture de cybersécurité qui repose sur une vigilance constante.
La gouvernance des données : un pilier de la sécurité
Ce sentiment de confiance repose également sur la qualité des données utilisées pour alimenter les modèles d’IA. Yosra Barbier, Responsable régionale de la sécurité de l’information chez Allianz Partners, a souligné que « nous devons nous assurer que les données qui alimentent nos systèmes d’IA ne sont pas biaisées et reflètent une diversité qui nous permettra de tirer des conclusions validées ».
En effet, des modèles d’IA entraînés sur des données non représentatives, compromettent la fiabilité des résultats fournis.
Cela implique d’instaurer des processus de validation et de vérification des données, garantissant ainsi leur qualité et leur pertinence.
Sensibilisation et formation des opérationnels
Enfin, jonathan Caille, Technical Manager chez Sopra Steria, a insisté sur le besoin de former les utilisateurs aux enjeux de l’IA. « La formation des utilisateurs aux spécificités de l’IA est essentielle pour garantir leur confiance » a-t-il déclaré. Une bonne formation permet aux utilisateurs de mieux comprendre les outils à leur disposition et d’interagir avec eux de manière éclairée, minimisant ainsi les risques de mauvaise utilisation.
Un programme structuré de sensibilisation et de formation devrait inclure des éléments tels que la compréhension des algorithmes utilisés, les méthodes de collecte et de traitement des données, ainsi que l’identification des biais potentiels dans les décisions.
Vers une intégration sécurisée de l’IA
L’IA a le potentiel de transformer nos méthodes de travail et d’augmenter la productivité, mais son intégration doit se faire dans un cadre qui assure la sécurité et la fiabilité. Il est crucial de favoriser une collaboration entre les différents acteurs, allant des régulateurs aux utilisateurs finaux, afin de bâtir un écosystème de confiance qui garantisse non seulement la sécurité, mais aussi une utilisation responsable de ces technologies émergentes.
Lyon Cyber Expo, le 19 septembre 2024, Salle Fourvière
En moyenne, plus de 80% des projets d’intelligence artificielle ne sont pas déployés, car les décideurs ne font pas confiance à une “boîte noire” dont ils ne comprennent pas le raisonnement. Les hallucinations de l’intelligence artificielle sont d’ailleurs légion, ce qui tend à leur donner raison pour des utilisations critiques. L’une des clés du développement de l’IA est donc l’émergence de solutions d’explicabilité qui permettront d’établir la confiance dans ces outils. De nombreux travaux ont eu lieu et des solutions commencent à voir le jour. Démarche AI TRiSM (Trust, Risk and Security Management, ou gestion de la confiance, du risque et de la sécurité de l’IA en français), réseaux de neurones auto-explicables pour le deep learning… Cette table ronde va permettre de faire un tour d’horizon des solutions émergentes et de leur mise en œuvre sur le terrain.
Crédit image : Freepik