Thales a publié une note de position sur ʺLes défis de l’utilisation de l’IA dans les systèmes critiquesʺ en préparation de l’ ʺAI Action Summitʺ qui s’est déroulé à Paris récemment (10-11/02/2025). Extraits :
📍 ʺL’IA peut être utilisée dans des systèmes critiques en complément de l’expérience et de l’expertise humaines.ʺ
📍 ʺBien que l’IA puisse grandement améliorer la vitesse et l’efficacité de nombreux processus en suggérant des actions aux opérateurs, il est essentiel que les humains restent au centre du processus de prise de décision.ʺ
📍 ʺIl faut également veiller à ce que les actions suggérées par l’IA que nous mettons en œuvre soient valides et explicables, non seulement après coup [contrôle, audit], mais aussi en temps réel.ʺ
📍 ʺL’IA ouvre de nouvelles possibilités dans la gestion des systèmes critiques, mais elle apporte également de nouvelles vulnérabilités (…) : les systèmes eux-mêmes ou les données utilisées pour entraîner l’IA.ʺ
🤔❓ Quelle est la définition d’un ʺsystème critiqueʺ ?
« Un système critique est un système dont la défaillance peut avoir des conséquences graves, y compris des dommages environnementaux, des dommages matériels substantiels, des blessures graves ou même la perte de vies humaines. » (voir page 4 du document).
Cette définition est le plus souvent utilisé dans les domaines suivants : la sécurité et la défense, l’aviation, le maritime, le matériel médical et pharmaceutique, l’énergie, les paiement bancaires.
Quelle est la relation entre un ‘système critique’ et le RDUE ?
🤔❓ Posons directement la question à l’IA (LeChat) !
La réponse LeChat :
ʺDans le contexte de la réglementation RDUE, les systèmes critiques pourraient inclure les systèmes de gestion et de surveillance des chaînes d’approvisionnement en bois, car leur défaillance pourrait conduire à une déforestation illégale ou non durable, avec des impacts environnementaux et sociaux significatifs.
Ainsi, la relation entre un ‘système critique’ et la réglementation RDUE est que les systèmes utilisés pour assurer la conformité à la réglementation RDUE doivent être conçus et gérés comme des systèmes critiques, car leur échec pourrait entraîner des conséquences graves, notamment en termes de déforestation et de non-conformité réglementaire.
Etant donné les conséquences potentiellement sévères d’une défaillance, un système de diligence raisonnée [SDR/DDS] pour la réglementation RDUE peut effectivement être classé comme un ‘système critique’.ʺ
➡️ Un document à lire pour fiabiliser son SDR/DDS.
Source : communication Thales, document Thales.
[ Cliquez sur le lien hypertexte donné pour chaque source si vous souhaitez plus d’information. ]
