Le Pentagone élabore des guides interactifs pour assurer un développement de l’IA responsable, basés sur des principes éthiques et sécuritaires.
Le département de la Défense américain (Pentagone) développe des outils interactifs pour guider le développement sécuritaire et éthique de l’intelligence artificielle (IA). Ces guides, dont le Responsible AI Toolkit, visent à assurer la conformité aux règlements et à promouvoir la collaboration avec les alliés tels que l’OTAN. La mise à jour intègre des recommandations sur l’IA générative et les directives prévues dans le mémorandum sur la sécurité nationale signé par le président Biden.
Le Responsible AI Toolkit : un outil pour la sécurité et l’éthique
Le Responsible AI Toolkit a été conçu pour orienter les gestionnaires de programmes du Pentagone et les responsables de la défense dans le développement de systèmes d’IA conformes aux règles éthiques et sécuritaires. Publié initialement en novembre 2023, cet outil interactif propose une checklist numérique qui aide à vérifier la conformité aux lois et règlements en vigueur. Cette démarche s’inscrit dans une stratégie plus large visant à renforcer la confiance des alliés et à promouvoir des valeurs communes face aux approches plus controversées d’adversaires comme la Chine.
L’outil est accessible au public, permettant ainsi de démontrer la transparence de l’approche américaine. Cette initiative marque une tentative d’établir des standards mondiaux en matière de développement de l’IA, soutenue par un arsenal de lois et de pratiques conformes aux principes d’éthique et de sécurité.
Coopération avec l’OTAN et les alliés internationaux
Une version adaptée du toolkit a été co-développée avec l’OTAN, répondant aux principes de l’organisation concernant l’utilisation responsable de l’IA et le cycle de vie des données. Bien que cette version ne soit pas encore accessible publiquement, elle renforce les processus d’assurance mutuelle entre alliés. L’objectif est de faciliter l’interopérabilité des systèmes dans des opérations combinées, notamment dans le cadre de projets comme le CJADC2 (Commandement et contrôle multidomaines interarmées).
L’alignement des processus de certification entre nations partenaires pourrait permettre de réduire les délais d’approbation des modèles d’IA et d’optimiser l’utilisation des ressources technologiques. Cette coopération internationale vise à renforcer la capacité collective à répondre aux menaces potentielles et à améliorer la sécurité globale.
Intégration des directives sur l’IA générative
Le développement de versions du toolkit adaptées à l’évaluation des systèmes d’IA générative et des modèles de langage de grande taille (LLM) est une priorité pour le Pentagone. Ces technologies, bien que prometteuses, posent des risques en termes de précision et de hallucinations, où les modèles peuvent produire des réponses erronées. La division dirigée par Matthew K. Johnson a rédigé la politique du Département de la Défense sur l’IA générative, visant à encadrer son usage dans des contextes militaires et stratégiques.
Les retours d’expérience du NIST et de l’OSTP sont intégrés pour améliorer la version 2 du toolkit, qui sera bientôt disponible. Cette version présentera des lignes directrices pour assurer l’emploi de ces technologies de manière sûre et efficace, tout en évitant les biais et les problèmes de sécurité.
Les impacts sur la sécurité et la compétitivité
La création de ces outils contribue à renforcer la compétitivité des États-Unis dans le secteur de l’IA. En 2023, le marché mondial de l’IA était estimé à 327 milliards d’euros, avec une croissance prévue à triple chiffre dans la prochaine décennie. La capacité à développer des systèmes conformes aux normes éthiques et sécuritaires pourrait être un atout stratégique majeur.
De plus, l’adoption de telles technologies par les alliés garantit une homogénéité des procédures et un renforcement des alliances stratégiques. Cela assure également un contrepoids aux pratiques moins réglementées de pays comme la Chine, qui investit massivement dans l’IA pour des applications civiles et militaires. La différence réside dans l’approche éthique et la transparence des procédures américaines.
Avion-Chasse.fr est un site d’information indépendant.
