jeudi 26 juin 2025

Quels documents techniques et instructions doivent accompagner une IA à haut risque.

Pour déployer un système d’IA à haut risque, la réglementation européenne (AI Act) impose la fourniture d’une documentation technique complète et d’instructions d’utilisation claires, qui doivent accompagner le système tout au long de son cycle de vie. Je dois dire que le déploiement d'une IA dans une entreprise devrait toujours suivre ces recommandations.

Documentation technique obligatoire (article 11 du AI Act)

Cette documentation doit être établie avant la mise sur le marché ou la mise en service, et tenue à jour. Elle doit démontrer que le système respecte toutes les exigences légales, notamment :

- Description générale du système : finalité, fonctionnement, architecture, nature des données traitées, catégories de personnes concernées.
- Description des interfaces utilisateurs et des déployeurs.
- Description des mesures de gestion des risques mises en place.
- Description des méthodes utilisées pour assurer la robustesse, la précision, la sécurité et la cybersécurité.
- Documentation des jeux de données d’entraînement et de test, avec indication des biais potentiels et mesures d’atténuation.
- Procédures d’évaluation et de tests réalisés, résultats et conformité.
- Description des mécanismes de surveillance humaine.
- Enregistrement des événements pertinents pour la traçabilité.
- Exemples d’utilisations prévues et scénarios d’utilisation interdits.
- Informations sur la gouvernance des données et la protection des droits fondamentaux.

Les petites et moyennes entreprises peuvent utiliser un formulaire simplifié prévu par la Commission européenne, mais doivent néanmoins fournir ces éléments essentiels.

Instructions d’utilisation

Les instructions doivent être claires, compréhensibles et accessibles aux utilisateurs finaux. Elles doivent inclure :

- Les conditions d’utilisation du système.
- Les capacités et limites du système d’IA.
- Les risques potentiels associés à l’utilisation.
- Les mesures de sécurité à respecter.
- Les modalités de supervision humaine et d’intervention.
- Les consignes en cas de dysfonctionnement ou d’incident.
- Les informations nécessaires pour interpréter les résultats fournis par l’IA.

Ces instructions visent à garantir une utilisation responsable et sécurisée du système, en informant pleinement les utilisateurs.

---

En résumé, la documentation technique et les instructions d’utilisation sont des éléments clés pour assurer la conformité réglementaire, la transparence et la sécurité des systèmes d’IA à haut risque. Elles permettent aux autorités de vérifier la conformité et aux utilisateurs de comprendre et contrôler le fonctionnement de l’IA.

Pour respecter l’AI Act lors du déploiement d’une IA à haut risque, vous devez intégrer des mesures rigoureuses de gouvernance des données et de gestion des risques, structurées autour des points suivants :

Gouvernance des données

Qualité des données : Utiliser des ensembles de données pertinents, représentatifs, complets et exempts d’erreurs pour l’entraînement, la validation et les tests afin de limiter les biais et garantir l’équité.
Traçabilité et documentation : Maintenir une documentation exhaustive des données utilisées (provenance, traitement, mise à jour), avec un catalogue centralisé pour assurer la transparence et faciliter les audits.
Protection des données personnelles : Appliquer les principes du RGPD (minimisation, pseudonymisation, limitation de conservation), garantir la confidentialité et la sécurité des données traitées.
Gestion des fournisseurs : Intégrer dans les contrats des clauses spécifiques sur la qualité et la sécurité des données fournies, et sensibiliser les équipes achats à ces enjeux.

Mon drive avec mes documents...

Gestion des risques

Identification et évaluation continue des risques : Cartographier les systèmes d’IA, qualifier les risques (juridiques, techniques, humains), et évaluer régulièrement leur évolution tout au long du cycle de vie5 67.
Mise en place d’un système de gestion des risques : Formaliser des processus pour anticiper, détecter et atténuer les risques (biais, erreurs, cyberattaques, impacts sur les droits fondamentaux)1 46.
Surveillance humaine : Assurer une supervision humaine adaptée, avec des opérateurs formés et habilités à intervenir en cas de dysfonctionnement ou de résultats inattendus46.
Robustesse et cybersécurité : Garantir la fiabilité technique du système, sa résistance aux attaques et aux erreurs, et mettre en place des plans de réponse aux incidents15.
Gouvernance organisationnelle : Créer un comité d’éthique IA, nommer un responsable conformité IA, formaliser une politique IA alignée sur les objectifs stratégiques et les exigences réglementaires35.
Formation et sensibilisation : Former régulièrement les équipes techniques, juridiques et métiers aux exigences de l’AI Act et aux bonnes pratiques de gestion des risques67.
Documentation et transparence : Documenter toutes les mesures de gestion des risques, les procédures de contrôle qualité, les tests et les audits réalisés, pour démontrer la conformité en cas de contrôle56.

En résumé, la conformité à l’AI Act impose une gouvernance intégrée, combinant qualité et protection des données, évaluation et mitigation des risques, supervision humaine et organisation claire, soutenue par une documentation rigoureuse et une formation continue. Ces mesures garantissent la sécurité, la transparence et le respect des droits fondamentaux dans le déploiement des IA à haut risque.

[1] https://artificialintelligenceact.eu/fr/article/11/
[2]https://naaia.ai/ai-act-haut-risque/
[3] https://www.qualitiso.com/ai-act-exigences-informations-documentation-technique/
[4] https://www.village-justice.com/articles/act-nouveau-cadre-juridique-europeen-pour-une-intelligence-artificielle-ethique,53595.html
[5] https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil
[6] https://artificialintelligenceact.eu/fr/evaluation/verificateur-de-conformite-a-l-acte-de-l-ai-de-l-ue/
[7] https://www.wavestone.com/fr/insight/lai-act-les-cles-pour-comprendre-et-appliquer-la-loi-europeenne-sur-lintelligence-articificielle/
[8] https://lexing.be/lia-bientot-reglementee-etes-vous-concernee-par-ces-regles/

Voir aussi :

L'explorateur de l'IA

L'Union européenne a adopté une nouvelle législation sur l'intelligence artificielle : la loi européenne sur l'IA. Elle pose les bases de la réglementation de l'IA dans l'UE.

Notre Explorateur de lois sur l'intelligence artificielle vous permet d'explorer le contenu de la loi de manière intuitive ou de rechercher les parties les plus pertinentes pour vous. Il contient la loi sur l'intelligence artificielle, version du Journal officiel du 13 juin 2024. Vous y découvrirez le fonctionnement de l'élaboration des politiques dans l'Union européenne.

https://artificialintelligenceact.eu/ai-act-explorer/

https://artificialintelligenceact.eu/fr/implementation-timeline/

https://artificialintelligenceact.eu/fr/chapter/1/

-----------------------------

Pierre Erol GIRAUDY

https://www.erolgiraudy.eu/

https://uga-ia.blogspot.com/

https://www.erolgiraudy.eu/2024/10/mes-15-livres.html

https://and500.blogspot.com/

https://www.ugaia.eu/

Pour Info : Mon livre https://amzn.eu/d/eTuHn56 sur AMAZON

mardi 17 juin 2025

Nouvelles données importantes sur l'EU AI Act et les aspects juridiques récents sur l'Éthique.

Voici un schéma avec les nouvelles données sur l'EU AI Act et les aspects juridiques récents sur l'Éthique.

J'ai mis à jour le schéma avec toutes les nouvelles données importantes :

🆕 Nouvelles informations intégrées :

EU AI Act (1er août 2024)

4 catégories de risques clairement visualisées avec codes couleur
Timeline précise : Interdictions applicables 2 août 2025, application complète 2 août 2027
Responsabilités réparties entre fournisseurs, déployeurs et utilisateurs

Aspects juridiques renforcés

Nouvelles recommandations CNIL (février 2025) sur RGPD et IA
Privacy by design/default
Contrats IA spécifiques requis
Protection des données personnelles avec spécificités IA

Exemples concrets par catégorie de risque

🚫 Risque inacceptable : Manipulation subliminale, surveillance biométrique
⚠️ Haut risque : Santé, éducation, biométrie, infrastructure critique
🔍 Risque limité : Chatbots, deepfakes (transparence requise)
✅ Risque minimal : Applications courantes peu contraignantes

Timeline actualisée

Ajout des dates clés et du calendrier d'application progressive de la réglementation européenne.

Le schéma est maintenant complet et à jour avec le cadre légal européen le plus récent, tout en conservant les données de recherche académique originales. Il offre une vision complète de l'évolution de l'éthique IA depuis la recherche théorique jusqu'au cadre réglementaire concret !

Voici une synthèse sur la position de l’éthique appliquée à l’intelligence artificielle (IA), en tenant compte des aspects légaux et juridiques récents :

L’éthique de l’IA vise à garantir que les systèmes intelligents respectent les valeurs humaines fondamentales, la dignité, la justice et la transparence. Avec l’entrée en vigueur du EU AI Act le 1er août 2024, l’Europe s’est dotée du premier cadre réglementaire global sur l’intelligence artificielle, articulé autour d’une approche fondée sur les risques1 Ce règlement distingue quatre catégories de systèmes d’IA selon leur niveau de risque : risque inacceptable (interdits), haut risque (soumis à des obligations strictes), risque limité (transparence requise) et risque minimal (peu contraignant)1

Les systèmes à haut risque, par exemple dans la santé, l’éducation, la biométrie ou l’infrastructure critique, doivent répondre à des exigences renforcées : documentation technique, évaluation d’impact, supervision humaine, gestion rigoureuse des données et respect du RGPD1 Les systèmes à risque inacceptable, comme la manipulation subliminale ou la surveillance biométrique en temps réel dans l’espace public, sont désormais interdits2

Sur le plan juridique, la responsabilité est clairement répartie entre les fournisseurs (conformité technique et documentation), les déployeurs (intégration dans les processus internes) et les utilisateurs finaux (respect des conditions d’utilisation)2 Les contrats doivent intégrer des clauses spécifiques à l’IA : définition du système, usages autorisés, modalités de supervision, transparence algorithmique, sécurité et confidentialité2

La gouvernance éthique et juridique de l’IA repose sur la mise en place de comités éthiques, de référents IA, d’audits réguliers et sur le respect des principes de “privacy by design” et “privacy by default” pour la protection des données personnelles2 Les nouvelles recommandations de la CNIL (février 2025) précisent aussi l’application du RGPD à l’IA, notamment sur la traçabilité, la minimisation et l’information des personnes concernées2

En résumé, l’éthique de l’IA, encadrée par la loi, vise à prévenir les risques pour les droits fondamentaux, la sécurité et la vie privée, tout en garantissant une utilisation responsable et transparente de ces technologies.

Voici les principales obligations légales à respecter pour déployer un système d’IA à haut risque selon le règlement européen AI Act :

Obligations générales pour le déploiement d’une IA à haut risque

Enregistrement obligatoire : Le système d’IA doit être enregistré dans la base de données officielle de l’Union européenne avant sa mise en service1 46.
Évaluation de conformité : Le système doit faire l’objet d’une évaluation de conformité par un organisme tiers, qui vérifie le respect des exigences légales (sécurité, robustesse, transparence, etc.)3 57.
Marquage CE : Le système doit porter un marquage CE attestant de sa conformité aux normes européennes7.
Gestion des risques : Mettre en place un système de gestion des risques tout au long du cycle de vie de l’IA, avec une évaluation continue des risques et des mesures d’atténuation35.
Gouvernance des données : Utiliser des données de haute qualité, pertinentes, représentatives et exemptes d’erreurs pour minimiser les biais et garantir l’équité35.
Robustesse et cybersécurité : Garantir la fiabilité, la résistance aux erreurs, la cybersécurité, ainsi que la mise en place de plans de secours35.
Documentation technique : Fournir une documentation complète et à jour démontrant la conformité du système aux exigences réglementaires35.
Journalisation des événements : Le système doit enregistrer automatiquement les événements significatifs pour assurer la traçabilité et la transparence35.
Surveillance humaine : Assurer une supervision humaine continue, avec des personnes compétentes et formées disposant de l’autorité nécessaire pour intervenir16.
Information des utilisateurs : Fournir des instructions claires sur l’utilisation du système, ses capacités, ses limites et ses risques potentiels35.

Obligations spécifiques pour les déployeurs

Respect des instructions du fournisseur : Utiliser le système conformément aux instructions techniques et organisationnelles fournies16.
Formation et compétence du personnel : Garantir que les opérateurs humains ont la formation et les compétences nécessaires pour assurer une surveillance efficace6.
Autorisation préalable pour certaines IA biométriques : Pour les systèmes d’identification biométrique à distance, obtenir une autorisation judiciaire ou administrative avant déploiement6.
Coopération avec les autorités : Collaborer avec les autorités compétentes en cas de contrôle ou d’enquête1.

Le non-respect de ces obligations peut entraîner des sanctions lourdes, notamment des amendes pouvant atteindre plusieurs millions d’euros7. Ces règles visent à garantir la sécurité, la transparence et le respect des droits fondamentaux dans l’utilisation des IA à haut risque.