L’IA Act introduit une obligation de formation des personnes travaillant sur des systèmes d’IA
Publié en juillet 2024, le règlement (UE) 2024/1689 établit un cadre harmonisé pour l’utilisation de l’Intelligence Artificielle (IA) au sein de l’Union Européenne.
Le règlement européen sur l’intelligence artificielle, également connu sous le nom d’AI Act, est un cadre législatif qui encadre le développement, la mise sur le marché et l’utilisation des systèmes d’IA.
Il concerne toute organisation, qu’elle soit une entreprise, une association ou une administration, qui fournit, importe, distribue ou déploie des systèmes ou modèles d’intelligence artificielle encadrés par le règlement.
Les chapitres I et II du Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 « établissant des règles harmonisées concernant l’intelligence artificielle et les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle) » sont applicables en droit français depuis le 2 février dernier.
Dans son article 4 intitulé « Maîtrise de l’IA », le règlement prévoit une obligation générale de formation en matière d’intelligence artificielle (IA), tant pour les salariés que pour les sous-traitants ayant recours à l’IA.
« Les fournisseurs et les déployeurs de systèmes d’IA prennent des mesures pour garantir, dans toute la mesure du possible, un niveau suffisant de maîtrise de l’IA pour leur personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation des systèmes d’IA pour leur compte, en prenant en considération leurs connaissances techniques, leur expérience, leur éducation et leur formation, ainsi que le contexte dans lequel les systèmes d’IA sont destinés à être utilisés, et en tenant compte des personnes ou des groupes de personnes à l’égard desquels les systèmes d’IA sont destinés à être utilisés ».
Cet article établit un lien étroit entre l’usage de l’IA et l’obligation générale de l’employeur d’assurer l’adaptation de ses salariés à leur poste de travail. Effectivement, dès lors que ses salariés travaillent sur des systèmes d’IA, l’employeur doit s’assurer que ses salariés disposent d’un niveau de formation suffisant en matière d’IA.
Par ailleurs, l’article 6 intitulé « Règles relatives à la classification de systèmes d’IA comme systèmes à haut risque » dudit règlement - qui s’appliquera à compter du 2 août 2025 - établit une liste précise des systèmes d’intelligence artificielle utilisés dans la sphère de l’éducation et de la formation professionnelle considérés comme étant des systèmes d’IA à haut risque, impliquant ainsi une nécessaire obligation de formation en la matière, s’agissant des systèmes d'IA destinés à être utilisés pour :
- Déterminer l'accès, l'admission ou l'affectation de personnes physiques à des établissements d'enseignement et de formation professionnelle, à tous les niveaux,
- Évaluer les acquis d'apprentissage, y compris lorsque ceux-ci sont utilisés pour orienter le processus d'apprentissage de personnes physiques dans les établissements d'enseignement et de formation professionnelle, à tous les niveaux,
- Évaluer le niveau d'enseignement approprié qu'une personne recevra ou sera en mesure d'atteindre, dans le contexte ou au sein d'établissements d'enseignement et de formation professionnelle à tous les niveaux,
- Surveiller et détecter des comportements interdits chez les étudiants lors d'examens dans le contexte d'établissements d'enseignement et de formation ou en leur sein à tous les niveaux.
Dès lors, il découle de ce règlement une obligation générale de formation des salariés pour les employeurs de salariés et sous-traitants travaillant sur des systèmes d’IA - applicable dès aujourd’hui ainsi qu’une obligation pour les établissements d’enseignement et de formation professionnelle d’assurer le respect des règles d’utilisation propres aux systèmes d’IA dits « à haut risque ».
En parallèle, l’UNESCO a récemment publié deux référentiels : le référentiel « enseignant » et le référentiel « apprenant », visant à aider les systèmes éducatifs à intégrer l’IA. Ils s’inscrivent dans l’objectif 4 de l’agenda Éducation 2030 visant à « assurer l’accès de tous à une éducation de qualité, sur un pied d’égalité, et promouvoir les possibilités d’apprentissage tout au long de la vie ».
Le référentiel enseignant a pour but de définir « les connaissances, les habiletés et les valeurs que les enseignants doivent maîtriser » quand celui de l’apprenant envisage les compétences à inculquer en matière d’IA.