IA Act : encadrer l’IA en organisme de formation

L'adoption de l'intelligence artificielle (IA) au sein des organismes de formation (OF) soulève des enjeux cruciaux, notamment avec l'entrée en vigueur de l'IA Act. Ce règlement européen impose une structuration des usages de l'IA, visant à garantir leur maîtrise et à encadrer leurs pratiques. Les organismes doivent évaluer qui utilise l'IA, sur quels projets et avec quel degré de contrôle humain.

L'article 4 de l'IA Act stipule que les utilisateurs de systèmes d’IA doivent bénéficier d’une formation adaptée et que ces mesures doivent être proportionnelles aux différentes missions exercées. Une cartographie des usages de l'IA est essentielle ; elle doit intégrer les outils utilisés, les finalités, et évaluer le niveau de risque associé à ces systèmes.

Il est vital d'identifier les usages sensibles et de renforcer l'analyse lorsque l'IA impacte des décisions concernant les apprenants. La transparence est également primordiale, imposant d'informer les utilisateurs de l'IA lorsqu'ils interagissent avec des systèmes automatisés.

Enfin, l'objectif est de formaliser des règles d'utilisation et de conserver des preuves de conformité, afin de répondre aux questions des parties prenantes. Incorporer l'IA de manière réfléchie dans les pratiques professionnelles est un levier pour améliorer la qualité des formations tout en garantissant des procédures éthiques et réglementaires.