Quelques rappels
Les questions touchant au pilotage, à l’éthique et à la formation constituent un socle d’expertise nécessaire pour mettre en mouvement notre institution. Ces thématiques sont au cœur de notre écosystème et interpellent l’activité professionnelle des cadres.
Les trois axes clés - Transciption
L’image représente un schéma en forme de triangle axé sur l’utilisation de l’intelligence artificielle (IA) dans le domaine de l’éducation, en mettant l’accent sur trois aspects principaux : l’éthique, le pilotage et la formation.
1. Base du triangle :
Connecte les trois aspects (éthique, pilotage, formation) sous le thème général de « Éducation et IA ».
2. Pilotage (à gauche de la base du triangle) :
Question clé : « Comment les cadres peuvent tirer parti de l’IA pour le pilotage et la prise de décision ? »
Actions : analyser, orienter, décider
3. Formation (à droite de la base du triangle) :
Question clé : « Comment le formateur s’aide de l’IA dans l’exercice de son métier ? »
Actions : expérimenter, diffuser, accompagner
4. Éthique (au sommet du triangle) :
Question clé : « Comment garantir le respect des valeurs morales et éthiques en utilisant des IA ? »
Actions : questionner, sensibiliser, sécuriser
Les flèches montrent les interactions entre ces domaines et comment ils se renforcent mutuellement pour une intégration éthique et efficace de l’IA dans l’éducation.
Les IA génératives sont développées à partir de très grands corpus de données LLM [1]. Ces données peuvent contenir des biais ou préjugés qui influencent les résultats, et les algorithmes de traitement sont souvent protégés, ne permettant pas un accès complet ou transparent à leur fonctionnement. La puissance de calcul et de prédiction statistique utilisée permet régulièrement d’améliorer la pertinence des réponses des IA. Cependant, il existe toujours une part d’aléa, et chaque utilisateur doit vérifier les productions finales pour en garder la maitrise et assurer leur pertinence.
Des opportunités pour nos métiers de cadre
Les IA génératives sont des outils qui répondent à de nombreux besoins professionnels et peuvent faciliter le traitement de certaines activités. Notamment, elles optimisent certaines tâches en permettant un gain de temps non négligeable sur des travaux administratifs et pédagogiques. Recherche d’informations, correction de texte, synthèse de documents, traitement et classification d’information, mise en page de document, traduction, construction de séquences et exercices pédagogiques.
Ces outils sont des leviers potentiels de productivité pour les professionnels, bien qu’il reste important de les utiliser avec discernement pour répondre aux besoins professionnels.
Quelques éléments du cadrage national
Les orientations ministérielles s’appuient sur les travaux de recherche et les recommandations du comité d’éthique, et elles s’articulent autour des 3 axes suivants :
- Assistance pédagogique : les enseignants peuvent utiliser l’IA générative pour les assister dans les tâches de préparation et pour la réalisation d’activités pédagogiques à leur initiative, sous leur contrôle et en adéquation avec les objectifs éducatifs ;
- Protection des données : dans le cadre scolaire, les usages par les professeurs et les élèves doivent respecter et garantir la protection des données personnelles, en particulier des élèves ;
- Développement de l’esprit critique : les enseignants sont encouragés à accompagner les élèves à développer un esprit critique dans la compréhension du fonctionnement de l’IA et son utilisation dans le cadre de la formation à l’esprit critique et à la citoyenneté numérique.
Les équipes ministérielles préconisent ainsi une utilisation raisonnée de l’intelligence artificielle, sous contrôle de l’enseignant, pour les élèves à partir du cycle 4 (5ème) en lien avec l’évolution des programmes. La France s’inscrit ainsi pleinement dans les recommandations récentes de l’UNESCO.
Les 8 points de vigilances
Les IA se nourrissent des données des utilisateurs ; elles sont souvent stockées dans des pays tiers qui ne répondent pas tous à la règlementation européenne qui encadre leur protection et leur non-utilisation commerciale et lucrative. (RGPD [2])
- Confidentialité et anonymisation des données : les informations partagées via les IA peuvent être sensibles. Il est crucial d’anonymiser les données pour protéger la confidentialité et se conformer aux réglementations (RGPD) ;
- Transparence : les utilisateurs doivent informer les parties prenantes (enseignants, élèves, parents) sur l’utilisation des IA et les méthodes employées, garantissant ainsi transparence et acceptation ;
- Vérification des résultats : la vérification des réponses générées par l’IA est indispensable pour éviter erreurs et imprécisions, qui pourraient affecter la qualité du travail administratif et pédagogique ;
- Équilibre humain/IA : une utilisation excessive de l’IA peut diminuer certaines compétences humaines. Il est important de conserver un juste équilibre entre l’usage de l’IA et le jugement humain ;
- Éthique et impartialité : les IA, entraînées sur de vastes ensembles de données, peuvent reproduire ou amplifier des biais préexistants. La vigilance est nécessaire pour garantir que les résultats sont impartiaux et équitables ;
- Sécurité et suivi des évolutions : le suivi régulier des mises à jour et des pratiques de sécurité est indispensable pour s’assurer de la conformité et de la pertinence de l’usage des IA ;
- Respect de la vie privée et de la sécurité numérique : la protection des informations personnelles des élèves et des personnels, et le respect des règles de sécurité numérique sont primordiaux pour toute utilisation des IA en milieu scolaire.
- Vers des usages éco-responsables des IA génératives : Utiliser préférentiellement les IA pour effectuer des tâches complexes qui nécessitent réellement leurs capacités prédictives avancées ; optimiser la rédaction des requêtes pour mieux guider les réponses de l’IA vers les résultats souhaités en limitant les itérations permettant d’y parvenir.
En gardant ces points de vigilance à l’esprit, les personnels de la communauté éducative peuvent utiliser les IA génératives de manière efficace et responsable, tout en optimisant ses tâches administratives et en respectant les régulations en vigueur.
Dans le cadre du cadrage national des usages de l’IA, la doctrine des usages de l’IA pour l’éducation nationale (à venir) précisera les cadres d’usage et les protocoles applicables pour intégrer les IA en contexte éducatif, en tenant compte des spécificités de chaque niveau et des compétences à développer en matière d’esprit critique et d’éthique.
