L'éducation a eu une relation bancale avec la présence encore en évolution de l'IA générative dans les écoles – certains districts scolaires l'interdisant uniquement pour cours inversé. Cela peut faire gagner du temps aux enseignants en automatiser les tâches, tout en provoquant des maux de tête en tant que complice de étudiants qui trichent.

Alors, combien de travail faudrait-il pour élaborer des lignes directrices permettant d’aider les éducateurs à gérer les défis liés à l’utilisation d’outils d’IA générative dans leur travail ? Au Michigan, c’était un effort d’équipe.

Une coalition de 14 organisations éducatives, dirigée par le Michigan Virtual Learning Research Institute, une organisation à but non lucratif, exemples de lignes directrices publiées plus tôt ce mois-ci, qui guident les enseignants et les administrateurs à travers les pièges potentiels à prendre en compte avant d'utiliser un outil d'IA en classe ou pour d'autres tâches. Cela inclut des éléments tels que vérifier l'exactitude du contenu généré par l'IA, citer le contenu généré par l'IA et juger quels types de données peuvent être saisis en toute sécurité dans un programme d'IA.

Ken Dirkin, directeur principal du Michigan Virtual Learning Research Institute, a déclaré que le groupe souhaitait créer un document digeste, mais « il y a probablement 40,000 XNUMX éléments importants qui auraient pu être inclus ».

"Ce que nous constatons lorsque nous travaillons avec les districts scolaires, c'est qu'il y a un manque général de connaissances, ainsi qu'un intérêt et une prise de conscience" de l'IA générative, dit Dirkin, "mais aussi une peur d'avoir des ennuis, ou une peur" qu'ils font quelque chose de mal, parce qu'il n'y a pas d'indications précises sur ce qu'ils devraient explorer ou faire.

Dirkin dit que le groupe souhaitait que le document aide les districts scolaires et les éducateurs à réfléchir à l'utilisation de l'IA générative sans tomber dans l'un ou l'autre extrême de son interdiction ou de son utilisation sans restriction.

« C'est vraiment notre mode de fonctionnement : comment pouvons-nous simplement permettre l'exploration et ne pas désactiver l'accès », dit-il, « ou laisser les gens dire : « C'est la dernière tendance, et elle va disparaître. » »

La vitesse à laquelle l'IA générative évolue en fait un moment critique pour que les éducateurs et les districts aient des directives sur le moment et la manière de l'utiliser, déclare Mark Smith, directeur exécutif de la Michigan Association for Computer Users in Learning.

« L’IA est partout. Il fait tout pour tout le monde et pour tous ceux qui sont intéressés », dit-il. « Au moment où nous maîtrisons le plan sur un, trois ou cinq ans, tout change sous nos yeux. Si nous n’abordons pas ce problème maintenant avec une politique ou une stratégie agile et flexible dans son ensemble, la situation va continuer à changer.»

Protection des données des étudiants

Les directeurs d'école veulent savoir comment l'IA peut être utilisée en classe, au-delà du copier-coller des élèves, explique Paul Liabenow, et sont bien sûr préoccupés par le fait que les élèves l'utilisent pour tricher.

Mais bon nombre des questions qu'il reçoit en tant que directeur exécutif de la Michigan Elementary and Middle School Principals Association se concentrent sur les programmes d'IA et la conformité juridique avec les lois sur la vie privée des étudiants, explique Liabenow, et comment ils restent conformes à des lois comme la FERPA et la loi sur l'éducation des personnes handicapées. .

« Une myriade de questions nous parviennent chaque semaine, et leur nombre ne cesse de croître », explique Liabenow. Les directeurs d'école veulent des conseils d'organisations comme Michigan Virtual « non seulement pour éviter d'entrer dans le trou noir en tant que leader, mais pour les utiliser efficacement afin d'améliorer les résultats des élèves ».

Le document d'orientation sur l'IA exhorte les éducateurs à toujours supposer que, à moins que l'entreprise qui possède un outil d'IA générative n'ait un accord avec son district scolaire, les données qu'ils saisissent seront mises à la disposition du public.

Liabenow dit que l'une de ses préoccupations en matière de confidentialité concerne tout enseignant, conseiller ou administrateur qui pourrait vouloir utiliser un programme d'IA pour gérer les données des élèves sur la santé mentale ou la discipline – ce qui pourrait se terminer par un procès.

"Les gens pensent qu'ils vont pouvoir gérer des plannings principaux avec les outils d'IA, où ils saisissent les noms des étudiants individuels, ce qui entraîne certains défis à la fois éthiques et juridiques", explique Liabenow. « J’adore cet outil d’orientation, car il nous rappelle les domaines auxquels nous devons être sensibles et protéger avec diligence. »

Smith, de la Michigan Association for Computer Users in Learning, affirme que les pièges en matière de confidentialité ne résident pas dans l'utilisation quotidienne de l'IA générative, mais dans le nombre croissant d'applications susceptibles d'avoir de faibles politiques de protection des données – l'un des accords que pratiquement personne n'a acceptés. lit lors de l’inscription à un service en ligne. Il est peut-être plus facile d'enfreindre les lois sur la protection de la vie privée, ajoute-t-il, compte tenu des changements proposés pour renforcer la loi sur la protection de la vie privée en ligne des enfants.

"Combien d'entre nous ont téléchargé l'accord mis à jour pour notre iPhone sans le lire ?" dit Smith. « Si vous étendez cela à 10,000 XNUMX étudiants dans un district, vous pouvez imaginer combien d’accords d’utilisateur final vous devrez lire. »

L'IA est-elle votre co-scénariste ?

Il ne faut pas seulement prendre en compte l’utilisation de l’IA par les étudiants. Les enseignants utilisent l’IA générative pour créer des plans de cours, et tout employé du district scolaire pourrait l’utiliser pour rédiger un document de travail.

C'est pourquoi les nouvelles lignes directrices incluent des exemples sur la manière de citer l'utilisation de l'IA générative dans les supports pédagogiques, les documents de recherche ou de travail.

"Plus nous divulguons l'utilisation de l'IA et son objectif, plus nous élevons tout le monde dans la conversation", déclare Dirkin. « Je ne pense pas que dans deux ou trois ans, les gens divulgueront l'utilisation de l'IA – ce sera dans nos flux de travail – mais il est important d'apprendre les uns des autres et de lier cela à l'implication humaine dans le processus. Cela finira par disparaître.

Quand l’IA est intégrée à tout

L’IA générative est de plus en plus intégrée dans des logiciels déjà largement utilisés. Pensez aux programmes de vérification orthographique comme Grammarly, qui, selon un étudiant géorgien, je l'ai accusée de tricherie après qu'un papier sur lequel elle l'a utilisé ait été signalé par un logiciel de détection d'IA.

Cette omniprésence croissante va faciliter l’accès aux outils éducatifs basés sur l’IA et, par conséquent, plus compliqué lorsqu’il s’agit de les utiliser en toute sécurité, dit Dirkin. Une considération importante concernant le paysage actuel de l’IA générative est que les utilisateurs doivent toujours copier et coller du contenu dans un programme d’IA – et donc s’arrêter un instant – pour l’utiliser.

« Bien souvent, c'est le Far West en termes d'accès aux outils. Tout le monde possède un compte Google et les gens peuvent utiliser leur compte Google pour se connecter à une tonne de services gratuits », explique Dirkin. « Nous voulions nous assurer que les gens disposent d'un outil leur permettant de déterminer s'ils l'utilisent d'une manière légale ou éthique, ou s'ils enfreignent une sorte de politique avant de le faire. Alors arrêtez-vous et réfléchissez.

Smith souligne la section des nouvelles lignes directrices qui demande aux éducateurs de réfléchir à la manière dont quelque chose généré par l'IA pourrait être inexact ou contenir des biais. Même si l’IA générative s’améliore, dit-il, « toute IA présente des risques et des limites, aussi bonne soit-elle ».

"Parfois, le meilleur ensemble de données pour un éducateur est celui de l'enseignant au bout du couloir avec 10 ans d'expérience en plus, et non un outil d'IA", explique Smith. « Il y a toujours un élément humain dans tout cela, et je pense que le document d'orientation mentionnant ces risques et ces limites est une sorte de coup de pouce amical. C'est une façon polie de dire : « Hé, n'oublie pas ça. »

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://www.edsurge.com/news/2024-04-10-ai-guidelines-for-k-12-aim-to-bring-order-to-the-wild-west