met bezorgdheid over groeiende AI, heeft de federale overheid haar blauwdruk gepubliceerd om te voorkomen dat privacy in het digitale tijdperk afvlakt.

Vorige week gepubliceerd, de Biden Administration's "Blauwdruk voor een AI Bill of Rights”, een niet-bindende reeks principes bedoeld om de privacy te beschermen, inclusief een bepaling voor gegevensprivacy en noteert educatie als een van de belangrijkste betrokken gebieden.

De blauwdruk werd onmiddellijk gekarakteriseerd als in grote lijnen "tandeloos" in de strijd om de Big Tech en de privésector te herstellen, waarbij de tech-schrijver Khari Johnson beweerde dat de blauwdruk heeft minder bite dan vergelijkbare Europese wetgeving terwijl hij opmerkt dat de blauwdruk niet de mogelijkheid vermeldt om bepaalde AI te verbieden. In plaats daarvan, merkte Johnson op, zal de blauwdruk hoogstwaarschijnlijk de relatie van de federale overheid met machine learning corrigeren.

Voor privacy-experts is het een sprong voorwaarts die op zijn minst de noodzaak onderstreept van meer publieke discussie over de problemen.

Langzame vooruitgang is nog steeds vooruitgang

Wat betekent een 'AI Bill of Rights' voor het onderwijs?

Het is onduidelijk hoe de blauwdruk zal worden gebruikt door het ministerie van Onderwijs, zegt Jason Kelley, associate director digitale strategie voor de Electronic Frontier Foundation, een prominente non-profitorganisatie voor digitale privacy.

Onderwijs is een van de gebieden die specifiek in het wetsvoorstel worden genoemd, maar waarnemers hebben opgemerkt dat de tijdlijn voor het ministerie van Onderwijs is relatief traag. Bijvoorbeeld: begeleiding bij het gebruik van AI voor lesgeven en leren is: gepland voor 2023, later dan deadlines voor andere overheidsinstanties.

En welke richtlijnen er ook naar voren komen, het zal geen wondermiddel zijn voor het onderwijssysteem. Maar dat de regering erkent dat de rechten van studenten worden geschonden door machine learning-tools is een "grote stap voorwaarts", schreef Kelley in een e-mail aan EdSurge.

De release van de blauwdruk komt op een moment dat privacy ongrijpbaar lijkt op scholen, zowel in het basisonderwijs als op de universiteit. En er zijn geweest roept op tot federale interventie enige tijd op die fronten.

Bijzonder zorgwekkend is het gebruik van AI-bewakingssystemen. Bijvoorbeeld: Een recente Studie Centrum voor Democratie in Technologie ontdekte dat scholen vaker surveillancesystemen gebruiken om leerlingen te straffen dan om ze te beschermen. De technologie, hoewel bedoeld om schietpartijen op scholen te voorkomen of autoriteiten te waarschuwen voor risico's van zelfbeschadiging, kan kwetsbare studenten, zoals LGBTQ + -studenten, het meest schaden, aldus de studie.

De blauwdruk geeft aan scholen - en edtech-ontwikkelaars - aan dat mensen de beslissingen van AI-tools moeten herzien, zei Kelley. Het laat ook zien, voegt hij eraan toe, dat transparantie "essentieel" is en dat gegevensprivacy "van het allergrootste belang" moet zijn.

Breng het naar de klas

Veel van wat in de blauwdruk staat, is gebaseerd op basisprincipes van privacy, zegt Linette Attai, een dataprivacy-expert en de president van het adviesbureau PlayWell, LLC.

Toch kan het lastig zijn om de vrij brede blauwdruk te vertalen naar specifieke wetgeving.

"Er is geen one-size-fits-all technologie", zegt Attai. Ze suggereert dat schooldistricten meer zakelijk inzicht krijgen in hun technologie en voortdurend beoordelen hoe die technologie hun gemeenschappen beïnvloedt. En schoolleiders moeten duidelijk aangeven wat ze proberen te bereiken in plaats van alleen maar flitsende nieuwe gadgets te introduceren, voegt ze eraan toe.

Hoewel de aandacht voor deze problemen nieuw is, is de uitdaging dat niet.

In een studie van hoe studenten en professoren denken over de digitale systemen die ze gebruiken, ontdekte Barbara Fister dat de docenten en studenten met wie ze sprak nooit serieus hadden nagedacht over de digitale platforms die ze gebruikten. Toen ze de studenten erover vertelde, waren ze boos. Maar ze voelden zich machteloos. "Er was geen sprake van geïnformeerde toestemming, voor zover we konden nagaan", zegt Fister, emeritus hoogleraar aan het Gustaaf Adolf College en de eerste geleerde in residentie voor Project Information Literacy.

Studenten leerden meer van elkaar dan van docenten, en lessen over informatiegeletterdheid leken te vertrouwen op begeleiding die al verouderd was, zegt Fister. Veel studenten leken niet te verwachten dat ze van hun professoren zouden leren hoe ze digitale tools moesten beheren, zegt ze.

Dat was vóór de pandemie, in 2019. Deze platforms staan ​​nu waarschijnlijk op de radar van mensen, zegt ze. Maar de problemen die ze aankaarten hoeven niet buiten de klas te blijven.

Fister houdt van de benadering van de blauwdruk, deels omdat de aanbevolen materialen specifieke voorbeelden bevatten van hoe algoritmen worden gebruikt, wat ze nuttig vindt voor diegenen die dit probleem ter discussie in de klas willen brengen.

"Het zijn dingen waar studenten erg enthousiast over kunnen worden", zegt Fister. "Omdat het iets neemt dat een beetje in de ether zit, is het iets dat hen beïnvloedt."