Marley Stevens har skrivit en video på TikTok förra terminen som hon beskrev som ett public service-meddelande till vilken collegestudent som helst. Hennes meddelande: Använd inte programvara för grammatikkontroll om din professor kanske kör din uppsats genom ett AI-detektionssystem.

Stevens är junior vid University of North Georgia, och hon har varit ovanligt offentlig om vad hon kallar ett "debacle", där hon anklagades för att ha använt AI för att skriva en artikel som hon säger att hon har skrivit själv förutom att använda standardgrammatik. och stavningskontrollfunktioner från Grammarly, som hon har installerat som ett tillägg i sin webbläsare.

Den första varningsvideon hon postade har visats mer än 5.5 miljoner gånger, och hon har sedan dess gjort mer än 25 uppföljningsvideor som svarar på kommentarer från följare och dokumenterar hennes kamp med kollegiet om frågan - inklusive dela bilder på e-postmeddelanden som skickats till henne från akademiska dekaner och bilder av hennes studentarbete för att försöka bevisa hennes sak – för att öka medvetenheten om vad hon ser som felaktiga AI-detektionsverktyg som alltmer sanktioneras av högskolor och används av professorer.

Stevens säger att en professor i en straffrättskurs hon gick förra året gav henne en nolla på ett papper eftersom han sa att AI-detektionssystemet i Turnitin flaggade det som robotskrivet. Stevens insisterar på att arbetet är helt och hållet hennes eget och att hon inte använde ChatGPT eller någon annan chatbot för att komponera någon del av sitt papper.

Som ett resultat av nollan på pappret, säger hon, föll hennes slutbetyg i klassen till ett tillräckligt lågt betyg för att det hindrade henne från att kvalificera sig för en HOPE Stipendium, vilket kräver att eleverna upprätthåller en 3.0 GPA. Och hon säger att universitetet satte henne på akademisk villkorlig dom för att ha brutit mot dess policy om akademiskt oredlighet, och att hon var tvungen att betala 105 dollar för att delta i ett seminarium om fusk.

Universitetet avböjde upprepade förfrågningar från EdSurge om att prata om dess policy för användning av AI-detektion. Tjänstemän skickade istället ett uttalande där de sa att federala integritetslagar för studenter hindrar dem från att kommentera varje enskild fuskhändelse, och att: "Vår fakultet kommunicerar specifika riktlinjer angående användningen av AI för olika klasser, och dessa riktlinjer ingår i klassplanerna. Den olämpliga användningen av AI tas också upp i vår Studenternas uppförandekod. "

Avsnittet i elevens uppförandekod definierar plagiat som: "Användning av en annan persons eller byrås (för att inkludera artificiell intelligens) idéer eller uttryck utan att ange källan. Teman, uppsatser, terminsuppsatser, prov och andra liknande krav måste vara den student som lämnar in dem. När direkta citat eller parafraser används måste de anges, och när en annans idéer införlivas i tidningen måste de erkännas på lämpligt sätt. Allt arbete av en student måste vara original eller citerat enligt instruktörens krav eller anses på annat sätt vara plagiat. Plagiat inkluderar, men är inte begränsat till, användning, genom omskrivning eller direkt citat, av en annan persons publicerade eller opublicerade verk utan fullständig och tydlig bekräftelse. Det inbegriper också ogodkänd användning av material som utarbetats av en annan person eller byrå vid försäljning av terminsuppsatser eller annat akademiskt material."

Incidenten väcker komplexa frågor om var man ska dra gränser för nya AI-verktyg. När hjälper de bara till på acceptabla sätt, och när betyder deras användning akademiskt missbruk? När allt kommer omkring använder många människor automatiska grammatik- och stavningsfunktioner i system som Google Docs och andra program som föreslår ett ord eller en fras när användarna skriver. Är det fusk?

Och eftersom sådana grammatikfunktioner blir mer robusta när generativa AI-verktyg blir mer vanliga, kan AI-detekteringsverktyg möjligen säga skillnaden mellan acceptabel AI-användning och fusk?

"Jag har låtit andra lärare vid samma universitet rekommendera att jag använder [Grammarly] för uppsatser," sa Stevens i en annan video. "Så försöker de tala om för oss att vi inte kan använda autokorrigering eller stavningskontroll eller något? Vad vill de att vi ska göra, skriva in det i, till exempel, en Notes-app och omvandla det på det sättet?

I en intervju med EdSurge uttryckte studenten det så här:

– Hela min grej är att AI-detektorer är skräp och det finns inte mycket vi som studenter kan göra åt det, säger hon. "Och det är inte rättvist eftersom vi gör allt det här arbetet och betalar alla dessa pengar för att gå på college, och då kan en AI-detektor i stort sett förstöra hela din collegekarriär."

Vrider och vänder sig

Längs vägen har denna University of North Georgia-students berättelse tagit några överraskande vändningar.

För det första skickade universitetet ett e-postmeddelande till alla studenter om AI inte långt efter att Stevens publicerat sin första virala video.

Det e-postmeddelandet påminde studenterna om att följa universitetets akademiska uppförandekod, och det hade också en ovanlig varning: "Var medveten om att vissa onlineverktyg som används för att hjälpa studenter med grammatik, interpunktion, meningsstruktur, etc., använder generativ artificiell intelligens (AI) ); som kan flaggas av Turnitin. En av de mest använda generativa AI-webbplatserna som flaggas av Turnitin.com är Grammarly. Var försiktig när du överväger dessa webbplatser."

Professorn berättade senare för studenten att han också kontrollerade hennes papper med ett annat verktyg, Copyleaks, och det flaggade också hennes papper som botskrivet. Och hon säger att när hon nyligen läste sin tidning genom Copyleaks ansåg det att arbetet var mänskligt skrivet. Hon skickade den här reportern en skärmdump från den processen, där verktyget avslutar med grön text "Detta är mänsklig text."

"Om jag går igenom det nu och får ett annat resultat, visar det bara att dessa saker inte alltid är korrekta", säger hon om AI-detektorer.

Tjänstemän från Copyleaks svarade inte på förfrågningar om kommentarer. Stevens avböjde att dela hela texten i hennes uppsats och förklarade att hon inte ville att den skulle hamna på internet där andra studenter kunde kopiera den och eventuellt få henne i problem med hennes universitet. "Jag är redan på akademisk prövotid", säger hon.

Stevens säger att hon har hört från studenter över hela landet som säger att de också har blivit felaktigt anklagade för fusk på grund av programvara för AI-detektion.

"En elev sa att hon ville bli läkare men hon blev anklagad, och sedan skulle ingen av skolorna ta henne på grund av hennes anklagelse om tjänstefel", säger Stevens.

Stevens säger att hon har blivit förvånad över mängden stöd hon har fått från människor som tittar på hennes videor. Hennes följare på sociala medier uppmuntrade henne att starta en GoFundMe-kampanjen, vilket hon gjorde för att täcka förlusten av sitt stipendium och för att betala för en advokat att eventuellt vidta rättsliga åtgärder mot universitetet. Hittills har hon samlat in mer än $6,100 90 från mer än XNUMX personer.

Hon blev också förvånad över att bli kontaktad av tjänstemän från Grammarly, som gav $4,000 XNUMX till hennes GoFundMe och anställde henne som studentambassadör. Som ett resultat planerar Stevens nu att göra tre reklamfilmer för Grammarly, för vilka hon kommer att få en liten avgift för varje.

"Vid det här laget försöker vi arbeta tillsammans för att få högskolor att ompröva sin AI-policy", säger Stevens.

För Grammarly verkar det tydligt att målet är att ändra berättelsen från den första videon av Stevens, där hon sa: "Om du har ett papper, uppsats, diskussionsinlägg, allt som skickas till TurnItIn, avinstallera Grammarly just nu .”

Grammarlys utbildningschef, Jenny Maxwell, säger att hon hoppas kunna sprida budskapet om hur inexakta AI-detektorer är.

"Många institutioner på fakultetsnivå är omedvetna om hur ofta dessa AI-detektionstjänster är fel", säger hon. "Vi vill se till att institutioner är medvetna om hur farligt det kan vara att ha dessa AI-detektorer som den enda källan till sanning."

Sådana brister har varit väldokumenterad, och flera forskare har sagt att professorer inte borde använda verktygen. Även Turnitin har offentligt förklarat att dess AI-detektionsverktyg är inte alltid pålitlig.

Annie Chechitelli, Turnitins produktchef, säger att dess AI-detektionsverktyg har ungefär 1 procent falskt positiva frekvens enligt företagets tester, och att det arbetar för att få det så lågt som möjligt.

"Vi låter förmodligen cirka 15 procent [av botskriven text] gå förbi utan flagg", säger hon. "Vi skulle hellre sänka vår noggrannhet än att öka vår falska positiva frekvens."

Chechitelli betonar att pedagoger bör använda Turnitins upptäcktssystem som utgångspunkt för ett samtal med en elev, inte som ett slutgiltigt beslut om den akademiska integriteten i elevens arbete. Och hon säger att det har varit företagets råd även för dess plagiatupptäcktssystem.

"Vi var väldigt tvungna att utbilda lärarna att det här inte är ett bevis på att eleven fuskat", säger hon. "Vi har alltid sagt att läraren måste fatta ett beslut."

AI sätter pedagoger i en mer utmanande position för det samtalet, erkänner Chechitelli. I de fall där Turnitins verktyg upptäcker plagiat pekar systemet på källmaterial som eleven kan ha kopierat. När det gäller AI-detektering finns det inget tydligt källmaterial att titta på, eftersom verktyg som ChatGPT spottar ut olika svar varje gång en användare går in i en prompt, vilket gör det mycket svårare att bevisa att en bot är källan.

Turnitin-tjänstemannen säger att i företagets interna tester aktiverar inte traditionella grammatikkontrollverktyg dess larm.

Maxwell, från Grammarly, påpekar att även om ett AI-detektionssystem är rätt 98 procent av tiden, betyder det att det felaktigt flaggar, säg, 2 procent av tidningarna. Och eftersom ett enskilt universitet kan ha 50,000 1,000 studentpapper inlämnade varje år, betyder det att om alla professorer använde ett AI-detektionssystem, skulle XNUMX XNUMX uppsatser felaktigt kallas fall av fusk.

Oroar Maxwell sig för att högskolor kan avskräcka användningen av hennes produkt? När allt kommer omkring tog University of North Georgia nyligen bort Grammarly från en lista över rekommenderade resurser efter att TikTok-videorna av Stevens blev virala, även om de senare la till dem igen.

"Vi träffade University of North Georgia och de sa att det här inte har något att göra med grammatik", säger Maxwell. "Vi är glada över hur många fler professorer och studenter som lutar åt motsatt håll - och säger: 'Detta är den nya arbetsvärlden och vi måste ta reda på hur de här verktygen ska användas.' Du kan inte stoppa tillbaka tandkrämen i tuben.”

För Tricia Bertram Gallant, chef för Academic Integrity Office vid University of California San Diego och en nationell expert på fusk, handlar den viktigaste frågan i den här studentens fall inte om tekniken. Hon säger att den större frågan handlar om huruvida högskolor har effektiva system för att hantera åtal för akademisk oredlighet.

"Jag skulle vara mycket tveksam till att en student skulle bli anklagad för fusk bara från en grammatik- och stavningskontroll", säger hon, "men om det är sant är AI-chatbotarna inte problemet, policyn och processen är problemet."

"Om en fakultetsmedlem kan använda ett verktyg, anklaga en student och ge dem en nolla och det är gjort, är det ett problem", säger hon. "Det är inte ett verktygsproblem."

Hon säger att begreppsmässigt är AI-verktyg inte annorlunda än andra sätt som studenter har fuskat i åratal, som t.ex. anställa andra studenter för att skriva sina uppsatser åt dem.

"Det är konstigt för mig när högskolor genererar en helt separat policy för AI-användning", säger hon. "Allt vi gjorde i vår policy är att lägga till ordet "maskin", tillägger hon och noterar att nu förbjuder den akademiska integritetspolicyn uttryckligen att använda en maskin för att utföra arbete som är avsett att utföras av studenten.

Hon föreslår att studenter ska se till att föra register över hur de använder verktyg som hjälper dem, även om en professor tillåter användning av AI i uppdraget. "De bör se till att de håller sin chatthistorik" i ChatGPT, säger hon, "så att en konversation kan föras om deras process" om några frågor ställs senare.

Ett snabbt föränderligt landskap

Medan grammatik och stavningskontroll har funnits i åratal, lägger många av dem nu till nya AI-funktioner som komplicerar saker för professorer som försöker förstå om eleverna tänkte bakom arbetet de lämnar in.

Till exempel har Grammarly nu nya alternativ, de flesta i en betalversion som Stevens inte prenumererade på, som använder generativ AI för att göra saker som "hjälpa brainstorma ämnen för ett uppdrag" eller för att "bygga en forskningsplan", som ett nyligen pressmeddelande från företaget uttryckte det.

Maxwell, från Grammarly, säger att företaget försöker rulla ut de nya funktionerna noggrant och försöker bygga in skyddsåtgärder för att förhindra att eleverna bara ber boten att göra sitt arbete åt dem. Och hon säger att när skolor använder dess verktyg kan de stänga av de generativa AI-funktionerna. "Jag är förälder till en 14-åring", säger hon och tillägger att yngre elever som fortfarande lär sig grunderna har andra behov än äldre elever.

Chechitelli, Turnitin, säger att det är ett problem för eleverna att Grammarly och andra produktivitetsverktyg nu integrerar ChatGPT och gör mycket mer än att bara fixa syntaxen för att skriva. Det beror på att hon säger att eleverna kanske inte förstår de nya funktionerna och deras konsekvenser.

"En dag loggar de in och de har nya val och olika val", säger hon. "Jag tycker att det är förvirrande."

För Turnitin-ledaren är det viktigaste budskapet för pedagoger idag transparens i vad, om någon, hjälp AI ger.

"Mitt råd skulle vara att vara eftertänksam över de verktyg du använder och se till att du kan visa lärare utvecklingen av dina uppgifter eller kunna svara på frågor", säger hon.

Gallant, den nationella experten på akademisk integritet, säger att professorer måste vara medvetna om det växande antalet generativa AI-verktyg som studenter har tillgång till.

"Grammatik är långt bortom grammatik och stavningskontroll", säger hon. "Grammatik är som alla andra verktyg - det kan användas etiskt eller det kan användas oetiskt. Det är hur de används eller hur deras användningsområden döljs.”

Gallant säger att även professorer springer in i dessa etiska gränser i sitt eget skrivande och publicering i akademiska tidskrifter. Hon säger att hon har hört talas om professorer som använder ChatGPT för att komponera tidskriftsartiklar och sedan "glömmer att ta del av där AI föreslog idéer."

Det är något förföriskt med den lätthet som dessa nya generativa AI-verktyg kan spotta ut välformaterade texter, tillägger hon, och som kan få folk att tro att de jobbar när allt de gör är att lägga en prompt i en maskin.

"Det finns denna brist på självreglering - för alla människor men särskilt för nybörjare och ungdomar - mellan när det hjälper mig och när det gör jobbet åt mig", säger Gallant.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://www.edsurge.com/news/2024-04-04-can-using-a-grammar-checker-set-off-ai-detection-software