Wikipedia nedgraderte CNETs pålitelighetsvurdering etter at den tekniske publikasjonen, i drift i 30 år, brukte AI til å generere nyhetssaker som viste seg å være plagierte og fulle av feil.
CNET publisert mer enn 70 artikler om finansiell rådgivning skrevet av kunstig intelligens mellom november 2022 og januar 2023. Artiklene ble publisert under overskriften "CNET Money Staff."
En revisjon bekreftet at mange av historiene inneholdt faktafeil, alvorlige utelatelser og plagiert innhold. CNET stoppet kjører AI-skrevne historier etter at nyhetene ble kjent tidlig i 2023, men skaden, ifølge Wikipedia, var allerede gjort.
Les også: CNET suspenderer AI etter å ha publisert en serie dårlige artikler
Degraderer AI-drevet CNET
"CNET, vanligvis sett på som en vanlig teknisk RS [pålitelig kilde], har begynt eksperimentelt å kjøre AI-genererte artikler, som er fulle av feil," sa Wikipedia-redaktør David Gerard, som rapportert av futurisme.
"Foreløpig har eksperimentet ikke gått bra, som det ikke burde. Jeg har ikke funnet noen ennå, men noen av disse artiklene som gjør det til en Wikipedia-artikkel må fjernes.»
Gerard snakket for å kickstarte en møte av Wikipedia-redaktører for å diskutere CNETs AI-innhold i januar 2023. Redaktører av den kunnskapsrike nettordboken opprettholder Wikipedia Reliable Sources eller Perennial Sources-forumet, hvor de møtes for å avgjøre om en nyhetskilde kan stoles på og brukes i siteringer.
Forumet har et diagram som rangerer nyhetskanaler i henhold til deres pålitelighet. Etter mange timers debatt var redaksjonen enige om at AI-drevet versjonen av CNET var ikke pålitelig og degraderte innhold fra nettstedet til "generelt upålitelig."
"La oss ta et skritt tilbake og vurdere hva vi har vært vitne til her," sa en annen Wikipedia-redaktør som går under navnet "Bloodofox".
"CNET genererte en haug med innhold med AI, listet opp noe av det som skrevet av folk (!), hevdet at det hele ble redigert og kontrollert av folk, og deretter, etter å ha blitt tatt, utstedte noen "korreksjoner" etterfulgt av angrep på journalistene som rapporterte om det," la de til.
Wikipedia flerårige kilder side bryter ned pålitelighetsvurderingene for CNET i tre tidsperioder: 1. Pre-oktober 2020, da CNET ble ansett som "generelt pålitelig"; og 2. oktober 2020 til oktober 2022, der Wikipedia ikke vurderte nettstedet etter det $ 500 millioner oppkjøp av Red Ventures.
Den tredje perioden går fra november 2022 til i dag. I løpet av denne perioden nedgraderte Wikipedia CNET til en "generelt upålitelig" kilde etter at nettstedet vendte seg til AI "for raskt å generere artikler fulle av faktiske unøyaktigheter og tilknyttede lenker."
Google finner ingen problemer med AI
I følge Futurism-rapporten begynte ting å gå nedoverbakke for CNET etter Red Ventures-oppkjøpet i 2020. Wikipedia sa at eierskiftet førte "til en forverring av redaksjonelle standarder" fordi Red Ventures angivelig prioriterte SEO fremfor kvalitet. Det var ikke bare CNET som i hemmelighet eksperimenterte med AI i stallen.
Wikipedia-redaktører pekte også på andre pålitelighetsproblemer som involverer separate Red Ventures-eide nettsteder, inkludert Healthline og Bankrate. De utdanningsfokuserte nettstedene kjørte angivelig innhold som var skrevet av AI uten avsløring eller menneskelig tilsyn.
"Red Ventures har ikke vært gjennomsiktig om noe av dette - selskapet kan i beste fall beskrives som svikefullt," sa den anonyme Wikipedia-redaktøren Bloodofox.
I en uttalelse som tar for seg Wikipedia-nedgraderingen og AI-laget innhold, hevdet CNET at det gir «ubarvede teknologifokuserte nyheter og råd».
"Vi har vært klarert i nesten 30 år på grunn av våre strenge redaksjonelle standarder og produktvurderingsstandarder," sa en talsperson til Futurism. "Det er viktig å presisere at CNET ikke aktivt bruker AI for å lage nytt innhold. Selv om vi ikke har noen spesifikke planer om å starte på nytt, vil eventuelle fremtidige initiativer følge vår offentlige AI-policy."
Wikipedia-avgjørelsen fremhever de vedvarende bekymringene angående bruken av AI for å lage artikler i mediebransjen. I mellomtiden, Google har ingen problemer med AI-materiale, så lenge det ikke brukes til å spille søkealgoritmen.
I følge Googles veiledning på AI-generert innhold, sier firmaet at det alltid har "trodd på kraften til AI for å transformere evnen til å levere nyttig informasjon."
Google sier at rangeringssystemene deres fokuserer på kvaliteten på innholdet og ikke hvordan det produseres, enten det er av mennesker eller AI. Den ser på ekspertise, erfaring, autoritativitet og pålitelighet.
Imidlertid bemerker selskapet at bruk av automatisering, inkludert AI, for å generere innhold med det primære formålet å manipulere rangering i søkeresultater 'er et brudd på retningslinjene våre for søppelpost.»
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://metanews.com/how-ai-generated-content-led-to-a-reliability-rating-downgrade-for-cnet/
