Är det sant att AI kan diagnostisera autism?

Kort svar: Nej.

Lite längre och förmodligen mer korrekt svar: Inte än.

Det har varit en del surr på sistone om artiklar med rubriker som "AI kan diagnostisera barndomsautism från ögonfoton med "100 % noggrannhet" och ... ja, nej, det kan det inte. Jag ska förklara varför jag anser att forskningen aldrig borde ha klarat peer review. Forskningen är bristfällig och rapporteringen är oansvarig. Det finns potentiell för AI att så småningom lära sig att diagnostisera autism, men det är inte vad som händer i den här studien.

Vad försökte studien göra?

Smakämnen studien försökte lära en AI Deep Ensemble Model hur man diagnostiserar autism genom näthinneskanningar—bilder av ögats insida. Forskarna lät AI-modellen titta på skanningar av 479 autistiska barn och ungdomar och 479 typiskt utvecklade barn som matchades för saker som ålder, kön och socioekonomisk bakgrund.

En Deep Ensemble Model betyder att de hade massor av individuell AI som tittade på samma sak. Du kan tänka på det som en teknisk version av den gamla liknelsen om blinda män som rör vid en elefant. I berättelsen håller en man i svansen och säger att en elefant är som ett rep. En annan rör vid benet och säger att en elefant är som ett träd. Ännu en annan rör vid stammen och säger att den är som en orm medan en annan rör en bete och säger att den är som ett spjut. De är okej, men var och en har bara en del av svaret.

Deep Ensemble gör något liknande, varje AI tittar på näthinnans skanningar från ett annat perspektiv, sedan "pratar" all AI med varandra om vad de har sett, korrigerar varandra och minskar på att förstå den "hela elefanten" av bilderna de analyserar. Deep Ensemble är tänkt att ge ett mer exakt resultat eftersom datorerna kontrollerar varandras arbete längs vägen.

Resultatet av deras studie var...ja, enligt min mening, för bra för att vara sant. AI-modellen identifierade korrekt 100 % av försökspersonerna som hade diagnostiserats autistiska och 100 % av försökspersonerna som hade identifierats som typiskt utvecklande. Men jag ska förklara för dig varför jag tror att AI inte lärde sig att identifiera autism utan snarare hur man replikerar fördomarna i det medicinska systemet som hade diagnostiserat/inte diagnostiserat dessa 958 försökspersoner.

Var deras mål rimligt?

Först och främst vill jag dock säga att jag inte tror att forskarna var ur spåret. Jag tror att näthinneskanningar så småningom skulle kunna användas för att identifiera autism. Det är redan möjligt för läkare och forskare att se Alzheimers och Parkinsons i näthinneskanningar. 

Näthinnan är "bakväggen" på insidan av ögat. Du lärde dig förmodligen om det i skolan med en metafor som att det är filmduken som ögat projicerar ljuset vi ser på. I mitten av näthinnan finns en fläck som kallas den optiska skivan, men du känner den förmodligen under det vanligare namnet "blind fläck" om du är medveten om det alls. Våra hjärnor täcker upp den där blinda fläcken i ett typiskt öga genom att skapa en känsla av att se sakerna som vi just såg där. Våra ögon rör sig och den döda fläcken rör sig runt. Våra hjärnor övertygar oss om att vi ser allt och döljer vår uppfattning om den döda fläcken i vårt synfält.

Den blinda fläcken på optisk skiva är platsen där nerverna lämnar vårt öga och ansluter till vår hjärna för att skicka signaler från näthinnan till den visuella cortex som finns på baksidan av vårt huvud. Och nerverna som utgör den optiska skivan är äldre än vår hjärna! Den optiska skivan utvecklas ur nervröret under de första månaderna av vårt liv inuti livmodern. Det är en av de äldsta nervstrukturerna i vår kropp, och kan visa saker om grunden för våra hjärnor.

Eftersom autism inkluderar strukturella och funktionella skillnader i hjärnan jämfört med majoriteten av hjärnor, är det teoretiskt möjligt att några av dessa skillnader kan observeras i en näthinnaskanning. Och jagOm forskare kan ta reda på hur man identifierar autism i en näthinneskanning kan det vara bra för autister och våra familjer. Det skulle kunna göra diagnosen snabbare, mer exakt och mycket mer tillgänglig, särskilt för marginaliserade människor. Även om jag tror att just denna studie bara är användbar som ett exempel på vad inte att göra vill jag att forskare fortsätter att försöka, eftersom de tittar på hur AI kan bli en mycket hjälpsam assistent i diagnostikprocessen.

Varför kallar jag det en misslyckad studie?

I samma ögonblick som jag såg dessa rubriker som utbasunerade 100 % framgång började jag titta närmare på studien. Varför var jag så misstänksam? 

Ämnen för studien identifierades av läkare, forskare och vårdgivare som studerade det observerade beteendet hos barn och ungdomar. AI Deep-ensemblen tittade på biologiska bevis. Korrelationen mellan observerat beteende och biologiska strukturer bör inte har varit perfekt.

Varför? Eftersom mänskliga läkare har fördomar och missar att diagnostisera vissa människor. Jag är villig att tro att AI kunde ha identifierat de autistiska försökspersonerna med 100% noggrannhet, eftersom forskarna valde sina autistiska försökspersoner och bara använde de som fick höga poäng på diagnostiska verktyg utformade för att rangordna autismens "allvarlighetsgrad". (Jag sätter "svår" inom citattecken eftersom jag hatar den icke-autistiskt ledda kampanjen att prata om "svår"Eller"djup autism" och även för att jag inte tror att effekterna av autism på en persons liv är något så tydligt som en falsk binär av "svår vs inte." Dessutom undersöktes aldrig försökspersonernas upplevelse av sitt eget liv - all diagnostisk rangordning gjordes av professionella och vårdgivare utan någon input från de autistiska barnen och ungdomarna själva.)

För ett exempel på hur dåligt utbildade proffs kan ta fel, överväg Dr. Tony Attwood, en världserkänd professionell inom diagnostisering och studier av autism. Hans egen son är autist, men Dr. Attwood insåg det inte förrän hans dotter, som arbetar inom specialpedagogik, kontaktade sin far, Dr. Attwood, för att säga att hon trodde att hennes bror förmodligen var med på spektrumet. 

Will Attwood var trettio år gammal innan hans berömda diagnostikerfar insåg att hans sons livslånga kamp med missbruk och fängelse var resultatet av att leva med okänd autism. Will Attwood har sedan dess publicerats en bok om hans erfarenheter av sent diagnostiserad autism och fängelse, i hopp om att hjälpa andra autistiska vuxna som befinner sig bakom galler. Berättelsen om Will Attwood kan tyckas extrem, men det är mycket vanligt i denna fas i vår kollektiva förståelse av autism att autister glider igenom de diagnostiska sprickorna. 

Om AI Deep Ensemble Model faktiskt tränades för att känna igen autism, borde den ha upptäckt åtminstone en autistisk person gömd i den kohorten av 479 barn och ungdomar som hade antagits vara typiskt utvecklande. Men istället stämde det med bristen på diagnos för 100 % av dessa försökspersoner.

Varför? Eftersom uppgifterna var felaktiga. Detta är ett direkt citat från studien: 

"När de tog näthinnefotografier av patienter med ASD, följde vårdgivare med dem för att säkerställa komfort och stabilitet. Fotosessionerna för patienter med ASD ägde rum i ett utrymme dedikerat till deras behov, skilt från ett allmänt oftalmologiskt undersökningsrum. Detta utrymme designades för att vara varmt och välkomnande, vilket skapar en välbekant miljö för patienterna. Retinalfotografier av typiskt utvecklande (TD) individer togs i ett allmänt oftalmologiskt undersökningsrum."

En människa som undersöker bilderna kanske inte märker att de togs i olika rum. Eller de kanske ser att bilderna kom från olika rum men inte uppmärksammar den informationen, utan fokuserar istället på de faktiska näthinnebilderna.

Men AI märker allt. Det faktum att alla bilder av autistiska ögon togs i ett annat rum än bilderna på de försökspersoner som inte hade diagnostiserats autistiskt betyder att denna studie är värdelös och borde aldrig ha godkänts av peer review. Detta är en misslyckad studie eftersom uppgifterna är felaktiga.

Jag vet inte hur AI:n kände igen rumsskillnaden, men det är uppenbart för mig att det gjorde det, eftersom resultaten är "för perfekta" och AI:n lär sig helt enkelt att replikera forskarnas fördomar. Det är som om en av Deep Ensemble AI gick utanför elefantens inhägnad och hittade en punktskriftsbok om elefanter och var tillräckligt övertygande för de andra AI-modellerna för att få dem alla att forma sina observationer kring den rumsskillnaden.

Är externa signaler ett känt problem med AI?

Ja absolut. Det är välkänt inom AI-forskning att studier måste kontrollera dessa typer av externa signaler, eftersom de kan förvirra resultaten av en studie. 

Ett exempel på externa signaler kommer från en dermatologi och AI studie ledd av Dr. Roberto Novoa vid Stanford University. Dr. Novoas tidiga försök att träna AI för att känna igen cancer gav liknande resultat som den aktuella studien av retinal scan-autism: AI verkade vara lika exakt som läkare... tills Novoa märkte att de bara tränade AI:n att känna igen härskare! När en hudläkare tror att en skada kan vara cancer, fotograferar de den med en linjal - en grundläggande trälinjal som du förmodligen använde i grundskolan - för att indikera storlek. AI lärde sig att likställa linjaler med cancer så studien måste göras om.

Du kanske tycker att det är för subtilt att ta bilder på näthinnan i ett annat rum för att AI ska kunna uppfattas, men hela poängen med att använda en AI Deep Ensemble-modell är att fånga upp ledtrådar så subtila en mänsklig observatör kanske inte märker. Denna näthinneskanningsstudie måste göras om alla motiv som fotograferas i rummet speciellt förberedda för att hjälpa autistiska personer att hålla sig lugna. Så länge som fotografierna kom från olika rum (och förmodligen olika utrustningar) är denna studie inte redo att klara referentgranskning eller publiceras.

Så det är den långa versionen av mitt korta svar: Nej, AI är det inte identifiera autism... än. 

Och varje reporter där ute som basunerar ut den där 100-procentiga statistiken och deklarerar ett stort genombrott för att diagnostisera autism har just visat sig vara opålitliga vetenskapsreportrar, mer intresserade av sensationella rubriker än noggrann, replikerbar vetenskap.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://thinkingautismguide.com/2024/01/about-those-ai-can-diagnose-autism-claims.html