Zephyrnet-logotyp

Generativ dataintelligens

AI

Hur artificiell intelligens först hittar sin väg in i mental hälsa – DATAVERSITET

Återutgiven av Platon
Återutgiven av Platon

Datum:

Visningar: 67

Artificiell intelligens (AI) startup Woebot Health gjorde nyheten nyligen för några av sina katastrofalt defekta artificiella bot-svar på textmeddelanden som skickades till den som efterliknar en mental hälsokris. Woebot, som samlade in 90 miljoner dollar i en serie B-runda, svarade att den inte är avsedd att användas under kriser. Företagsledarskapet förväntar sig bedrövligt att patienter, som kanske inte tänker helt rationellt, ska ha erkännandet att sluta använda sin typiska form av kommunikation och nå ut till ett alternativt system.

Medan läkare hålls ansvariga för skada som tillfogas patienter för behandling, hålls startup-företag som vill komma in i detta utrymme inte till samma standard. För att göra saken värre för utsatta patienter hålls dessa system inte heller till samma integritetsstandarder. Att komma in i AI-utrymmet och interagera direkt med patienter är särskilt komplicerat eftersom många patienter rutinmässigt upplever dämpade kriser, under tröskeln för att behöva ringa 911, vilket gör att en bot som inte är utrustad för att hantera kriser sannolikt inte är väl rustad att hantera de värk som patienter upplever på dagligen.

Trots de risker som är inblandade i artificiellt och oavsiktligt klurande patientkriser, samlade startups för mental hälsa in i detta utrymme totalt 1.3 miljarder dollar under första halvåret 2022. Tyvärr finns det många svårigheter med att kommunicera direkt med patienter, och AI är ännu inte redo för denna uppgift. Ord kan användas i slang eller med alternativa betydelser. Betydelsen av en mening kan ändras beroende på patientens historia, kulturella värderingar, gester, prosodi och tonfall. Vidare är det viktigt att beakta en patients undermedvetna motiv i en terapeutisk session – vilket inte är lätt att belysa från AI.

Så mycket som artificiell intelligens kan upptäcka bokstavliga betydelser av ord, kommer den inte att kunna förstå innebörden bakom det som är osagt i den utsträckning som en mänsklig terapeut kan. Med tanke på antalet svårigheter att ersätta mänskliga terapeuter är det mer sannolikt att artificiell intelligens kommer att påverka bakom kulisserna på andra sätt.

Även om det finns många utmaningar när man förlitar sig på en artificiell bot för att interagera med patienter, finns det fortfarande områden där artificiell intelligens kan öka beslutsfattandet. Sjukförsäkringsbolag ser redan värdet av AI i att sänka kostnaderna genom att identifiera patienter som är mycket utnyttjare av hälso- och sjukvårdstjänster. Förskrivande leverantörer får rutinmässigt meddelanden från sjukförsäkringsbolag om oregelbundna påfyllningar av recept för att uppmuntra till utsättning av recept som inte används optimalt. Faktum är att stora försäkringsbolag har betydande datauppsättningar som för närvarande analyseras för att förutsäga uppkomsten av Alzheimers, diabetes, hjärtsvikt och kronisk obstruktiv lungsjukdom (KOL). Faktiskt, AI har redan blivit FDA-godkänd för specifika användningar, och för närvarande lyser AI när den tillämpas på en mycket specifik klinisk fråga. AI-system eftersträvas initialt för att förbättra kliniskt omdöme snarare än att ersätta kliniskt omdöme. Idealt sett kommer AI att öka klinikernas produktivitet genom att hantera vardagliga uppgifter och varna för sådant som kan vara tvetydigt och kräver ytterligare utredning av en människa. Enligt försäkringsbolaget Optum övervakar de tre bästa AI-applikationerna data med wearables, accelererar kliniska prövningar och förbättrar noggrannheten i sjukvårdskodning. De nuvarande målen är inte att öka mängden data utan att presentera data på ett sätt som är meningsfullt och genomförbart av läkaren.

Artificiell intelligens kommer att börja påverka leverantörer med informativa tips och varningar, vilket hjälper till att öka beslutsfattandet och minska mänskliga fel. Utövningen av medicin är full av extraordinära uppgifter som är mogna möjligheter att överföras till en dator. Till exempel är en vanlig tillämpning av AI vid utvärdering av näthinnabilder, vilket gör att ögonläkare kan fokusera på andra medicinområden som de tycker är mer givande. När AI tar sig in i vården bör läkare inte oroa sig för om de kommer att ersättas utan istället hur deras praktik kommer att fortsätta att utvecklas över tiden – och förhoppningsvis till det bättre.

En svårighet med att tillämpa AI på leverantörsutrymmet är att medicinska journaler inte är enhetligt strukturerade och stilarna varierar mycket från leverantör till leverantör. Medicinska journaler kan också innehålla inneboende förspänning, beroende på patientpopulationen som är mest typisk för den praxisen. Bias som matas in i ett AI-system kommer att ge ett partiskt resultat. Således är "vad" av AI inte den enda viktiga faktorn i dess tillämpning, men hur det tillämpas och vad som görs med resultaten är också mycket meningsfullt i den inverkan den har. Tips och varningar som visas när läkaren är distraherad eller van vid att titta på en annan skärm kan förbises. Användarupplevelsen av AI kommer att ha en inverkan på larmtrötthet, ett välkänt fenomen nyligen som har lett till några landmärken. Alltså är AI bara lika effektfull som mediet där den levereras och användarens tillstånd vid den tidpunkt den presenteras.

Om vi ​​har lärt oss något av de nyhetsvärdiga AI-misstagen är det att vi kanske inte håller AI till samma sekretessstandarder som människor, men vi håller den till en högre standard än typisk mänsklig prestation. Det skulle vara helt oacceptabelt för ett AI-system att skada en enskild patient. Vi förväntar oss att AI inte bara ska prestera bättre än människor utan att inte skada några patienter. Så, tills vidare, kommer AI att fortsätta att arbeta med sin alkemiska magi i bakgrunden, tyst ta ansvar – eller inte – för hur det påverkar vården.

plats_img

Senaste intelligens

plats_img

Copyright @ 2024 Plato Technologies Inc.