Kunstmatige intelligentie (AI) startup Woebot Health haalde onlangs het nieuws vanwege enkele van zijn rampzalig gebrekkige kunstmatige botreacties op sms-berichten die naar het bedrijf werden gestuurd en die een geestelijke gezondheidscrisis nabootsen. Woebot, die in een Series B-ronde 90 miljoen dollar ophaalde, antwoordde dat het niet bedoeld is voor gebruik tijdens crises. De leiding van het bedrijf verwacht treurig genoeg dat patiënten, die misschien niet volledig rationeel denken, de erkenning krijgen om te stoppen met het gebruik van hun typische vorm van communicatie en een alternatief systeem te zoeken.

Hoewel artsen verantwoordelijk worden gehouden voor de schade die patiënten worden toegebracht tijdens hun behandeling, worden startende bedrijven die deze ruimte willen betreden niet aan dezelfde norm gehouden. Tot overmaat van ramp voor kwetsbare patiënten worden deze systemen ook niet aan dezelfde privacynormen gehouden. Het betreden van de AI-ruimte en directe interactie met patiënten is vooral ingewikkeld omdat veel patiënten routinematig milde crises ervaren, onder de drempel om 911 te moeten bellen, waardoor een bot die niet is uitgerust voor het omgaan met crises hoogstwaarschijnlijk niet goed is uitgerust om de problemen op te lossen die patiënten ervaren. op dagelijkse basis.

Ondanks de risico's die gepaard gaan met het kunstmatig en onbedoeld verpesten van patiëntencrises, hebben start-ups op het gebied van de geestelijke gezondheidszorg die op dit gebied zijn gelokt in de eerste helft van 1.3 in totaal 2022 miljard dollar opgehaald. Helaas zijn er veel problemen bij het rechtstreeks communiceren met patiënten, en AI is er nog niet klaar voor voor deze taak. Woorden kunnen in jargon of met alternatieve betekenissen worden gebruikt. De betekenis van een zin kan veranderen afhankelijk van de geschiedenis van de patiënt, culturele waarden, gebaren, prosodie en toon van de stem. Verder is het belangrijk om tijdens een therapeutische sessie rekening te houden met de onderbewuste motieven van een patiënt – wat niet gemakkelijk te achterhalen is met behulp van AI.

Hoezeer kunstmatige intelligentie ook in staat is de letterlijke betekenis van woorden te ontdekken, zij zal niet in staat zijn de betekenis achter datgene wat niet wordt gezegd te begrijpen in de mate waarin een menselijke therapeut dat kan. Gezien het aantal moeilijkheden bij het vervangen van menselijke therapeuten, is het waarschijnlijker dat kunstmatige intelligentie op andere manieren een impact achter de schermen zal hebben.

Hoewel er veel uitdagingen zijn bij het vertrouwen op een kunstmatige bot om met patiënten te communiceren, zijn er nog steeds gebieden waar kunstmatige intelligentie de besluitvorming kan verbeteren. Zorgverzekeraars zien al de waarde van AI in het verlagen van de kosten door patiënten te identificeren die veel gebruik maken van gezondheidszorgdiensten. Voorschrijvers ontvangen routinematig meldingen van zorgverzekeraars over het onregelmatig bijvullen van recepten om het stopzetten van recepten die niet optimaal worden gebruikt, aan te moedigen. Grote verzekeringsmaatschappijen beschikken over aanzienlijke datasets die momenteel worden geanalyseerd om het begin van de ziekte van Alzheimer, diabetes, hartfalen en chronische obstructieve longziekte (COPD) te voorspellen. In werkelijkheid, AI is al door de FDA goedgekeurd voor specifieke toepassingen, en momenteel schittert AI wanneer het wordt toegepast op een zeer specifiek klinisch probleem. Er wordt in eerste instantie gezocht naar AI-systemen om het klinische oordeel te verbeteren in plaats van het klinische oordeel te vervangen. Idealiter zal AI de productiviteit van artsen vergroten door alledaagse taken uit te voeren en te waarschuwen voor zaken die dubbelzinnig kunnen zijn en verder onderzoek door een mens vereisen. Volgens verzekeringsmaatschappij Optum zijn de drie grootste AI-toepassingen het monitoren van gegevens met wearables, het versnellen van klinische onderzoeken en het verbeteren van de nauwkeurigheid van de gezondheidszorgcodering. De huidige doelen zijn niet om de hoeveelheid gegevens te vergroten, maar om de gegevens te presenteren op een manier die betekenisvol en bruikbaar is voor de arts.

Kunstmatige intelligentie zal aanbieders gaan beïnvloeden met informatieve tips en waarschuwingen, waardoor de besluitvorming wordt verbeterd en menselijke fouten worden verminderd. De medische praktijk zit vol met routinematige taken die uitstekende mogelijkheden bieden om naar een computer te worden overgebracht. Een veel voorkomende toepassing van AI is bijvoorbeeld de evaluatie van netvliesbeelden, waardoor oogartsen zich kunnen concentreren op andere medische gebieden die zij meer lonend vinden. Terwijl AI zijn weg vindt naar de gezondheidszorg, hoeven artsen zich geen zorgen te maken of ze zullen worden vervangen, maar in plaats daarvan hoe hun praktijk zich in de loop van de tijd zal blijven ontwikkelen – en hopelijk ten goede.

Een probleem bij het toepassen van AI op de zorgsector is dat medische dossiers niet uniform gestructureerd zijn en dat de stijl van aanbieder tot aanbieder sterk varieert. Medische dossiers kunnen ook bevatten inherente vooringenomenheid, afhankelijk van de patiëntenpopulatie die het meest typerend is voor die praktijk. Vooroordelen die in een AI-systeem worden ingevoerd, zullen een vertekend resultaat opleveren. Het ‘wat’ van AI is dus niet de enige belangrijke factor bij de toepassing ervan, maar hoe het wordt toegepast en wat er met de resultaten wordt gedaan, is ook zeer betekenisvol in de impact die het heeft. Tips en waarschuwingen die verschijnen op momenten dat de arts afgeleid is of gewend is aan het kijken naar een ander scherm, worden mogelijk over het hoofd gezien. De gebruikerservaring van AI zal een impact hebben op waarschuwingsmoeheid, een bekend fenomeen dat de laatste tijd tot enkele baanbrekende gevallen heeft geleid. AI heeft dus slechts zo'n impact als het medium waarin het wordt aangeboden en de toestand van de gebruiker op het moment dat het wordt gepresenteerd.

Als we iets hebben geleerd van de nieuwswaardige AI-blunders, is het dat we AI misschien niet aan dezelfde privacynormen houden als mensen, maar wel aan een hogere standaard dan de typische menselijke prestaties. Het zou volkomen onaanvaardbaar zijn als een AI-systeem één enkele patiënt zou schaden. We verwachten dat AI niet alleen beter zal presteren dan mensen, maar ook geen patiënten zal schaden. Voorlopig zal AI dus zijn alchemistische magie op de achtergrond blijven uitoefenen, waarbij het stilletjes de verantwoordelijkheid op zich neemt – of niet – voor de manier waarop het de gezondheidszorg beïnvloedt.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/