A mesterséges intelligenciával (AI) foglalkozó startup, a Woebot Health a közelmúltban tette közzé a hírt néhány katasztrofálisan hibás mesterséges bot-válaszáról a mentális egészségügyi válságot utánzó szöveges üzenetekre. A Woebot, amely 90 millió dollárt gyűjtött össze egy B sorozatban, azt válaszolta, hogy nem használható válságok idején. A vállalat vezetése sajnálatos módon elvárja azoktól a betegektől, akik esetleg nem teljesen racionálisan gondolkodnak, hogy felismerjék, hogy hagyják abba a tipikus kommunikációs formájukat, és egy alternatív rendszerhez forduljanak.

Míg az orvosok felelősek a betegeket ért károkért a kezelés során, az erre a területre belépni kívánó startup cégek nem felelnek meg ugyanazoknak a követelményeknek. A kiszolgáltatott betegek helyzetét rontja, hogy ezekre a rendszerekre nem vonatkoznak ugyanazok az adatvédelmi előírások. A mesterséges intelligencia térbe való belépés és a betegekkel való közvetlen interakció különösen bonyolult, mivel sok beteg rutinszerűen tapasztal enyhült kríziseket, a 911-es hívás küszöbértéke alatt, ami miatt a krízishelyzetek kezelésére fel nem szerelt bot valószínűleg nincs jól felszerelve a betegek által tapasztalt kínok kezelésére. napi rendszerességgel.

A betegek kríziseinek mesterséges és nem szándékos összezavarásával járó kockázatok ellenére az erre a területre csábított mentálhigiénés startupok 1.3 első felében összesen 2022 milliárd dollárt gyűjtöttek össze. Sajnos sok nehézség adódik a betegekkel való közvetlen kommunikációban, és az AI még nem áll készen erre a feladatra. A szavak használhatók szlengben vagy alternatív jelentésekkel. A mondat jelentése a páciens történetétől, kulturális értékeitől, gesztusaitól, prozódiájától és hangnemétől függően változhat. Ezenkívül fontos figyelembe venni a páciens tudatalatti motívumait a terápiás ülés során – amit nem könnyű tisztázni az MI-ből.

A mesterséges intelligencia bármennyire is képes felismerni a szavak szó szerinti jelentését, nem lesz képes megérteni a kimondatlanok mögött rejlő jelentést olyan mértékben, mint egy humán terapeuta. Tekintettel a humán terapeuták helyettesítésével kapcsolatos számos nehézségre, a mesterséges intelligencia nagyobb valószínűséggel más módon is hatással lesz a színfalak mögé.

Bár sok kihívással kell szembenézni, ha mesterséges botra hagyatkozik a betegekkel való interakcióban, még mindig vannak olyan területek, ahol a mesterséges intelligencia növelheti a döntéshozatalt. Az egészségbiztosítók már most is látják a mesterséges intelligencia értékét a költségek csökkentésében azáltal, hogy azonosítják azokat a betegeket, akik nagy mértékben igénybe veszik az egészségügyi szolgáltatásokat. A felíró szolgáltatók rendszeresen kapnak értesítést az egészségbiztosítóktól a receptek szabálytalan újratöltéséről, hogy ösztönözzék a nem optimálisan felhasznált receptek feladását. Valójában a nagy biztosítótársaságok jelentős adathalmazokkal rendelkeznek, amelyeket jelenleg elemeznek, hogy előre jelezzék az Alzheimer-kór, a cukorbetegség, a szívelégtelenség és a krónikus obstruktív tüdőbetegség (COPD) kialakulását. Valójában, A mesterséges intelligencia már megkapta az FDA jóváhagyását specifikus felhasználásra, és jelenleg az AI akkor ragyog, ha egy nagyon specifikus klinikai problémára alkalmazzák. A mesterséges intelligencia rendszerek kezdetben a klinikai megítélés javítására törekednek, nem pedig a klinikai megítélés helyettesítésére. Ideális esetben a mesterséges intelligencia növeli a klinikusok termelékenységét azáltal, hogy hétköznapi feladatokat lát el, és figyelmezteti azokat, amelyek kétértelműek lehetnek, és további emberi vizsgálatot igényelnek. Az Optum biztosító társaság szerint a három legnépszerűbb mesterségesintelligencia-alkalmazás az adatok hordható eszközökkel történő figyelése, a klinikai vizsgálatok felgyorsítása és az egészségügyi kódolás pontosságának javítása. A jelenlegi célok nem az adatok mennyiségének növelése, hanem az adatok olyan megjelenítése, amely a klinikus számára értelmes és végrehajtható.

A mesterséges intelligencia tájékoztató tippekkel és figyelmeztetésekkel kezdi hatni a szolgáltatókra, így segíti a döntéshozatalt és csökkenti az emberi hibákat. Az orvosi gyakorlat tele van szokványos feladatokkal, amelyek megérett lehetőségek a számítógépre való átrakásra. Például az MI egyik gyakori alkalmazása a retinaképek értékelése, amely lehetővé teszi a szemészek számára, hogy az orvostudomány más, általuk kifizetődőbb területeire összpontosítsanak. Ahogy a mesterséges intelligencia bekerül az egészségügybe, a klinikusoknak nem azon kell aggódniuk, hogy lecserélik-e őket, hanem azzal, hogy a gyakorlatuk hogyan fog tovább fejlődni az idő múlásával – és remélhetőleg jobbra.

A mesterséges intelligencia szolgáltatói területen való alkalmazásának egyik nehézsége az, hogy az orvosi feljegyzések nem egységesek, és a stílusok szolgáltatónként nagyon eltérőek. Az orvosi feljegyzések is tartalmazhatnak eredendő elfogultság, attól függően, hogy melyik betegpopuláció a legjellemzőbb az adott gyakorlatra. Az AI-rendszerbe táplált torzítás torz eredményt ad. Így nem az AI „mit” az egyetlen fontos tényező az alkalmazásában, hanem az, hogy hogyan alkalmazzák, és mi történik az eredményekkel, szintén nagyon jelentős hatást gyakorol. Előfordulhat, hogy figyelmen kívül hagyják azokat a tippeket és figyelmeztetéseket, amelyek olyan pillanatokban jelennek meg, amikor a klinikus eltereli a figyelmét vagy megszokta, hogy egy másik képernyőt nézzen. A mesterséges intelligencia felhasználói élménye hatással lesz az éber fáradtságra, amely a közelmúltban jól ismert jelenség, amely néhány mérföldkőnek számító esethez vezetett. Így az AI csak annyira hatásos, mint a médium, amelyben szállítják, és a felhasználó állapota a bemutatás időpontjában.

Ha tanultunk valamit a hírértékű mesterségesintelligencia-hibákból, az az, hogy lehet, hogy a mesterséges intelligencia nem követi ugyanazokat az adatvédelmi szabványokat, mint az emberek, de a tipikus emberi teljesítménynél magasabb színvonalon tartjuk. Teljesen elfogadhatatlan lenne, ha egy mesterséges intelligencia-rendszer egyetlen beteget károsítana. Elvárjuk, hogy a mesterséges intelligencia ne csak jobban teljesítsen, mint az emberek, de ne okozzon kárt a betegeknek. Az AI tehát egyelőre a háttérben folytatja alkímiai varázslatát, csendben vállalva a felelősséget – vagy sem – azért, hogy milyen hatással van az egészségügyre.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/