סטארט-אפ הבינה המלאכותית (AI) Woebot Health פרסמה את החדשות לאחרונה בגלל כמה מתגובות הבוט המלאכותיות הפגומות שלה להודעות טקסט שנשלחו אליו המחקות משבר בריאות הנפש. Woebot, שגייסה 90 מיליון דולר בסבב סדרה B, השיב כי הוא אינו מיועד לשימוש בזמן משברים. הנהגת החברה מצפה בצער ממטופלים, שאולי אינם חושבים באופן רציונלי לחלוטין, לקבל את ההכרה להפסיק להשתמש בצורת התקשורת האופיינית שלהם ולהגיע למערכת חלופית.
בעוד שרופאים נושאים באחריות לנזק שנגרם למטופלים לצורך טיפול, חברות סטארטאפ המבקשות להיכנס למרחב זה אינן עומדות באותו סטנדרט. כדי להחמיר את המצב עבור מטופלים פגיעים, מערכות אלו גם אינן מוצמדות לאותם תקני פרטיות. הכניסה למרחב הבינה המלאכותית ואינטראקציה ישירה עם מטופלים היא מסובכת במיוחד מכיוון שמטופלים רבים חווים באופן שגרתי משברים מוחלשים, מתחת לסף הצורך להתקשר למוקד 911, מה שגורם לבוט שאינו מצויד בטיפול במשברים, ככל הנראה לא מצויד היטב להתמודד עם הקשיים שבהם חווים מטופלים. על בסיס יומי.
למרות הסיכונים הכרוכים במשברי חולים בהתערבות מלאכותית ולא מכוונת, סטארט-אפים בתחום בריאות הנפש שפתו למרחב זה גייסו סך של 1.3 מיליארד דולר במחצית הראשונה של 2022. למרבה הצער, ישנם קשיים רבים בתקשורת ישירה עם מטופלים, ובינה מלאכותית עדיין לא מוכנה למשימה זו. ניתן להשתמש במילים בסלנג או במשמעויות חלופיות. המשמעות של משפט עשויה להשתנות בהתאם להיסטוריה של המטופל, לערכי התרבות, למחוות, לפרוזודיה ולטון הדיבור של המטופל. יתרה מכך, חשוב לקחת בחשבון את המניעים התת-מודעים של המטופל בפגישה טיפולית - דבר שלא ניתן להבהיר בקלות מ-AI.
ככל שבינה מלאכותית תוכל לזהות משמעויות מילוליות של מילים, היא לא תוכל להבין את המשמעות מאחורי מה שלא נאמר במידה שמטפל אנושי יכול. בהתחשב במספר הקשיים בהחלפת מטפלים אנושיים, סביר יותר שתהיה לבינה מלאכותית השפעה מאחורי הקלעים בדרכים אחרות.
למרות שיש אתגרים רבים כאשר מסתמכים על בוט מלאכותי לאינטראקציה עם מטופלים, עדיין ישנם תחומים שבהם בינה מלאכותית יכולה להגביר את קבלת ההחלטות. חברות ביטוח בריאות כבר רואות את הערך בבינה מלאכותית בהפחתת עלויות על ידי זיהוי מטופלים בעלי ניצול גבוה של שירותי בריאות. נותני המרשם מקבלים באופן שגרתי הודעות מקופות החולים על מילוי לא סדיר של מרשמים כדי לעודד הפסקת מרשמים שאינם מנוצלים בצורה מיטבית. ואכן, לחברות ביטוח גדולות יש מערכי נתונים נכבדים אשר מנותחים כעת כדי לחזות את הופעת אלצהיימר, סוכרת, אי ספיקת לב ומחלת ריאות חסימתית כרונית (COPD). למעשה, AI כבר הפך לאישור ה-FDA לשימושים ספציפיים, וכרגע, בינה מלאכותית זורחת כאשר היא מיושמת על נושא קליני מאוד ספציפי. תחילה מחפשים מערכות AI לשפר את השיפוט הקליני במקום להחליף את השיפוט הקליני. באופן אידיאלי, בינה מלאכותית תשפר את הפרודוקטיביות של הרופא על ידי טיפול במשימות ארציות והתראה על מה שעשוי להיות מעורפל ודורש חקירה נוספת על ידי אדם. לפי חברת הביטוח Optum, שלושת יישומי הבינה המלאכותית המובילים הם ניטור נתונים עם ציוד לביש, האצת ניסויים קליניים ושיפור הדיוק של קידוד שירותי בריאות. המטרות הנוכחיות אינן להגדיל את כמות הנתונים אלא להציג את הנתונים באופן משמעותי וניתן לפעולה על ידי הרופא.
בינה מלאכותית תתחיל להשפיע על הספקים עם עצות והתראות אינפורמטיביות, ובכך תסייע להגביר את קבלת ההחלטות ולהפחית טעויות אנוש. העיסוק ברפואה מלא במשימות מיותרות שהן הזדמנויות בשלות להורדה למחשב. לדוגמה, יישום נפוץ אחד של AI הוא בהערכת תמונות רשתית, מה שמאפשר לרופאי עיניים להתמקד בתחומי רפואה אחרים שהם מוצאים מתגמלים יותר. כשבינה מלאכותית עושה את דרכה לבריאות, רופאים לא צריכים לדאוג אם הם יוחלפו אלא איך התרגול שלהם ימשיך להתפתח עם הזמן - ובתקווה לטובה.
קושי אחד ביישום בינה מלאכותית על מרחב הספק הוא שהרשומות הרפואיות אינן בנויות באופן אחיד, והסגנונות משתנים מאוד מספק לספק. מסמכים רפואיים עשויים להכיל גם הטיה אינהרנטית, בהתאם לאוכלוסיית המטופלים האופיינית ביותר לאותו פרקטיקה. הטיה המוזנת למערכת בינה מלאכותית תניב תוצאה מוטה. לפיכך, ה"מה" של בינה מלאכותית הוא לא הגורם החשוב היחיד ביישומו, אלא איך הוא מיושם ומה נעשה עם התוצאות הוא גם מאוד משמעותי בהשפעה שיש לו. טיפים והתראות המופיעים ברגעים שבהם דעתו של הרופא מוסחת או רגילה לצפות במסך אחר עלולים להתעלם. לחוויית המשתמש של AI תהיה השפעה על עייפות ההתראה, תופעה ידועה לאחרונה שהובילה לכמה מקרים בולטים. לפיכך, AI משפיע רק כמו המדיום שבו הוא מועבר ומצב המשתמש בזמן הצגתו.
אם למדנו משהו מטעויות הבינה המלאכותית החדשותיות, זה שאולי איננו מחזיקים בבינה מלאכותית באותם תקני פרטיות כמו בני אדם, אבל אנחנו כן מחזיקים אותה בסטנדרט גבוה יותר מביצועים אנושיים טיפוסיים. זה יהיה לחלוטין לא מקובל שמערכת בינה מלאכותית תפגע בחולה בודד. אנו מצפים שבינה מלאכותית לא רק תפעל טוב יותר מבני אדם, אלא גם לא תפגע באף חולה. אז לעת עתה, הבינה המלאכותית תמשיך להפעיל את הקסם האלכימי שלה ברקע, תוך שהיא לוקחת אחריות בשקט - או לא - על האופן שבו היא משפיעה על הבריאות.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/
