בריאות רפואת העתיד

Frame Stock Footage ,shutterstock צילום:

אנוש, אבל הסבילות שלו לנזק שנגרם מקבלת החלטה שגויה על ידי מכונה, נמוך מאוד. המצב הזה, להערכתי, לא יישאר כך בעתיד. נלמד לה פ יש שולי טעות, שכל עוד AI כיר בכך שגם ל־ מזהירים עליהם מראש, חלק מהאחריות עוברת למשתמש. המשמעות היא זהירות נוספת נד פ רשת למטופל באימוץ ההמלצה. יתפתח מודל אחריות שמתחלק בין כל השחקנים". מה הסכנה הכי גדולה בכלי בעולם הבריאות? שהוצג לאחרונה בעצרת AI "בדו"ח הסופי על האו"ם והתקבל כהחלטה, דנו רבות איך לאזן בין הסיכונים לתועלות ומיפינו את הסיכונים בכלל ובעולמות הרפואה בפרט. "בהיבט של הסיכון לפרטיות יש דברים פתורים ויש כאלה שלא. בבינה הקלאסית של למידת מכונה ולמידה עמוקה רוב גדול של הפעי פ לויות יודעות להתבצע על השרתים של אר פ גוני הבריאות, ואפשר להפעילן ברמת ודאות גבוהה של הגנה על הפרטיות. הבעיה מתחילה עם הבינה המלאכותית היוצרת, דוגמת מודלי השפה הגדולים, שנכנסה לעולמנו בסערה לפני קצת יותר משנתיים; בחלק משמעותי מהמקרים מדובר בכלים שדורשים עבודה מול מודל יותר כבד, שיושב רק בענן, ושהפנייה אליו כרוכה בהרבה יותר אתגרים בעולמות הגנת המידע. ארגוני בריאות בעולם ובארץ עדיין לומדים את עולם הבינה היוצרת, ואין עדיין סטנדרטים או הבנה ברורה איך מפעילים את המודל בקליניקה באופן בטוח מבחינת הפרטיות, בקרת האיכות הנדרשת, או מול אתגרים ייחודיים נוספים". "סכנה עמוקה נוספת היא קבלת תשובה שמ פ תחזה כנכונה. כיוון שהמערכות חכמות ואפק פ טיביות מאוד, הן בקלות מרמות את המשתמש לחשוב שמשהו הוא אמיתי, כשהוא בעצם לא, עד כדי כך שאחד האתגרים של מודלי השפה הגדולים הוא תופעת ה'הזיות'. כשמודלים אלה מקבלים משימה, הם כמעט תמיד יענו עליה. אם הם לא יודעים את התשובה,

המטופלים. "הקושי הטכני לעבד את המידע – כלי המכיל את השכל הרפואי C - Pi נפתר ב־ של הרופאים הטובים ביותר במגוון מקצועות, ורואה את כל המידע בתיק הרפואי. הכלי הוא מעין סייען לרופא המשפחה העמוס, שמדמה מצב שיחד איתו בחדר יושבים קרדיולוג, אנ פ דוקרינולוג, מומחה למחלות זיהומיות ומזכי פ רה אישית, המסייעים לו בהמלצות מותאמות אישית לכל מטופל, לשיקול דעתו. הכלי מבוסס י � הקלאסי ולכן אינו חשוף לס AI כולו על ה פ הנפוצים כיום, והוא AI כונים שמאתגרים כלי ממשיך להתפתח לתחומים קליניים נוספים

ומשרת היום בכללית גם סקטורים נוספים - אחיות, רוקחים ועוד", הוא מסביר. מהם הסטנדרטים האתיים הנדרשים בפיתוח לטיפול רפואי? מי AI ובשימוש במערכות הגורם המחליט? ומי אחראי במקרה של נזק שנגרם משימוש בכלים אלה? "מכיוון שהרוב המכריע של המערכות כיום הן מסוג תומך החלטה, אז הגורם הרפואי האחראי הוא המחליט. כפי שעלינו לצייד את הרופא במכשור הבדוק והאמין ביותר כשהוא מנתח, כך הדבר כשהמערכת נותנת בידיו כלי תומך החלטה. אבל האחריות נותרת קודם כל ובעיקר על המטפל שמקבל את ההחלטה, אך תהיה גם אחריות למערכת שנתנה את הכלי בידיו, אם לא ביצעה תהליך ראוי של בחינה ובקרה. השאלה היא מה יקרה ביום שהמערכת תאפשר לאל פ גוריתם להפוך לגורם המחליט, המבצע 'סגירת מעגל' מלאה מול המטופל? אנחנו נכנסים לסבך רגולטורי, אתי ומשפטי שטרם נפתר בעולם. "מעניין שמבחינת התפיסה הציבורית – וזה הוכח בעקביות בסקרים – הציבור הרבה יותר סלחן לשיעור מסוים של טעויות של מטפל בן "ארגוני בריאות בעולם ובארץ עדיין לומדים את עולם הבינה היוצרת, ואין עדיין סטנדרטים או הבנה ברורה איך מפעילים את המודל בקליניקה באופן בטוח מבחינת הפרטיות, בקרת האיכות הנדרשת, או מול אתגרים ייחודיים נוספים"

הופכת לגורם מאבחן בלעדי או כלי AI האם שמחזק את אבחנת הרופא? "כל מה שאנחנו מטמיעים בעולמות רפואת המשפחה בכללית, בעזרת כלי ייחודי שפיתחנו פ � , ובעולמות הרדיולוגיה, הדימות וה C - Pi בשם תולוגיה – הם כלים תומכי החלטה, וסביר שגם בעתיד הקרוב מערכות מהסוג הזה לא יחליפו גורם רפואי מחליט. במבט לעתיד היותר רחוק, אין לי ספק שיקרו שני דברים; ראשית - קבלת תהפוך בתחומים AI החלטות שאינה נעזרת ב־ שונים ללא לגיטימית. אבל החלק היותר מש פ מעותי שיקרה, הוא שבתחומים מסוימים נפקיד את ההחלטות בידי האוטומט. זה יקרה בהדרגה, בתחומים ממוקדים שמתאפיינים ברמת סיכון נמוכה, ורק כאשר המטופל יחליט שהוא מוכן באיכות גבוהה AI לקבל מענה מיידי ממערכת כחלופה אטרקטיבית להמתנה ממושכת למפגש 20 עם איש מקצוע. כמי שעוסק בתחום מעל שנה, אין לי ספק שלשם אנחנו הולכים". "כלי המכיל את השכל הרפואי של טובי הרופאים" מתקדמת AI של כללית הוא פלטפורמת C - Pi ר � מ 2,000 וייחודית מסוגה, המוטמעת בכ פ פאות ראשוניות ומשרתת מיליוני מטופלים. הכלי פותח בחטיבות החדשנות, הדיגיטל והר פ פואה של הקופה במשך חמש שנים, וזכה לפ פ רסים והכרה בינלאומית. לדברי פרופ' בליצר, הכלי עונה לשתי בעיות יסוד ברפואה בקהילה – האחת היא הקושי לזהות אוכלוסייה שזקו פ קה להתערבות מונעת, עוד לפני שהיא פונה מיוזמתה למרפאה. בעזרת שילוב של כלי ניבוי, הכלי מזהה, מתעדף ומכוון זימון למרפאה למי שצפויה עבורו היעילות המרבית במניעת מחלה עתידית. הבעיה השנייה, לדבריו, היא אתגר העומס ברפואת הקהילה, כשרופאים נדרשים לרכז, לעבד ולייצר מכל שטף המידע שלפניהם המלצות קונקרטיות לכל מצב רפואי של כלל

פרופ' רן בליצר, סמנכ"ל וראש מערך חדשנות בכללית. צילום: רמי זרנגר

5 ׀ בריאות ׀ 2024 דצמבר