AI  באולם המשפט: שימוש בכלי בינה מלאכותית על ידי מומחים בהליכים משפטיים  

רקע : בפסיקה מעניינת מבית משפט השלום בחיפה[1], השופטת טלי מירום הביעה עמדה ברורה נגד הצגה של מסמך רפואי מסכם שנערך באמצעות תוכנת בינה מלאכותית למומחה שמונה מטעם בית המשפט.

התובעת, אישה שנפגעה בשלוש תאונות דרכים, הגישה תביעת פיצויים, ואחת מחברות הביטוח הגישה למומחה שמונה מטעם בית המשפט מסמך שהוכן על ידי תוכנת AI בשם DigitalOwl.

לפי פסק הדין, תוכנת DigitalOwl היא פיתוח טכנולוגי המיועד לנתח מסמכים רפואיים מורכבים, אשר יודעת לקרוא מסמכים רפואים המוצגים לה ולהפיק מסמך הכולל סיכומים כרונולוגיים, הדגשות צבעוניות של מילות מפתח רלוונטיות וקישור למסמכים גולמיים. כל אלו נועדו להקל על קוראי המסמכים ולהבליט מידע חשוב. אלא, שהתובעת טענה כי מדובר בהטיה מכוונת שעלולה לפגוע באובייקטיביות שיקול הדעת של המומחה, באופן בו המומחה יסתמך על מסקנותיה של הבינה המלאכותית חלף בחינת החומרים הגולמיים בעצמו והגעה למסקנה עצמאית.

בית המשפט קיבל את בקשת התובעת, ואסר על הצגת הסיכום למומחה מטעם בית המשפט. השופטת מירום קבעה כי מסמכים כאלה מעלים חשש אמיתי להשפעה בלתי מודעת על שיקול דעתו של המומחה: "שימוש במסמכים מבוססי AI, אשר מבליטים מידע מסוים באופן צבעוני ומובנה, מעלה חשש להשפעה בלתי מודעת על שיקול דעתו של המומחה ועל האובייקטיביות של חוות דעתו," ציינה בהחלטה.

השופטת גם הזהירה כי התרת הצגת מסמכים כאלו עלולה להוביל ל״מדרון חלקלק״, שבו טכנולוגיות חדשות יפגעו בעצמאותם של מומחים מטעם בית המשפט. על כן, פסקה כי המומחה יתעלם ממנו.

ביקורת והשלכות: לפי תקנה 8 לתקנות פיצויים לנפגעי תאונות דרכים (מומחים), התשמ"ז-1986 , על כל צד להעביר למומחה שהתמנה על ידי בית המשפט "את כל המסמכים בדבר הטיפול הרפואי שניתן לו ובדבר הבדיקות שנבדק לצורך אותו טיפול, הנוגעים לעניין שבמחלוקת, ובלבד שלא יגיש למומחה חוות דעת רפואית".  ההתייחסות לתקנה זו ככזו שאוסרת הגשת חומר מעובד, להבדיל מחומר גולמי, למומחה שמונה על ידי בית המשפט מאפשרת להגיע לתוצאה אליה הגיע בית המשפט בחיפה.

האם התוצאה הייתה זהה, אילו מומחה מטעם אחד הצדדים היה עושה שימוש בחומר שהוכן עבורו על ידי תוכנת בינה מלאכותית, או במקרה שבו כלל לא היה מדובר בעניין רפואי אלא בשדה טכנולוגי מסוים? רוח ההחלטה היא רוח גבית למי שישיבו בחיוב: המומחה לעולם מוגבל לבחון את החומרים הגולמיים ולהפיק את מסקנותיו, באשר הסתמכות על כלי בינה מלאכותית לשם בחינת החומרים הגולמיים עלולה לעוות את שיקול דעתו.

אלא, שהדעה הטובה יותר בעינינו היא שמומחה רשאי לעשות שימוש בכלי בינה מלאכותית בעת גיבוש חוות דעתו, וזאת – בכפוף לכמה תנאים.

ראשית, כלי הבינה המלאכותית צריך להיות כזה שיאפשר למומחה לעמוד בחובתו ולהסביר לבית המשפט ולצדדים כיצד הגיע למסקנתו. זוהי התוצאה של שילוב דרישת ה-Explainability ממערכות בינה מלאכותית ושל החובות המשפטיות של מומחה לפי הדין הקיים. לעניין זה, טוב יעשה המומחה אם יתעד את שיחותיו עם כלי הבינה המלאכותית, ובכלל זה את השאילתות אותן הזין למערכת – ואת התשובות שקיבל.

שנית, על המומחה להצהיר ולשכנע כי בדק באופן נאות את תוצרי כלי הבינה המלאכותית וקבע, על פי ניסיונו המקצועי, כי הוא עומד מאחורי חוות הדעת שלו כאשר היא מבוססת על השימוש האמור. בפרט, על המומחה יהיה לבדוק האם הבינה המלאכותית הבינה נכונה את האמור בחומר הגולמי, ולא "הזתה" דברים שלא הופיעו בו בהגיעה למסקנה אליה הגיעה.

שלישית, יש לדרוש גילוי נאות – הן לגבי עצם השימוש בבינה המלאכותית, הן לגבי הגורם אשר סיפק את כלי הבינה המלאכותית, וזאת, בין היתר, על מנת לוודא היעדר של ניגוד עניינים.

הדרישה הראשונה שלעיל צריכה לעמוד גם לנגד עיניהם של מפתחי מערכות המיועדות לשימוש בעולם ובאולם המשפט. יש לפתח פרוטוקולים שקופים וברורים לשימוש בכלי AI בהליכים משפטיים. חשוב להבטיח שקיפות מירבית ויכולת הסבר בנוגע לאופן השימוש בטכנולוגיה והמידע שנוצר באמצעותה. נכון להקפיד על שמירה על גרסאות מקוריות של מסמכים לצד גרסאות מעובדות, לצורך ביקורת ומעקב.

אכן, מצד אחד יש להיזהר משימוש פזיז ובלתי מרוסן בכלי חדשנות טכנולוגית, אשר אינם אלא ראי של המידע עליהם אומנו, על שלל ההטיות הגלומות בו. אך מן הצד השני גם אין להפריז במידת הזהירות, ובכך להחמיץ את היתרונות הגלומים בשימוש בבינה המלאכותית. בפרפראזה על הערת בית המשפט, ניתן לשאול האם כאשר עורך דין בשר ודם מבליט בסיכומי הטענות מידע מסוים באופן כזה או אחר אין הדבר עלול להטות, באופן בלתי מודע, את שיקול דעתה של היושב בדין? בהינתן שאנו סומכים על המומחה מטעם בית המשפט שיכריע בעניין טכנולוגי מורכב, האם לא ניתן לסמוך עליו שיבחן במומחיות את איכות התוצר שקיבל מכלי הבינה המלאכותית?

באותה המידה – האם נרצה להגיע למצב שבו רופא אשר עושה שימוש במערכת תמיכה בקבלת החלטות מבוססת בינה מלאכותית פועל שלא כדין מעצם הימצאו במצב זה, ללא קשר לאיכות המידע שקיבל ולמקצועיות תהליך קבלת ההחלטות שלו עצמו?

ואחרון חביב; לפני שנים לא מעטות נדונה בבית המשפט בקשה לביטול פסק בורר, שופט בדימוס, לאחר שהתברר כי השופט נעזר בבת משפחה, עורכת דין במקצועה, בהכנת הפסק. הבקשה נדחתה תוך שנפסק כי בורר זכאי היה לקבל עזרה כל עוד פעל לפי מיטב שיפוטו והוא זה שהחליט בסופו של דבר להוציא את פסק הבורר תחת ידו. דרישת השקיפות יכולה להתמלא ביתר קלות כאשר בעל מקצוע מסתייע בכלי ממוחשב אשר השאילתות אליו ותשובותיו להן מתועדות, מאשר במקרה שבו בעל המקצוע מסתייע בבשר ודם, שצפונות לבו מי ידע.

בשורה התחתונה: לאור התפתחותם והשתכללותם הבלתי פוסקת של כלי הבינה המלאכותית, אך טבעי הוא כי גם עדים מומחים יפנו לעשות בהם שימוש. ואולם, עדים מומחים אלה – ובתי משפט והצדדים שלהם הם מעניקים את שירותיהם – צריכים להיות מודעים לכך שחדשנות טכנולוגית אינה פטורה מביקורת, ובמקרים מסוימים אף עשויה לעורר סוגיות אתיות מורכבות. בנוסף, הגם שההחלטה הנוכחית לא בחנה לעומק את כלי הבינה המלאכותית בו נעשה שימוש, והסתפקה בפסילה של הפלט שהופק בשל החשש שהובע לבדו, הרי שלא מן הנמנע כי בעתיד יעמדו כלי הבינה המלאכותית עצמם והשימוש בהם לבחינת הערכאות השונות, ואף סביר להניח כי יהיו צדדים אשר יסכימו מראש כי למומחים מטעמם יתאפשר לעשות שימוש בכלי בינה מלאכותית מוסכם, על מנת להבטיח, ככל הניתן, הימנעות מטענות ומהזיות[2].

---

[1]  ת"א 41416-12-23 פלונית נ' כלל חברה לביטוח בע"מ ואח' (נבו; 9.12.24).

[2] באנגליה, למשל, הותר שימוש בכלי בינה מלאכותית לצורך קבלת החלטות באשר להיקף החומר שיוצג לצד שכנגד בהליכי גילוי מסמכים.