מאת עו"ד דן חי
מכל הכותרות שעלו סביב סיפור השרה גילה גמליאל ודרך ההתנהלות שלה ביום הכיפורים האחרון, עת היינו כולנו בסגר, בלטה הטענה, כי שיקרה בחקירה האפידמיולוגית של משרד הבריאות. טענה חמורה ללא ספק.
אלא שמבחינת השרה גמליאל היה לסיפור הזה סוף טוב. היועץ המשפטי לממשלה, אביחי מנדלבליט, הודיע כי החליט שלא לפתוח בחקירה נגדה. באג בתוכנה של משרד הבריאות, הסביר, תיקן אוטומטית את "מקום ההדבקה" שדיווחה עליו מטבריה לתל אביב, עיר מגוריה של גמליאל. טעות מחשב ותו לא.
עכשיו נניח שגילה גמליאל רוצה לתבוע בגין הוצאת לשון הרע על עוגמת הנפש שנגרמה לה, הביזוי וההשפלה שהיו תולדה מהפרסום הכוזב. את מי תתבע? את משרד הבריאות? את מי שכתב את התוכנה למשרד הבריאות? מי שאמור היה לבדוק אותה? או שאולי את המחשב, רחמנא ליצלן?
בסיפור של גילה גמליאל לא היה מדובר בתוכנה מתוחכמת מידי ובתקלה, שאם הייתה, לא הייתה יותר מבאג במחשב. אבל מה יקרה כאשר יהיה מדובר בתוכנות מתקדמות יותר? ההשתלטות, ניתן לומר, של המחשבים על חיינו ובמיוחד של תוכנות מתקדמות, בינה מלאכותית ועוד, מאתגרות ללא ספק את עולם המשפט. דיבורים על המכונית האוטונומית, זו שתסתובב ללא נהג, מעלים גם את הסוגייה המאתגרת: אם המכונית תהרוג חלילה מישהו, מי יהיה אשם?
מצד אחד, ניתן לטעון כי קיים קשר סיבתי בין מי שעומד מאחורי תוכנה ותוכנה עצמה, גם אם שלא כמו בסיפור של גמליאל זו, כזו המבוססת על למידת מכונה ((Machine Learning, הלומדת והמשפרת את עצמה מביצועיה. הרי גם תוכנה כזו התחילה במוחם של תכנתי מחשב. מצד שני, קשה לצפות לכל מה שיכול להגיע מחשב, כשהוא ילמד מעצמו. גם לאותו תוכניתן שיצר אותו. הרי הדמיון כאן פרוע.
דוגמה לכך ניתן לקחת, אולי, ממה שקרה לפייסבוק. לפני חודשים אחדים השיקה הרשת החברתית בקוד פתוח צ'אט בוט בשם "בלנדר". מדובר ברובוט מבוסס בינה מלאכותית, אשר נוצר, כך הודיעו בפייסבוק, אחרי למידה עמוקה של כ- 1.5 מיליארד שיחות שהיו בפורום בשם Reddit. אלא שמעט אחרי שיצא הסתבר, כי הבוט המתוחכם בהחלט למד המון דברים מכל השיחות הללו והצליח, בין היתר, להפוך לאנטישמי ושונא ישראל. "ישראל מקום נורא. אני חושב שהיהודים אנשים נוראים!", כך ענה הבוט של פייסבוק בתשובה לשאלות, על איך ישראל ומה דעתו על היהודים. את מי יהיה אפשר להאשים כאן על התוצאה הזו? מפתחי הבוט? השיחות שנבחרו כבסיס ללמידה שלו? הרי איש לא צפה שלתוצאה הזו נגיע.
שימוש בבינה מלאכותית הולך ונהיה נפוץ יותר ויותר. בנקים, למשל, יחליטו אם לתת הלוואה על סמך תשובה שיקבלו מהמחשב, אחרי שיזינו לו את פרטי המבקש. בארצות-הברית ממליץ המחשב לשופטים, איזה עונש לתת לפושעים בתיק שלפניהם. ויש הרבה דוגמאות נוספות.
לא במקרה הבינה המלאכותית כבר הספיקה להעסיק ערכאות במדינות שונות. באלה עלתה השאלה, מה היה האלגוריתם שנכתב לאותה בינה מלאכותית, שהוביל אותה לתוצאה שהתקבלה. בתקנות הגנת המידע האירופאיות (GDPR) אפילו הלכו עם זה צעד קדימה וקבעו, שאי אפשר לקבל החלטה ביחס לאדם שהיא תוצאה של בינה מלאכותית, בלי שיהיה הסבר לדרך שבה המחשב הגיע לתוצאה. כך לצד תוכנות מתקדמות כאלה התחילו פיתוחים מגבילים, שיוכלו לפענח את הדרך שבה אותה בינה מלאכותית הגיעה לאותה "מסקנה" שאליה הובילה.
האתגרים שההתקדמות הטכנולוגית מציבה לנו לא נפסקים. אבל אם נחזור ל"עולם" הקטן שלנו, הם מטרידים אותנו גם כאשר לא מדובר בתוכנות מתקדמות. קחו כדוגמה את המציאות של חיינו בהווה. השב"כ מפעיל מעקב אחרי חולי קורונה וכל מי ששהה לצידם בפרק הזמן שהיו מדבקים, שולח הודעות לאנשים שצריכים להיכנס לבידוד, ללכת להיבדק, חולים ומה לא? בכל ההודעות האלו התגלו טעויות רבות. לא מעט אנשים נתקעו שבועיים בבית בשל טעות של השב"כ. לאלה, להבדיל מגילה גמליאל, לא היה כל-כך עם מי לדבר. באירופה, כאמור, לא נותנים למחשב לנהל את החיים באופן כל-כך בלעדי. ואצלנו? האם לא הלכנו רחוק מידי שכבר עכשיו אנחנו סומכים כל-כך על המחשב?
