בית המשפט העליון דן לאחרונה (בג"ץ 38379-12-24 פלונית נ' בית הדין השרעי לערעורים ירושלים ואח') בשימוש הגובר בתוכנות מבוססות על בינה מלאכותית בעריכת כתבי טענות, עם דגש על "הזיות הבינה המלאכותית (AI hallucinations)" תופעה שבה המערכת יוצרת מידע כוזב שמוצג כעובדה. במסגרת העתירה, ב"כ העותרת הסתמכה על פסקי דין שאינם קיימים, בעקבות שימוש בתוכנה המבוססת על בינה מלאכותית.
העתירה שהוגשה על ידי ב"כ העותרת כללה טיעונים משפטיים שהתבססו על ציטוטים והפניות לפסקי דין שכלל לא היו קיימים. מדובר בטעות שנגרמה כתוצאה משימוש בתוכנה המבוססת על מנוע בינה מלאכותית. התוכנה הניבה מידע שגוי וציטוטים מפסקי דין שכלל לא קיימים, כאשר ב"כ העותרת השתמשה בהם במסגרת העתירה, ללא אימות המידע. לאחר שהתברר כי פסקי הדין שהוזכרו בעתירה אינם קיימים, ב"כ העותרת פנתה לבית המשפט בבקשה לתקן את העתירה ולהסיר את האזכורים השגויים, והסבירה כי טענותיה המשפטיות מבוססות למעשה על פסקי דין קיימים שאוזכרו בצורה לא נכונה.
בית המשפט קבע כי כאשר עורך דין מגיש כתב טענות המבוסס על אסמכתאות שגויות, הוא מפר את חובת הנאמנות כלפי בית המשפט וכלפיי הלקוח, ופועל בניגוד לכללי האתיקה המקצועית. בהקשר זה, בית המשפט ציין כי העלאת טענות כוזבות מסכנת את ערכי טוהר ההליך השיפוטי ופוגעת בקיום הליך הוגן ויעיל. לשם כך, בין היתר, קיימת לבית המשפט הסמכות לדחות עתירות על הסף, למחוק כתבי טענות ולהטיל הוצאות אישיות על עורכי דין אשר מגישים כתבי טענות שמכילים מידע כוזב ומטעה. למרות ההתנהלות הלקויה של ב"כ העותרת במקרה זה, החליט בית המשפט להמשיך לדון בעתירה לגופה, במטרה למנוע עוול לעותרת, אשר נפגעה כתוצאה מהטעויות של באת כוחה.
בית המשפט ציין כי: "ואולם, לעת הזו יש להדגיש כי שימוש שעושים עורכי דין בכלי בינה מלאכותית, אין משמעו כי הם יכולים להתפרק מאחריותם ומשיקול דעתם המקצועי. חובותיהם המקצועיות של עורכי דין דורשות לעשות בטכנולוגיה זו שימוש אחראי, זהיר וביקורתי, להבין לעומקן את יכולותיה ומגבלותיה, ולהתעדכן מעת לעת בכל הנוגע לחולשותיה וחוזקותיה (גילוי דעת ועדת האתיקה הארצית, בעמ' 2). בפרט, אין הם רשאים להגיש לבית המשפט כתבי בית-דין שלא נבדקה אמינותם ודיוקם בדוק היטב, שלא לומר כתבי בית דין מוטעים ומטעים, תוך הסתמכות עיוורת על הכלים האמורים."
לסיכום, פסק הדין מדגיש את הצורך באחריות מקצועית של עורכי דין, גם כאשר מדובר בשימוש בטכנולוגיות מתקדמות כמו בינה מלאכותית. למרות היתרונות הרבים של הכלים הללו, על עורכי הדין להבין את מגבלותיהם של הכלים, להפעיל שיקול דעת זהיר וביקורתי בשימוש בהם, ולהימנע מהסתמכות עיוורת על טכנולוגיות אלו. בפרט, עורכי דין אינם רשאים להגיש כתבי טענות על סמך בינה מלאכותית מבלי לוודא את אמינותם ודיוקם של המידע שהם מספקים.
