גם המשטרה נפלה ברשת של הבינה המלאכותית. בפסק דין שניתן לאחרונה (21.4.2025) בבית משפט השלום בחדרה, נחשף מקרה מעניין שבו שימוש בבינה מלאכותית (AI) הוביל לטעות בניסוח תגובה משפטית מצד המדינה. הדיון עסק בבקשה להחזרת טלפון נייד שנתפס במסגרת חקירה. בתגובה שהוגשה מטעם המדינה, צוין כי תפיסת המכשיר נשענת על סמכות מכוח סעיף 23(א) לחוק סדר הדין הפלילי.
במהלך הדיון, התברר כי סעיף החוק שהוזכר בתגובה אינו קיים בספר החוקים של ישראל. כבוד השופט אהוד קפלן, שדן בתיק, ציין בהחלטתו כי מדובר בטעות חמורה שמקורה ככל הנראה בשימוש בבינה מלאכותית לצורך ניסוח המסמך המשפטי.
מבדיקה נוספת, נמצא כי אמנם סעיף 23(א) עליו התבססה המשטרה לא קיים, אך הסעיף לא "הומצא" לחלוטין. למעשה, הוא מתכתב עם סעיף 32(א) לפקודת סדר הדין הפלילי, אשר מעגן את סמכותה של המשטרה לתפוס חפץ אם יש לה יסוד סביר להניח כי באותו חפץ נעברה או עומדים לעבור עבירה, או שהוא עשוי לשמש ראיה בהליך משפטי בשל עבירה או שניתן כשכר בעד ביצוע עבירה או כאמצעי לביצועה.
המקרה מדגיש את הסיכונים בשימוש לא מבוקר בטכנולוגיות AI לצורך ניסוח מסמכים משפטיים, שכן חוסר דיוק שכזה עלול להוביל לעיכובים בהליך המשפטי ואף לפגוע בזכויות חשודים.
המקרה מצטרף לשורה של אירועים דומים במערכת המשפט בעולם, ומעלה את הצורך בבקרה אנושית קפדנית על תכנים המופקים באמצעות בינה מלאכותית. נוסף על כך, הוא מעורר שאלות באשר לצורך ברגולציה מחמירה יותר שתגדיר את גבולות השימוש בטכנולוגיות מתקדמות בהקשרים משפטיים, ותמנע טעויות דומות בעתיד.
ה"ת 42747-04-25 מחאג'נה נ' יל"פ מרחב מנשה
