סערה משפטית בעקבות שימוש רשלני בבינה מלאכותית מצד רשות מקומית: בית המשפט העליון קיבל ערעור של אב לתלמיד בחינוך המיוחד המצוי בהורות משותפת, אשר בקשתו להסעה מבית האב סורבה על ידי עיריית רמת גן. תחילה אישרה העירייה את ההסעה, אך חזרה בה באופן תמוה תוך הסתמכות על "חוזר מנכ"ל" של משרד החינוך. מבדיקת האב ומשרד החינוך התברר כי החוזר שעליו הסתמכה העירייה אינו קיים כלל, וזאת אף שהעירייה ציטטה ממנו בהרחבה, ייחסה לו הוראות קונקרטיות ואף הפנתה לסעיפים מדויקים. כולם התבררו כתוצר מומצא של מערכת בינה מלאכותית שהעירייה עשתה בה שימוש מבלי לבדוק את אמינות המקורות.
בפסק דין תקדימי, חייב המשנה לנשיא, השופט נעם סולברג, את העירייה בהוצאות משפט חריגות בסך 30,000 שקלים. בית המשפט קבע בלשון חריפה כי הגשת כתבי טענות ומסמכים הנסמכים על מקורות בדויים שנוצרו בבינה מלאכותית ללא בקרה היא בגדר הטעיה חמורה של בית המשפט ושימוש לרעה בהליכי משפט. המשנה לנשיא הדגיש כי לא עצם השימוש בטכנולוגיה הוא הפסול, אלא השימוש בה ללא בקרה מתאימה המאמתת את נכונות התוצרים וללא פיקוח אנושי כלל, תוך כדי דחיית הניסיון ה"נואל" של עורכי הדין להטיל את האחריות על תוכנת המחשב.
מעבר להיבט הדיוני, בית המשפט עמד על הסכנה העמוקה הטמונה בשימוש בלתי מבוקר בבינה מלאכותית ביחסים הישירים שבין הרשות לאזרח הפשוט. נקבע כי פערי הכוחות הדרמטיים בין הצדדים גורמים לכך שכאשר אזרח מקבל מהעירייה החלטה הנראית כמנומקת ומבוססת משפטית, לרוב אין ביכולתו להרהר אחריה ולגלות שמדובר בפרי דמיונה של מכונה. כתוצאה מכך, החלטה שגויה ושרירותית עלולה להישאר על כנה, והאזרח ישלים עמה מבלי לדעת שנעשה לו עוול, דבר המהווה הפקרות והפרה יסודית של חובת ההגינות המוגברת המוטלת על רשות ציבורית.
השופטת גילה כנפי-שטייניץ הוסיפה נדבך משפטי מהותי לקביעות, והזהירה מפני מצב שבו רשות מינהלית מתפרקת משיקול דעתה ומעבירה למעשה את סמכות ההכרעה למערכת הבינה המלאכותית. היא קבעה כי הסתמכות עיוורת כזו עלולה לרדת לשורש הסמכות גופה ולהוות אצילת סמכות אסורה, שכן הרשות אינה מוסמכת להעביר את תפקידה למכונה. כדי להימנע מכך, גורמי המינהל מחויבים להציב "אדם בלולאה" – כלומר, להפעיל בקרה אנושית, ביקורתית ופעילה על תוצרי המערכת בטרם קבלת ההחלטה הסופית.
למרות הביקורת הנוקבת, הבהירו השופטים כי אין בכוונתם "לשפוך את התינוק עם המים" או לאסור לחלוטין על רשויות להשתמש בבינה מלאכותית, שכן טכנולוגיה זו יכולה לייעל את השירות לציבור ולקדם חיסכון במשאבים. עם זאת, בית המשפט קרא לשימוש אחראי, זהיר ומושכל שמכיר במגבלותיה של הטכנולוגיה. במבט צופה פני עתיד, השופטים קראו למחוקק ולרשות המבצעת לגבש בהקדם כללים ורגולציה מתאימים להתמודדות עם האתגרים שמציבה הבינה המלאכותית במגזר הציבורי, כדי להבטיח שהקדמה תשרת את האזרחים ותשמור על זכויותיהם, ולא להיפך.
פסק הדין מבהיר כי השימוש בבינה מלאכותית אינו משנה את נקודת המוצא הבסיסית של הדין המינהלי: האחריות להפעלת שיקול דעת, לבחינת מקורות ולאמינות המידע, נותרת בידי הרשות. ככל שהטכנולוגיה מתקדמת ומוטמעת במגזר הציבורי, כך מתחדדת החובה להפעיל בקרה אנושית ממשית על תוצריה. בה בעת, פסק הדין מהווה תזכורת חשובה גם לציבור כי החלטות מינהליות, אף כאשר הן מוצגות כמנומקות ומבוססות משפטית, אינן חסינות מביקורת; במקרים המתאימים, ראוי לבחון את הבסיס הנורמטיבי שעליו הן נשענות ואף לשקול פנייה לייעוץ משפטי לצורך בחינתן.
