בצעד דרמטי המטלטל את שוק התחבורה השיתופית והכלכלה הדיגיטלית, הטילה רשות הגנת המידע ההולנדית (Dutch DPA) קנס חסר תקדים בסך 825 מיליון אירו על חברת Uber Technologies. מדובר בקנס השני בגובהו שהוטל אי פעם מכוח תקנות ה-GDPR, אשר מציב תמרור אזהרה בוהק בנוגע לשימוש הגובר במערכות קבלת החלטות אוטומטיות (Automated Decision-Making) לניהול עובדים ומשתמשי קצה.
במוקד ההחלטה עומדת קביעת הרגולטור לפיה מערכותיה של Uber השעו וחסמו לצמיתות חשבונות של נהגים בהולנד בהסתמך על אלגוריתמים אוטומטיים, תוך היעדר פיקוח אנושי מספק (Human Oversight) והפרת זכויותיהם של הנהיגים לפי ה-GDPR. בהתאם להוראות סעיף 22 ל-GDPR, לנושאי מידע עומדת, ככלל, הזכות שלא להיות כפופים להחלטה המבוססת אך ורק על עיבוד אוטומטי, אשר יש לה השפעה משפטית עליהם או השפעה משמעותית דומה, בכפוף לחריגים הקבועים בדין. .
קנס זה פוגע ישירות בנרטיב הצמיחה והאוטומציה שמובילה Uber, ומעורר שאלות משפטיות, תפעוליות ותדמיתיות רחבות בשווקיה הבינלאומיים המרכזיים. הפלטפורמה מנהלת ציי תחבורה בהיקף גלובלי תוך הישענות על כלים טכנולוגיים מתקדמים. לכן, הצבת מגבלות על השימוש בכלים אוטומטיים לצורך קבלת החלטות הנוגעות לנהגים נוגעת לתהליכי הליבה התפעוליים המאפשרים את פעילותה בקנה מידה רחב.
לצד ההשלכות הפיננסיות המיידיות ובשעה ש-Uber מקדמת שיתופי פעולה אסטרטגיים בתחום הרכב האוטונומי (AV) והאוטומציה המלאה, ההכרעה מבהירה כי התייעלות טכנולוגית אינה יכולה לבוא על חשבון עמידה בהוראות הדין, שקיפות וביקורת אנושית אפקטיבית.
כעת נותר לבחון כיצד תעדכן Uber את מדיניותה הפנימית, את נהלי ההשעיה והחסימה ואת מנגנוני הדיווח שלה בעקבות ההחלטה. במקביל, קיים חשש ממשי כי רגולטורים נוספים ברחבי האיחוד האירופי ירחיבו את החקירות נגד מנגנוני קבלת החלטות אלגוריתמיות, דבר העשוי להשפיע על חברות דיגיטליות רבות.
עבור חברות טכנולוגיה, פלטפורמות דיגיטליות וארגונים המפתחים או משתמשים בכלי AI ואוטומציה לניהול כוח אדם, החלטה זו מהווה קריאת השכמה. האירוע ממחיש כי הסתמכות עיוורת על קבלת החלטות אוטומטית ללא אמצעי הגנה נדרשים לצורך חסימת משתמשים או סיום התקשרויות מייצרת חשיפה משפטית ועשויה לחייב הטמעה של מנגנוני התערבות אנושית אפקטיבית (Human-in-the-loop) בהתאם לנסיבות ולהוראות הדין החלות.
