האם אתה בעל סיכון גבוה לחלות בקורונה? אתה אולי לא יודע, אבל מערכות בינה מלאכותית המוזנות במידע שנאסף עליך ממקורות שונים, ידעו לנבא את אחוז הסכנה שלך ואף לתת לך ציון, עד כמה את מסוכן.
אבל גם לא בימי הקורונה. האם שמת לב פעם שמונית שמוזמנת באפליקציה נענית מהר יותר לקריאה של חבריך מאשר שלך? חשבת אולי על הדירוג שלך באפליקציה, דירוג הניזון מנקודות שמעניקים הנהגים, כמו גם פרמטרים אחרים הנובעים מהפעילות שלך.
אלה גם אלה מהוות "מערכות לדירוג חברתי". הרשות להגנת הפרטיות מצביעה על הסכנה לזכות לפרטיות הכרוכה בשימוש בהן. בסקירה שהיא מפרסמת (21.4.2020) סוקרת הרשות כי את התובעה, מציינת כי בעידן ה- Big data הולך וגובר השימוש במערכות של דירוג חברתי, ואלו מאפשרות לדעתה לגורמים (ציבוריים ופרטיים) להשתמש במידע על פרט ספציפי לשם דירוגו על-פי מדדים שונים באופן השוואתי לפרטים אחרים, כאשר דירוג זה עשוי להיות שקוף בפני גורמים שונים, לרבות פרטים אחרים, ולהשפיע על היבטים שונים של חייו של אותו הפרט ממנו נאסף המידע. שימוש במערכות טכנולוגיות אלו פוגעות לדעת הרשות בזכות לפרטיות של פרטים.
בפתח המסמך, הרשות מציינת את השימוש במערכות של דירוג חברתי, כחלק מהפעלת מנגנון שלטוני של פיקוח ומעקב אחר אזרחים ותושבים, אשר נועד לשם "חינוך" פרטים להתנהגות ראויה. הדוגמה המרכזית שמציינת הרשות היא מערכת הדירוג החברתית הסינית, אשר אוספת נתונים ממקורות שונים למען ניטור וחינוך האזרחים. מטרת התוכנית הזו היא לתגמל אזרחים על התנהגות הנתפסת כ"טובה" על-פי משטר, ולהענישם על התנהגות שאינה כזו. בעת הנוכחית, כחלק מהתמודדות עם משבר הקורונה, משתמשות הרשויות בסין בטכנולוגיות מעקב שונות על מנת לדרג אזרחים על פי מידת הסיכון שלהם להידבקות במחלה. המערכת, המבוססת על טכנולוגיה של בינה מלאכותית(AI) , מבצעת ניתוח אלגוריתמי של נתונים שונים הנוגעים לאזרחים, כגון מיקומם הגיאוגרפי וההיסטוריה הרפואית שלהם. בהתאם לתוצאות הניתוח, המערכת מדרגת את האזרחים לפי מידת סיכון כאשר דירוג זה משפיע על התנהלותם במרחב הציבורי.
בישראל, רשויות מדינתיות מחזיקות מספר דירוגים של פרטים המבוססים על מדדים ונתונים שונים, לרבות מדדי דירוג סוציו-אקונומיים של רשויות מקומיות, מדדי דירוג פסיכוטכני של חיילי צה"ל ומערכת לנתוני דירוג אשראי אשר אוספת נתונים לגבי התחייבות האשראי של פרטים. כחלק מהתמודדות עם נגיף הקורונה, נשקל פיתוח של מערכת לריכוז מידע על סיכויי הידבקות בקורונה של אזרחי ישראל, המתבססת על טכנולוגיה של בינה מלאכותית. שימוש במערכת זו, לרבות במסגרת התמודדות עם נגיף הקורונה, הינו מנגנון אשר בהכרח כולל פגיעה קשה בפרטיותם של אזרחים ותושבים.
הרשות מפרטת במסמך את הסיכונים לפגיעה בפרטיות בהפעלת מערכות של דירוג חברתי, וביניהם: מעקב אחר אזרחים ותושבים באיסוף מידע עליהם על-ידי רשויות המדינה ועיבודו ללא קבלת הסכמה, זליגת מידע כאשר הפעלת מערכת דירוג חברתי מחייבת אחסון של מידע רגיש תחת מאגר מידע אחד, חשש לשימוש במידע שלא למטרה שלשמה נאסף המידע כאשר המידע מצוי בידיה של חברה פרטית כחלק ממאגר נתוני ענק שמשמש אותה למחקר, ובנוסף החשש למצב שבו החלטות הנוגעות לפרט יתקבלו באופן אוטומטי, על סמך מודלים סטטיסטיים, ללא אפשרות לערער עליהן. הרשות מציינת כי שימוש הולך וגובר בטכנולוגיות מעקב עשוי להיות אפקט מנרמל, הפרטים מתרגלים למעקב ומהלך זה עשוי להוות גורם מרכזי בהפיכת החברה הישראלית ל"חברת מעקב", הן מבחינת הפגיעה באוטונומיה של אוכלוסיית מדינת ישראל והן באופייה הדמוקרטי של החברה הישראלית כולה.
הרשות מדגישה כי על פעילותן של רשויות ציבוריות העשויות לפגוע בפרטיות של פרטים צריכה לעמוד במספר תנאים: לפעול אך ורק מכוח דין, לפעול בהתאם לעקרון צמידות המטרה שלשמה נאסף המידע, על הפתרונות להיות סבירים בנסיבות העניין – לעמוד בדרישת המידתיות, להיות כאלו המאפשרים פיקוח ממשלתי ראוי, וכן להיות שקופים דיים על מנת לאפשר דיון ופיקוח ציבוריים. בנוסף לכל האמור, הרשות ממליצה שכל פתרון טכנולוגי הפוגע בפרטיותם של אזרחים ותושבים, בטרם יחל השימוש בו, יעבור תהליך של 'עיצוב לפרטיות'.
יתכנו מצבים בהם הפגיעה בפרטיות היא הכרחית, אך כפי שהרשות להגנת הפרטיות מציינת במסמך השימוש במערכות של דירוג חברתי, ודאי כאשר מדובר במערכות שלטוניות, מביא לפגיעה קשה בזכות לפרטיות. פרטיות נחשבת תנאי הכרחי לקיומה של חברה חופשית ודמוקרטית משום שהיא מאפשרת לאדם אוטונומיה להכריע בדבר נורמות חברתיות מסוימות. לפיכך, הרשות סבורה כי יש להימנע ככל האפשר משימוש בדירוג חברתי, וכי ככל שעדיין תישקל אפשרות לאמץ פתרונות מסוג זה, יהיה הכרח ליישמם על פי כל התנאים המצוינים לעיל.
