הרשות להגנת הפרטיות פרסמה מסמך המלצות חדש בנוגע לשימוש אישי בסוכני בינה מלאכותית – מערכות שאינן מסתפקות במענה לשאלות או ביצירת תוכן, אלא מסוגלות להבין מטרות, לתכנן רצף פעולות ולבצע משימות במידה מסוימת של עצמאות. סוכנים אלה עשויים לשמש לניהול יומנים ומשימות, מיון הודעות דוא"ל, מעקב אחר הוצאות, תכנון נסיעות, ניהול הרגלי בריאות וכושר ואף ביצוע רכישות והזמנות בשם המשתמש. המסמך מתייחס לשימושים אישיים בלבד ואינו עוסק בחובות החלות על עסקים וארגונים המשתמשים במערכות כאלה לצורך עיבוד מידע אישי.
הרשות מתארת את פעולת הסוכן באמצעות שלושה רכיבים מרכזיים: ה"מוח", המבוסס בדרך כלל על מודל שפה ואחראי להבנת ההוראות, לניתוח המידע ולקבלת החלטות; ה"זיכרון", המאפשר לשמור העדפות, דפוסים והקשרים מאינטראקציות קודמות; וה"ידיים", המחברות את הסוכן למערכות ולשירותים חיצוניים ומאפשרות לו לבצע פעולות בפועל. שילוב רכיבים זה הופך את הסוכן לכלי יעיל ומותאם אישית, אך גם מעניק לו יכולת לרכז, להצליב ולעבד כמויות גדולות של מידע אישי ממקורות שונים – לעיתים ללא מעורבות ישירה של המשתמש בכל שלב.
לפי המסמך, אחד הסיכונים המרכזיים הוא מתן גישה רחבה בהרבה מזו הנדרשת לביצוע המשימה. סוכן שנועד למיין הודעות חדשות עשוי לנתח שנים של התכתבויות, טיוטות ומיילים יוצאים; וסוכן לניהול יומן עשוי להיחשף לא רק לזמינות המשתמש, אלא גם לזהות המשתתפים ולתוכן הפגישות. הצטברות המידע עשויה לאפשר לסוכן להסיק מסקנות על קשרים חברתיים, העדפות צריכה, מצב בריאותי, התנהלות פיננסית והרגלים יומיומיים, וליצור פרופיל אישי מקיף שלא התקיים קודם לכן במקום אחד. מידע זה עשוי להיות רגיש, בלתי מדויק ואף בלתי ידוע למשתמש עצמו.
הסיכון מתעצם כאשר הסוכן אינו רק מנתח מידע, אלא גם פועל על בסיסו. הוא עשוי לחשוף בפני מסעדה מידע על מגבלה רפואית שהסיק בעצמו, לשלוח הודעה או לבצע הזמנה תוך מסירת פרטים שלא נועדו לצד השלישי, או למחוק מסמכים חיוניים במסגרת ניסיון לפנות שטח אחסון. לכן ממליצה הרשות לצמצם את גישת הסוכן למידע ההכרחי בלבד ולזמן הדרוש, להעדיף הרשאות קריאה וצפייה על פני עריכה, שליחה או מחיקה, ולהימנע ככל האפשר מחיבור למאגרים שלמים. עוד מומלץ להעדיף עיבוד זמני, ללא שמירת היסטוריה או שימוש במידע לצורכי אימון, ולהגביל את המידע שהסוכן רשאי למסור באמצעות ממשקים חיצוניים.
המסר העולה מהמלצות הרשות הוא כי ככל שהסוכן הופך לעצמאי, מקושר ושימושי יותר, כך גובר הצורך להציב לו גבולות ברורים. אישור אנושי לפני פעולות משמעותיות, הצגת תוכנית הפעולה מראש, תיעוד הפעולות וגיבוי המידע אינם רק אמצעי זהירות טכניים, אלא תנאי לשמירת השליטה בידי המשתמש. בעידן שבו סוכן דיגיטלי מסוגל לקרוא, להסיק, לשלוח ואף למחוק בשם המשתמש, האחריות אינה מסתכמת עוד בבחירת הכלי הנכון – אלא גם בקביעת הגבולות שבתוכם הוא רשאי לפעול.
