הפרלמנט האירופי אישר (13.03.2024) את תקנות הבינה המלאכותית (AI ACT). המדובר בחקיקה הראשונה מסוגה בעולם ובאה להסדיר את הפיתוח ההפעלה והשימוש במערכות בינה מלאכותית בתחומי האיחוד. זאת לאור בהתפתחות הדרמטית של תחום הבינה המלאכותית וההבנה כי היא עלולה להשפיע לרעה על זכויות אדם.

החקיקה, שמנסה לאזן בין חדשנות והגנה על הפרט, עברה היום בפרלמנט האירופי ומטילה שורה של חובות   (שקיפות, דוקומנטציה, אמינות ודיוק מידע, אבטחת מידע וכו..) על חברות המפתחות, מפיצות ומשתמשות במערכות כאלו בהתאם לרמת הסיכון הנובע מאותה מערכת, למשל בתחום הרפואה. החוק גם אוסר על שורה של מערכות בינה מלאכותית לאור הסכנה על זכויות אדם.

חקיקה זו תשפיע על המשך התפתחות התחום וקובעת סנקציות כספיות גבוהות מאוד לחברות שיפרו את הרגולציה. החקיקה, שעוד צריכה לעבור 2 שלבים פורמליים ולאחר מכן תכנס לתוקף באופן הדרגתי, עלולה להשפיע גם על חברות ישראליות המפתחות והמפיצות מערכות AI באירופה מכיוון, שבדומה ל-GDPR (תקנות הגנת המידע האירופאיות), גם לחקיקה זו יש תחולה אקס טריטוריאלית על חברות שמחוץ לאיחוד האירופי.

הפוסט באירופה עובדים. ה-AI ACT אושר. הופיע ראשון בדן חי ברשת

"מעמד התאימות (Adequacy) ניתן על ידי האיחוד האירופי לפי תקנה 45 לתקנות ה-GDPR, למדינות שרמת הגנת המידע בהן תואמת לרמת ההגנה על מידע אישי הנוהגת במדינות האיחוד האירופי. המעמד ניתן לישראל עוד בשנת 2011 ולעוד מספר מצומצם של מדינות ומאפשר העברת מידע אישי באופן פשוט וללא מכשולים רגולטוריים, משפטיים וטכנולוגיים נוספים מאירופה לישראל. תהליך הבחינה מחדש של מעמדה של מדינת ישראל החל ב-2016, והיום הוחלט על ידי הנציבות האירופית כי ישראל תשמור על מעמדה בזכות התפתחויות שונות במערכת המשפט הישראלית מאז קבלת המעמד בשנת 2011, לרבות תיקונים בחוק, פסיקה, הנחיות הרשות להגנת הפרטיות וכן התקנת תקנות הגנת הפרטיות (הוראות לעניין מידע שהועבר לישראל מהאזור הכלכלי האירופי), התשפ"ג-2023 אשר יחד העלו את רמת הגנת המידע בישראל."

הפוסט ישראל שומרת על החלטת התאימות להעברת מידע מהאיחוד האירופי. הופיע ראשון בדן חי ברשת

הצעת החוק קובעת מסגרת רגולטורית אשר תחול על כל מערכות הבינה המלאכותית, מבלי לתת חשיבות לגודל הארגון או לענף שבו הוא פועל, במטרה להבטיח שימוש בטוח, אתי ומניעת הפליה.

במסגרת זו, הצעת החוק עוסקת בסוגיות רבות הכוללות, בין היתר, את הסוגיות שלהלן:

• בטיחות: החוק דורש ממפתחי מערכות בינה מלאכותית להעריך את הסיכונים הפוטנציאליים הקשורים לשימוש במערכות אלו.
• אפליה: החוק אוסר על שימוש במערכות בינה מלאכותית המפלות אנשים על בסיס גיל, מין, גזע או כל גורם אחר.
• פרטיות: החוק דורש ממפתחי מערכות בינה מלאכותית להגן על הפרטיות של המשתמשים במערכות אלו.

כמו כן, הצעת החוק מתייחסת באופן קונקרטי ל-״Generative AI״,  תת תחום בטכנולוגיית הבינה המלאכותית, אשר עוסק בפיתוח מודלים שיכולים ליצור תוכן חדש, כמו תמונות, טקסט, אודיו או וידאו. מודלים גנרטיביים עושים זאת על ידי למידת התפלגות של נתוני קלט, ואז שימוש בהתפלגות הזו כדי ליצור דוגמאות חדשות.

החוק הבריטי המוצע עשוי להוביל לכך שמדינות נוספות בעולם יאמצו רגולציה דומה, דבר שעשוי להקשות על חברות עולמיות ואף חברות ישראליות העוסקות בפיתוח ושיווק מערכות בינה מלאכותית.

הפוסט הצעת החוק להסדרת AI בבריטניה הופיע ראשון בדן חי ברשת

המסמך של הרשות להגנת הפרטיות מבהיר כי על אף היתרונות הנובעים כתוצאה משימוש במוצרי IOT במרחב הביתי, ישנם סיכונים רבים הנוגעים לפרטיות המשתמשים, ובנוסף גם לנכנסים והיוצאים משערי המרחב הביתי החכם. זאת בהינתן כי טכנולוגיית ה-IOT כרוכה באיסוף מידע רב אשר כולל, בין היתר, הרגלי צריכה, שגרת יום, ואף מידע רגיש יותר כמו נתוני מיקום. הרשות מבהירה כי קיימת חשיפה גבוה לפגיעה בפרטיות, וזאת נוכח פוטנציאל דליפת המידע והגעתו לגורמים לא רצויים אשר יכולים להשתמש בו לצרכים שונים.

במטרה להתמודד עם סיכונים אלו, מסמך הרשות מציג מספר דגשים והמלצות לחברות המספקות שירותי ומוצרים IOT ביתיים, וכן המלצות למשתמשים במוצרים אלו.

להלן עיקרי ההמלצות הנוגעות לחברות המספקות שירותי ומוצרי "בית חכם":

• יש לאפשר לנושאי המידע לממש את זכות העיון במידע אודותם מכוח חוק הגנת הפרטיות, התשמ"א-1981;
• יש לאסוף מידע בהתאם למטרות שלשמן התקבלה הסכמת נושא המידע מבעוד מועד;
• הטמעת עקרונות ותהליכים המבוססים על גישת ה-Privacy by Design (הנדסת הפרטיות);
• במטרה להתמודד אל מול סיכוני אבטחת המידע, מומלץ להשתמש בשיטות הצפנה אשר מסייעים להגן מפני סיכוני דליפת מידע.
• יש לעדכן את המשתמשים בכל הנוגע לסיכוני אבטחת המידע ואפשרות הפגיעה בפרטיותם עוד בטרם רכישת מוצרי ה-IOT, וכן לקבוע נהלים הנוגעים לעדכוני גרסאות וסיסמאות.

להלן עיקרי ההמלצות הנוגעות למשתמשים:

• להימנע מהתקנת מוצרי IOT בחדרי שינה רחצה;
• להגדיר סיסמאות חזקות, מבלי לכלול נתונים ידועים או גלויים כמו תאריך לידה וכיו"ב;
• יש להימנע מלקשר מערכות אלו לחשבונותיכם שברשתות חברתיות בעת התקנת מערכות בית חכם;
• לבצע עדכוני תוכנה למוצרי ה- IoT הביתיים בהתאם להוראות היצרן ולכבות את המכשירים כאשר לא נעשה בהם שימוש;
• לצמצם שימוש במכשירי IOT מרחוק;
• כמו כן, מומלץ להתקין תוכנת אנטי וירוס על מוצרי ה-IoT בטרם חיבורם לרשת.

ה-IOT הוא למעשה רשת של מכשירים חשמליים, פיזיים, חכמים המסוגלים לתקשר זה עם זה ובכך להשפיע במידה רבה על הסביבה. תקשורת זו מתאפשרת באמצעות חיישנים אשר מאפשרים לאותם מכשירים לאסוף מידע מהסביבה, למשל איסוף נתוני תנועה וטמפרטורה, ולהשתמש במידע הנאסף לצורך מטרות שונות.

לסיכום, פרסום הרשות מדגיש כי יש לנקוט אמצעי זהירות כדי להתמודד עם הסיכונים אשר נובעים כתוצאה מהתגברות היקף השימוש במוצרי IOT.

הפוסט הרשות להגנת הפרטיות מפרסמת מסמך הנחיות לפעולה בנושא IOT הופיע ראשון בדן חי ברשת

במסגרת הכינוס הובהר כי יש לגבש מדיניות מוסכמת אשר תסדיר את כל הנוגע להתמודדות המדינות אל מול אתגרי הסייבר, ולאמץ המלצות של ה-FATF (Financial Action Task Force), כוח המשימה הפיננסי. גיבוש המדיניות נועד להתוות את גישת המדינות להתמודדות אל מול כלי הטכנולוגיה החדשניים, ובפרט בכל הנוגע לנכסים דיגיטליים וספקי שירותים קשורים לנושא, הכל במטרה לאפשר יכולת שיבוש מערכות תשלומים, מערכות שבאמצעותן מועבר תשלום לתוקפים.

על רקע זה, גובשה רשימה שחורה של ארנקים דיגיטליים אשר מעורבים בתוכנות כופר, ואף נכללה התחייבות לסייע למדינות החברות ב-CRI, אשר נפגעו ממתקפת כופרה.

כאמור, המדינות החברות ב-CRI הדגישו את חשיבות הלחימה כנגד אתגרי הכופרה, והובהר כי לצורך כך נדרש שיתוף הפעולה בין המדינות השונות. זאת כדי להגן על חברות מפני איומים אלו, היות וכלל סוגי החברות חשופות לסיכוני הכופרה, הן חברות הפועלות במגזר הפרטי מקומי והן חברות הפועלות בזירה הבינלאומית.

המדיניות המשותפת כוללת, בין היתר, שיתוף פעולה אשר במסגרתו ישראל תחנוך את ירדן בכל הנוגע לפיתוח יכולות, וזאת תוך שימוש בכלים המבוססים טכנולוגיית בינה מלאכותית אשר נועדה להתמודד עם איומי הכופרה. בנוסף, המדיניות כוללת השקת פלטפורמות שונות שמטרתן לאפשר שיתוף מהיר של מדדי איומים ובניית תשתית לטיפוח התקשורת בין מדינות החברות ב-CRI.

לסיכומו של דבר, נראה כי מדינות רבות מבינות שעליהן להתאחד על מנת שיוכלו להתגונן מפני אתגרי הסייבר.

הפוסט ישראל משתתפת ביוזמה בינלאומית כנגד כופרות הופיע ראשון בדן חי ברשת

בהתאם להודעת משרד המשפטים, מאז פרוץ המלחמה ב-7 באוקטובר, פועלת הפרקליטות להסרת תכנים, חשבונות, דפים ומשתמשים ברשתות החברתיות השונות, המפיצים תכני הסתה לאלימות ולטרור המזוהים עם ארגון הטרור חמאס, המפרסמים דברי שבח למעשי טרור, והמציגים תמונות מבזות או משפילות של הרוגים, פצועים וחטופים מאזור עוטף עזה. הפעילות מתבצעת בשיתוף פעולה הדוק עם הגורמים הרלוונטיים בצה"ל, בשב"כ, במערך הסייבר הלאומי, במשרד לביטחון לאומי ובמשטרת ישראל.

במסגרת הפעילות, העבירו גורמי הביטחון עד למועד ההודעה אשר פורסמה מטעם משרד המשפטים, למעלה מ-6,200 תכנים ופרסומים המכילים תכני טרור אסורים, שהועלו על-ידי תומכי ארגון הטרור חמאס.

ניתן לראות כי 90% מכלל הבקשות לפלטפורמות של חברת מטא – פייסבוק ואינסטגרם – התקבלו והתכנים הוסרו, וכי 85% מהפניות לטיקטוק התקבלו אף הן והתכנים הוסרו.

ברשת טוויטר, נעשה כעת מאמץ במשרד המשפטים לקדם קשר מול החברה על מנת להעלות את מידת היענותה לבקשות. יצוין, כי נפח הפעילות לגבי תכנים בלתי-חוקיים ברשתות החברתיות עלה בכ-1,000% פחות (פי עשרה ויותר).

נוסף על הפעילות האמורה, מחלקת הסייבר בפרקליטות המדינה פנתה בבקשה להסרת האשטאגים (תג המשמש לסימון וקיטלוג נושאים ברשתות החברתיות) שנוצרו עם פרוץ המלחמה ומזוהים עם ארגון הטרור חמאס. בין היתר, הוסרו האשטאגים שצורפו לעשרות רבות של סרטונים פרו-חמאסיים, וזכו לצפיות של מאות מיליוני משתמשים. כן הוגשה פנייה לרשת טיקטוק להסרת מספר סרטונים שבהם שירי הלל לחמאס, המשבחים את מתקפת הטרור הנרחבת שבוצעה ב-7 באוקטובר. השירים שימשו כסאונד בטיקטוק לכמה אלפי סרטונים, וטיקטוק הסירה את הסרטונים הללו.

פעילות זו מצטרפת למאמץ של הפרקליטות לטפל במישור הפלילי במי שמפרסמים – במפורש ואף במשתמע – גילויי תמיכה באויב ובמעשיו הנפשעים כלפי אזרחי המדינה, בשעה שחיילי צה"ל ואנשי כוחות הביטחון נלחמים באויב הרצחני. בתחום זה, הוציא פרקליט המדינה הנחיות מפורטות.

מנהל מחלקת הסייבר בפרקליטות המדינה, ד"ר חיים ויסמונסקי: "אנו נמצאים במהלכה של פעילות שיא חסרת תקדים, ביחד עם השותפים מקרב גורמי הביטחון, במטרה לצמצם את התפוצה של התכנים המסכנים את ביטחון המדינה. תכנים שיש בהם דברי שבח והסתה לטרור עלולים לעודד את התרחבות מעגל האלימות והטרור, ולפיכך אנחנו מרכזים מאמצים מיוחדים בנושא. נוסף על כך, במלחמה הנוכחית אנו מתמודדים ונאבקים לראשונה בהפצת סוג חדש של תכנים אסורים, שמעלים גורמי חמאס ותומכיהם, הכוללים תמונות וסרטונים של גופות, חלקי גופות, פצועים וחטופים במצבים משפילים ומבזים. מדינת ישראל קוראת לכל הרשתות החברתיות לשתף פעולה באופן מלא עם פניותינו, על מנת למנוע תרומה עקיפה של הפלטפורמות להתרחבות פעילות הטרור".

הפוסט פרקליטות המדינה פועלת להגנת סייבר במלחמה הופיע ראשון בדן חי ברשת