חברי ועדה נכבדים,
אנו מבקשים להתייחס לגילויים האחרונים בנוגע לשימוש החורג במידע שהושג באמצעות תכנת סייפן. כפי שנסביר, ראוי להסתכל על הגילוי האחרון בהקשר רחב, והוא השימוש הגובר של משטרת ישראל באמצעים טכנולוגיים בכדי להפעיל סמכות שלטונית. מגמה זו דורשת איזון בין האינטרסים על הכף - ביטחון לאומי וחדשנות טכנולוגית, אל מול הרצון לשמור מפני ניצול לרעה של כוח שלטוני המפר את זכויות הפרט. לשם כך, אנו מציעים מיסוד של שני מנגנוני פיקוח: 1) פיקוח בשלב הייצור של טכנולוגיות; 2) פיקוח מעת לעת על ידי הכנסת.
מאת ד"ר טל מימרן
חוות דעת עבור ועדת החוקה, חוק ומשפט בראשות חבר הכנסת שמחה רוטמן | 11.06.2023
1. רקע
מספר אירועים לאחרונה מייצרים תחושה מדאיגה, והיא שמשטרת ישראל פועלת כמעט ללא הגבלה בבואה להכניס לשימוש ולהפעיל טכנולוגיות עם השפעה מרחיקת לכת על חיינו. אין ספק, חשוב כי משטרת ישראל תהנה מגישה לטכנולוגיה מתקדמת אשר תאפשר להגן על הציבור. ועדיין, לא ניתן לקבל הפעלת כוח שלטוני נטול בקרה, כאשר בפועל משטרת ישראל הופכת את אזרחי מדינת ישראל לשפני ניסוי של טכנולוגיות מעקב.
סיבה מרכזית להתעוררות הדיון הציבורי, היא סדרה של דיונים שהתקיימו בוועדת החוקה, חוק ומשפט. ראשית, סדרת דיונים בנושא פרשת פגסוס-סייפן, ולאחרונה דיון בנושא המערכת לאיתור חשודים בפשיעה בנתב"ג.
ביחס לפגסוס-סייפן, למדנו כי משטרת ישראל הכניסה לשימוש רוגלה עם יכולות בלתי רגילות, וזאת מבלי שהמערכת והסכנות העולות משימוש בה הובנו לאשורן. עוד למדנו כי הפיקוח של הפרקליטות על ההכנסה לשימוש של הרוגלה, וגם על הפעלתה, לקה בחסר. משבר זה התעורר בגלל שאין בישראל הליכי פיקוח על טכנולוגיות עם יישום ביטחוני, כמו רוגלות, כאשר אם יש פיקוח כלשהו הוא מגיע רק בשלב מאוחר, כאשר ישנו קושי לבצע שינויים מהותיים בטכנולוגיה. בהתאם, כפי שנסביר להלן, ראוי למסד מנגנון שיפקח על פיתוח טכנולוגיות עם יישום ביטחוני, אשר יורכב ממומחים במספר תחומים: אתיקה, כלכלה, ביטחון, משפט ועוד.
באשר למערכת לאיתור חשודים בנתב"ג, נתגלה כי מזה שנים מופעלת בנתב"ג מערכת שרב הנסתר הגלוי לגביה. לא ברורים לנו הקריטריונים לפיהם היא פועלת, שיעורי ההצלחה שלה, ואופן הפיקוח על הפעלתה. כמו כן, לא ברור מהיכן נשאב המידע האישי המנותח על ידי המערכת, ובפרט האם הוא מועבר ממאגרים ממשלתיים בלבד או גם מאגרים פרטיים, והאם מדובר במידע אישי שניתנה הסכמה להעברתו.[1] לבסוף, המערכת מנציחה ומגבירה את ההסתייעות בפרופיילינג בנתב"ג, שיטה אשר לא הוכחה כיעילה אך פוגעת בזכויות אדם ואולי אף חוטאת למטרה שלשמה היא מיושמת.[2] קשה לקבל מצב בו אלגוריתם מקבל החלטה על בסיס נתונים שאינם ידועים, דרך הליך קבלת החלטות שאינו גלוי, ומבלי להסביר מדוע אדם – לעיתים נורמטיבי לחלוטין – צריך להיות מעוכב לחיפוש.
2. הגילויים האחרונים:
כעת, שני גילויים נוספים מתווספים למגמה המדאיגה. ראשית, הפרקליטות אישרה לראשונה כי נעשה שימוש לצורכי חקירה בחומרים שנשאבו בניגוד לחוק, במסגרת תיק הרצח הכפול של האחים שאפע וסלאח אבו-חוסיין. הראיות מתייחסות לסרטון מצלמת אבטחה, שבו נראים שלושה נאשמים נפגשים שעות ספורות לאחר החיסול עם מי שלכאורה הזמין אותו.[3] השגת הסרטון נעשתה תוך חדירה ושאיבת מידע ממכשיר הסלולרי של אביו של אחד מן החשודים. על רקע גילוי זה, הוחלט למשוך את הראיות אשר הושגו באמצעות רוגלה תוך חריגה מצו בית המשפט.[4] גילויים אלו סותרים את הנטען בדוח מררי ואת הדיווח של הפרקליטות בפני ועדה זו.
שנית, לאחרונה חשף תומר גנון כי משטרת ישראל רכשה מחברת הסייבר הישראלית רייזון תוכנה שמאפשרת לאתר מיקום ומסלול תנועה של משתמשי סלולר.[5] נראה כי רכישת כלי זה לא הובאה לבחינה מקדימה או לאישור של הייעוץ המשפטי לממשלה. זאת, בניגוד להמלצות דו"ח מררי, אשר הבהיר כי על המשטרה לוודא כי טרם רכישה של מערכת טכנולוגית עם יכולת חדשה מבחינת איסוף מידע יש לקבל את אישור הייעוץ המשפטי לממשלה, בשל הסיכון של פגיעה נרחבת בזכויות יסוד.[6] לשם קבלת אישור זה, על משטרת ישראל להציג את כלל מאפייני המערכת והתנאים להפעלתה, לצד הסבר באשר למקור הסמכות עליו נשענת המשטרה.
לקריאה נוספת:
3. המענה המוצע - מנגנוני פיקוח:
הגילויים האחרונים מעידים על חשיבות הגברת הפיקוח על אופן ההכנסה לשימוש של טכנולוגיות חדשות, על ידי משטרת ישראל, במטרה להפעיל סמכות שלטונים כנגד אזרחי ישראל. חשיבות זו מתחדדת על רקע העובדה שישנו פיתוי רב יותר לעשות שימוש בטכנולוגיות באקלים רגיש פוליטית וביטחונית – כמו במחוזותינו.[7] בהתאם, ישנה חשיבות לקיומם של מנגנוני איזון. להלן נציג שני מנגנונים אפשריים:
3.1. פיקוח בשלב הפיתוח
סעיף 36 של הפרוטוקול הראשון של אמנת ג'נבה,[8] מקים את החובה לערוך בדיקת חוקיות לפי המשפט הבינלאומי לנשקים טרם השימוש או הרכישה שלהם, בין אם ממדינה או מחברה פרטית.[9] חובה זו חלה גם בזמני שלום, ובהתאם היא גם מעוגנת בדיני זכויות האדם, וגם בזמני לחימה. לאור האתגרים הייחודיים של טכנולוגיות סייבר מתקדמות לאיסוף מידע, אשר מיושמות גם על ידי צבאות וגם ברמת השיטור הפנימי, מנגנון זה מקבל חשיבות מוגברת.[10]
הדרישה מכוח סעיף 36 כוללת כלי סייבר התקפיים אשר יכולים לחדור למערכות מחשב, סלולרי, מכשירי Internet of Things ועוד.[11] מדובר, אפוא, ביצירה של תמריץ והגברת הציות לנורמות המשפט הבינלאומי באופן שלא פוגע כלכלית בצורה אנושה במפתחים, שכן הדבר נעשה כבר במהלך הפיתוח הראשוני ולפני שהושקעו כספים בפיתוח מתקדם.[12] בעוד ישראל אינה קיבלה על עצמה את הפרוטוקול הראשון לאמנות ג'נבה, יש לציין כי ישנן מדינות אחרות שאינן חברות בפרוטוקול אך מקיימות מנגנון בדיקה שכזה (הדוגמה הרלוונטית ביותר היא ארצות הברית). בנוסף, גם מכוח דיני זכויות האדם ישנה חובה להעריך מראש את הסכנות האפשריות של כלי נשק או טכנולוגיה עם יישום צבאי. בהתאם, ישראל עדיין מחויבת בפיקוח מסוג זה למרות שהיא לא חברה בפרוטוקול הראשון לאמנות ג'נבה.[13]
כיום, טכנולוגיות נבחנות רק בשלב מאוחר, כאשר ישנו קושי לבצע שינויים מהותיים בטכנולוגיה, בין היתר בשל שיקולים כלכליים של פיתוח הטכנולוגיה והתועלת הכלכלית של מתן הרישיון לטכנולוגיה כמות שהיא. בהתאם, ראוי למסד מנגנון פיקוח על טכנולוגיות עם יישום צבאי בישראל, בתור שלב מקדים לזה של מתן רישיון שימוש, שיווק או ייצוא. וועדה שכזו צריכה להיות מורכבת מגורמים מגוונים במספר תחומים:אתיקה, כלכלה, ביטחון, משפט ועוד. מנגנון שכזה יהיה ביטוי לעמידה בחובותיה של ישראל דוגמת חובת החריצות הנאותה, הנובעת מדיני זכויות האדם הבינלאומיים. עמדה זו נתמכת גם בעמדת הדווח המיוחד של האו"ם לענייני חופש ביטוי, בדו"ח המקיף האחרון שכתב על טכנולוגיות מעקב.[14]
3.2. פיקוח פרלמנטרי על ידי הכנסת
אנו סבורים שיש מקום להגדיל את הפיקוח על פיתוח של טכנולוגיות עם שימוש צבאי, גם אם הפיתוח המקורי נעשה למטרות ייצוא ומכירה. הרי, האירועים האחרונים מעידים כי טכנולוגיות אחרות שמיוצרות לשם שיווק ומכירה לא יגיעו לשוק הישראלי, ובפרט לידי משטרת ישראל.
אנו מציעים כי תוקם ועדת משנה מיוחדת, תחת ועדה חוקה. אמנם, ועדה זו הקימה לאחרונה ועדת משנה לבחינת ממצאי הצוות לבדיקת פרשת פגסוס-סייפן, דו"ח מררי, ובחינת יישום המלצותיו. יוזמת הקמת הוועדה היא מהלך חשוב, ללא ספק, ויש לברך על רצונה של ועדת חוקה לקחת חלק פעיל יותר בפיקוח פרלמנטרי. ועדיין, צעד זה אינו מספק בפני עצמו – במיוחד מאחר והוועדה אינה בעלת אופי קבוע, לצד העובדה שפעילותה חוסה תחת סודיות.
שוק הרוגלות הוא שוק שסובל מתת-פיקוח, ונדרש יותר מהצעד הנוכחי על מנת לוודא בטווח הארוך שמירה על אינטרסים כלכליים ותדמיתיים של מדינת ישראל, וזאת לצד קידום הגנה מיטבית על שיקולי זכויות אדם. כידוע, תעשיית הסייבר ההתקפי בישראל מהווה חלק משמעותי מסל מוצרי הייצוא הצבאי עליהם נסמכת, בין היתר, כלכלת ישראל.[15] כמו כן, תדמיתה של ישראל כמעצמה טכנולוגית חשובה גם בכדי לקדם יחסים דיפלומטיים עם מדינות וגם בכדי לשמר מאזן הרתעה מול גורמי אויב.
כיום, הרגולטור העיקרי אשר מפקח על שוק הסייבר ההתקפי (ובפרט רוגלות) הוא משרד הביטחון, אשר אחראי על מתן רשיון שיווק וייצוא של מוצרים אלה, אך יכולתו לפקח מוגבלת מכובעו הכפול (מפקח ולקוח פוטנציאלי) ובשל תופעות דוגמת הדלת המסתובבת (מעבר של בכירים ברגולטור לתעשייה, ולהיפך). במישור הטכנולוגי, קשה במיוחד לפקח על ייצור, שיווק או שימוש ברוגלות מאחר ואלו יכולות להיות משוכפלות ולפעול ברחבי העולם בו זמנית - להבדיל מכלי נשק רגילים שמוגבלים למיקום פיזי אחד. בנוסף, עובד ממורמר של חברה טכנולוגית יכול לנסות ולמכור מוצר בשוק השחור, וניתן להעתיק קוד, או לפתח תוכנות נגזרות שיכולות להביא לפגיעה זדונית.
ועדת המשנה שהוקמה היא צעד חשוב, במישור המיידי, אך לא ניתן לעצור בנקודה הנוכחית. אמנם, חברי הכנסת בישראל נמצאים תחת עומס עבודה משמעותי – כאשר עליהם לחלק את זמנם בין מספר וועדות ולצד זה להשתתף בהצבעות, שאילתות והצעות לדיון מהיר, וליזום חקיקה פרטית. אנו מכירים באתגר של הוספה של ועדת משנה מיוחדת, ואף תמכנו בהסרת מגבלות מספריות מהחוק הנורווגי מתוך הבנה שהגדלת מספר חברי הכנסת הפנויים לעבודה פרלמנטרית הוא שיקול ממעלה ראשונה. ועדיין, ישנה חשיבות בפיקוח בעל אופי קבוע יותר, שלא יהיה תלוי בגילוי כזה או אחר, ואשר יהיה גלוי לציבור ככל הניתן (בשל החשיבות של שקיפות לשם חיזוק אמון הציבור).
4. סיכום
למרות הגילויים המדאיגים מן העת האחרונה, נראה כי גישתה של משטרת ישראל עד כה היא הדיפה של טענות כנגד שימוש לרעה בכוח שלטוני, ואף ניסיון לקעקע את מי שמעלה אותן. זוהי גישה מדאיגה, אשר יכולה להעיד על תרבות ארגונית בעייתית שלוקה בהעדר אחריותיות וחוסר נכונות לקבל ביקורת או פיקוח. אחרי שנים בהן מדינת ישראל התנסתה עם טכנולוגיות על חשבון זכויות הפרט, לעיתים עם בסיס חוקי רעוע, אם בכלל, הגיע הזמן להתעורר. יש להגדיר מסלול מחדש ולהבהיר – בעוד הטכנולוגיה היא מנוף אדיר עם חשיבות עצומה, הפעלת כוח הולכת יד ביד עם הליכי פיקוח, ביקורת, ודיון ציבורי לגבי הגבולות הראויים שבאים להגן על זכויות הפרט.
ד״ר טל מימרן ראש תכנית, תַּכְלִית – המכון למדיניות ישראלית
ד"ר טל מימרן
הוא ראש תוכנית "אמנה חברתית לעידן הדיגיטלי" במכון תַּכְלִית, חוקר ומרצה בתחומי המשפט הבינלאומי והסייבר.
לקריאת חוות הדעת במקור >>
[1] ביקורת בנושא שיתוף במידע בין רשויות, לעיתים ללא הליכים מוסדרים או הסמכה חוקית לעשות כן, הוצגה בעבר על ידי הממונה על יישומים ביומטריים מטעם מערך הסייבר. ר' הממונה על היישומים הביומטריים, דו"ח מספר 12 (18 במאי, 2022). ישנו חשש אמיתי של הסתמכות-יתר על המערכת לאיתור חשודים בקבלת ההחלטות, ללא מעורבות אנושית מספקת או יכולת לקבל הסבר על אופן גיבוש המסקנות לגבי חשוד כזה או אחר. לדיון, ר' Zana Buçinca, Maja Barbara Malaya, and Krzysztof Z. Gajos, To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making Proceedings ACM Hum.-Comput. Interact. Vol.5, 188, pp.188:4-5 (April 2021)..
[2] לדיון, ר' Bernard E. Harcourt, The Shaping of Chance: Actuarial Models and Criminal Profiling at the Turn of the Twenty-First Century, 70 U. Chi. L. Rev. 105 (2003). למעשה, יש הטוענים כי גם אם הוכח ששימוש בפרופיילינג יעיל, ישנם שיקולים אחרים – ובפרט הגנה על זכויות הפרט. כך, ראוי ליישם מדיניות בידוק אחידה, גם אם זו הוכחה כפחות יעילה, בשם הרצון לקדם ערכים של שוויון, כבוד האדם ופרטיות. להרחבה, ר' ברק מדינה, שמירה על ביטחון הציבור: הפליה היא אסורה גם אם היא יעילה, המשפט ברשת 17, 2013.
[3] תומר גנון, הפרקליטות בוחנת בדיקת כל התיקים שבהם השתמשו ברוגלה, כלכליסט (06.06.2023).
[4] חן מענית, הפרקליטות משכה ראיות מתיק רצח כי הושגו ראיות על ידי שימוש ברוגלות שלא כדין, הארץ (05.06.2023).
[5] תומר גנון, בניגוד להנחיות מררי: המשטרה לא רכשה תוכנת מעקב חדשה ללא אישור היועמ"שית, כלכליסט (28.05.2023).
[6] דין וחשבון הצוות לבדיקת האזנות סתר לתקשורת בין מחשבים (2022), עמוד 67. לביקורת על הדו"ח, ר' רועי פלד "שתי הערות ושתי טענות בעקבות קריאה בדוח מררי" " ICON-S-IL Blog (9.10.2022).
[7] ר' לעניין זה למשל טל מימרן וליאור וינשטיין "הממשלה מפקירה את הפרטיות" העין השביעית (29.10.2022) https://www.the7eye.org.il/469329 ; גיל גן-מור "השב"כ יגן על הדמוקרטיה?!"ICON-S-IL (30.1.2023); בג"ץ 2109/20 עו"ד שחר בן מאיר נ' ראש הממשלה (26.04.2020).
[8]§36 Protocol additional to the Geneva Conventions of 12 August 1949, and relating to the protection of victims of international armed conflicts (Protocol I) (1977), 1125 U.N.T.S. 3.
[9] Isabelle Daoust, Robin Coupland & Rikke Ishoey, New Wars, New Weapons? The Obligation of States to Assess the Legality of Means and Methods of Warfare, 84 International Review of the Red Cross 345, 348 (2002). (להלן: "מלחמות חדשות, נשקים חדשים?")
[10] International Committee of the Red Cross, A Guide to the Legal Review of New Weapons, Means and Methods of Warfare: Measures to Implement Article 36 of Additional Protocol I of 1977, 5 (2006), https://shop.icrc.org/a-guide-to-thelegal-review-of-new-weapons-means-and-methods-of-warfare-pdf-en.
[11] לדיון באשר להיקף תחולת הסעיף, ר' : William H. Boothby, Weapons and the Law of Armed Conflict 4 (2009).
[12] Justin McClelland, The review of weapons in accordance with Article 36 of Additional Protocol I International Review of the Red Cross no.850 vol.85 397,402 (2003).
[13] Permanent Mission of Israel to the United Nations, Status of Protocols Additional to the Geneva Conventions of 1949 and relating to the protection of victims of armed conflicts p.3 (20.10.2020). לדיון רחב יותר, ר' Tal Mimran and Yuval Shani, Integrating Privacy Concerns in the Development and Introduction of New Military or Dual-Use Technologies in The Rights to Privacy and Data Protection in Times of Armed Conflict 29, 36 (Russell Buchan and Asaf Lubin (Eds.)2022). (להלן: "מימרן ושני").
[14] Human Rights Council Forty-first session 24 June−12 July 2019 Agenda item 3 Promotion and protection of all human rights, civil, political, economic, social and cultural rights, including the right to development; Surveillance and human rights Report of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression; A/HRC/41/35; Recommendations 66. (להלן: "המלצות דווח האו"ם בדו"ח המיוחד על טכנולוגיות מעקב").
[15] הסכום המוערך של הייצוא הביטחוני בשנת 2020 עמד על כ-8 מיליארד דולרים, כאשר הסכום אף עלה בשנת 2021 לשיא של 11.5 מיליארד דולרים. מתוך סכום זה, כ-10% מההכנסות מבוססות על טכנולוגיות סייבר. ר' מערכת אתר משרד הביטחון, "חוזי הייצוא הביטחוני ב-2020: 8.3 מיליארד דולר" אתר משרד הביטחון (1.6.2021); מערכת אתר משרד הביטחון, "2021: שנת שיא בייצוא הביטחוני של ישראל" אתר משרד הביטחון (12.4.2022).