בעוד הטכנולוגיה היא מנוף אדיר עם חשיבות עצומה, הפעלת כוח הולכת יד ביד עם הליכי פיקוח, ביקורת, ודיון ציבורי לגבי הגבולות הראויים שבאים להגן על זכויות הפרט
מאת ד"ר טל מימרן
מקור ראשון | 29.05.2023
לאחרונה התרחשו מספר אירועים שגרמו לתחושה מדאיגה, והיא שמשטרת ישראל פועלת כמעט ללא הגבלה בבואה להכניס לשימוש ולהפעיל טכנולוגיות עם השפעה מרחיקת לכת על חיינו. חשוב שמשטרת ישראל תהנה מגישה לטכנולוגיה מתקדמת אשר תאפשר להגן על הציבור, אך לא ניתן לקבל הפעלת כוח שלטוני נטול בקרה, כאשר בפועל משטרת ישראל הופכת את אזרחי מדינת ישראל לשפני ניסוי של טכנולוגיות מעקב.
סיבה מרכזית להתעוררות הדיון הציבורי, היא סדרה של דיונים שהתקיימו בוועדת החוקה, חוק ומשפט. ראשית, סדרת דיונים בנושא פרשת פגסוס-סייפן, ולאחרונה דיון בנושא מערכת מבוססת בינה מלאכותית לאיתור חשודים בפשיעה בנתב"ג. בשלב הבא, תדון ועדת החוקה בעין-הנץ, עוד כלי טכנולוגי מעורר מחלוקת.
ביחס לפגסוס-סייפן, למדנו כי משטרת ישראל הכניסה לשימוש רוגלה עם יכולות בלתי רגילות, וזאת מבלי שהמערכת והסכנות העולות משימוש בה הובנו לאשורן. עוד למדנו כי הפיקוח של הפרקליטות על ההכנסה לשימוש של הרוגלה, וגם על הפעלתה, לקה בחסר. משבר זה התעורר בגלל שאין בישראל הליכי פיקוח על טכנולוגיות עם יישום ביטחוני, כמו רוגלות, אם יש פיקוח כלשהו הוא מגיע רק בשלב מאוחר, כאשר ישנו קושי לבצע שינויים מהותיים בטכנולוגיה. בהתאם, ראוי למסד מנגנון שיפקח על פיתוח טכנולוגיות עם יישום ביטחוני, אשר יורכב ממומחים במספר תחומים: אתיקה, כלכלה, ביטחון, משפט ועוד.
באשר למערכת לאיתור חשודים בנתב"ג, נתגלה כי מזה שנים מופעלת בנתב"ג מערכת שרב הנסתר הגלוי לגביה. לא ברורים לנו הקריטריונים לפיהם היא פועלת, שיעורי ההצלחה שלה, ואופן הפיקוח על הפעלתה. קשה לקבל מצב בו אלגוריתם מקבל החלטה על בסיס נתונים שאינם ידועים, דרך הליך קבלת החלטות שאינו גלוי לציבור, ומבלי להסביר מדוע אדם – לעיתים נורמטיבי לחלוטין – צריך להיות מעוכב לחיפוש.
בנוסף, המערכת מנציחה ומגבירה את ההסתייעות בפרופיילינג בנתב"ג, שיטה אשר לא הוכחה כיעילה אך פוגעת בזכויות אדם ואולי אף חוטאת למטרה שלשמה היא מיושמת. על כן, חשוב לפעול בכדי להקים מאסדר לאומי בנושא יישומים של בינה מלאכותית, אשר יוכל לפקח על הכנסה לשימוש של מערכות בינה מלאכותית בישראל, ולאזן בין הצורך הביטחוני לבין הפגיעה בזכויות הפרט.
לקריאה נוספת:
בשבועות הקרובים אנו צפויים לחזות בדיון נוסף בוועדת חוקה – הפעם בעניין מערכת "עין הנץ", מערכת שהופעלה ללא הסמכה חוקית ובאופן שמעורר חשש לגבי פגיעה בפרטיות של אזרחי ישראל. מעבר לחשש של פגיעה בפרטיות. ישנן סכנות רבות הנלוות לאגירה של מידע אישי רב – שעלול להיות חשוף לניצול לרעה או לגניבה באמצעות תקיפות סייבר. למעשה, הממונה מטעם מערך הסייבר הלאומי על היישומים הביומטריים, רועי פרידמן, הזהיר לגבי רמת האבטחה הלקויה ביחס למאגרי מידע אישי וביומטרי בישראל.
הגישה של משטרת ישראל עד כה, היא הדיפה של טענות וניסיון לקעקע את מי שמעלה אותן. משטרת ישראל אומרת למעשה לאזרח הישראלי המודאג – סמוך עליי, אני שומר עליך, הכול בסדר, תחזור לישון ותן לי לעשות את העבודה שלי. זו אמירה מדאיגה, כמו שהיא מקוממת, והיא מעידה על תרבות ארגונית בעייתית שלוקה בהעדר אחריותיות וחוסר נכונות לקבל ביקורת או פיקוח.
אחרי שנים בהן מדינת ישראל התנסתה עם טכנולוגיות על חשבון זכויות הפרט, לעיתים עם בסיס חוקי רעוע, אם בכלל, הגיע הזמן להתעורר. אל לנו לוותר על הבינה האנושית ולהסתמך בצורה עיוורת על טכנולוגיות. על ממשלת ישראל להגדיר מסלול מחדש עבור רשויות אכיפת החוק ולהבהיר – בעוד הטכנולוגיה היא מנוף אדיר עם חשיבות עצומה, הפעלת כוח הולכת יד ביד עם הליכי פיקוח, ביקורת, ודיון ציבורי לגבי הגבולות הראויים שבאים להגן על זכויות הפרט.
ד"ר טל מימרן
הוא ראש תוכנית "אמנה חברתית לעידן הדיגיטלי" במכון תַּכְלִית, חוקר ומרצה בתחומי המשפט הבינלאומי והסייבר.