top of page
  • ד״ר טל מימרן

סכנות השימוש בדיפ-פייק - בזמן בחירות ומלחמה


טכנולוגיית הדיפ-פייק, המאפשרת ליצור תוכן בדיוני אשר נחזה כאותנטי, מעלה חששות רבים ומגוונים. בעידן שבו המידע מתפשט מהר יותר מאי פעם באמצעות פלטפורמות תוכן דיגיטליות, השימוש בדיפ-פייק עלול להעצים מחלוקות, להטעות את הציבור ולערער את אמון הציבור. השפעות אלו עלולות להיות הרסניות במיוחד בתקופות של אי-שקט חברתי, מלחמה או בחירות.


25.12.2023 | ד"ר טל מימרן


לקריאת המאמר המלא >>


סכנות השימוש בדיפ פייק_נייר לוועדת המשנה בנושא בינה מלאכותית_מכון תכלית
.pdf
הורידו את PDF • 384KB


  • בדומה למדינות אחרות בעולם, ראוי לפעול לאסדרת השימוש בדיפ-פייק ובמיוחד ביחס להליכי בחירות (ברמה הארצית או המקומית). במסגרת זאת, יש לעגן חובת סימון של תכנים המיוצרים או הנערכים באמצעות טכנולוגיית דיפ-פייק, ולפעול לעיגון סנקציה פלילית או מנהלית בגין הפרת החובה.


  • לקראת הבחירות המקומיות בישראל – על משרד הפנים וועדות הבחירות המקומיות לקדם תכנים הסברתיים עבור הציבור על אודות הטכנולוגיה והסיכונים הנלווים לה. בפרט, ניתן להפעיל עמוד מקוון, להוביל קמפיין ציבורי ולפתח תוכנות למידה עצמית.


  • במבט רחב, יש להאיץ אסדרה של כללי המשחק ברשתות החברתיות. מכון תכלית ממליץ על אימוץ מודל של רגולציה מבנית-הליכית בתחום הרשתות החברתיות המבוסס על "עסקת חבילה" בין המדינה לבין הפלטפורמות – הפלטפורמות מקבלות חסינות מותנית מאחריות נזיקית ופלילית על תכני המשתמש כנגד מחויבות לסדרה של חובות רגולטוריות שנועדו להביא לפיקוח ועיצוב מדיניות תוכן מיטיבים.


"דיפ-פייק" מהו?


טכנולוגיית הדיפ-פייק (Deepfake, או "זיוף עמוק") מאפשרת, באמצעות אלגוריתמים של בינה מלאכותית, יצירת תמונות, סרטונים ואודיו בהתבסס על תוכן קיים. זאת, גם אם התוכן המוצג לא התרחש מעולם אלא מדובר בזיוף מוחלט. בימינו, איכותו של תוכן אשר נוצר באמצעות דיפ-פייק יכולה להיות גבוהה במיוחד, עד כדי כך שיהיה קושי אמיתי להבחין כי מדובר בזיוף.


שימוש מעניין בטכנולוגיה זו ניתן לראות במהלך הסכסוך הנוכחי בין רוסיה ואוקראינה. לאורך הסכסוך פורסמו סרטונים שונים אשר חלקם הוסרו על ידי פלטפורמות המדיה החברתית, בהם נחזה נשיא אוקראינה נושא נאום ובו הוא מכריז על כניעה חד צדדית לרוסיה. דומה כי הסרטונים פורסמו במטרה לשכנע את האוקראינים להיכנע במלחמה. מקרים כאלו קורים אף במהלך תקופות בחירות. למשל, כבר בשנת 2018, כחלק מקמפיין להעלאת המודעות לטכנולוגיית הדיפ-פייק, פורסם סרטון ברשתות החברתיות של נשיא ארצות הברית לשעבר, ברק אובמה, מדבר בקולו לכאורה אך אומר דברים בלתי סבירים עבורו.


האתגרים שמציב השימוש בדיפ-פייק להליכי בחירות


בחירות נתפסות כשיאו של ההליך הדמוקרטי ומבטאות השתתפות אזרחית ומרכב מרכזי בבניית אמון הציבור במדינה ובמוסדותיה. זהו יום חג בו לכל אדם יש קול שווה, ובמסגרתו כל אחד או אחת יכולים לבחור לנסות ולייצג את הערכים בהם הם מאמינים ואשר אותם הם מבקשים לקדם. בהתאם, פגיעה בהליך הבחירות משמעותה פגיעה חמורה באוטונומיה אישית, במרקם החברתי וביציבותו של שלטון דמוקרטי.


למרות שאנו נמצאים בשלב מוקדם יחסית בהליך הבחירות לנשיאות של ארצות הברית, אשר יתקיים בפועל ב-2024, ניתן כבר לראות השפעה אפשרית של התפתחות טכנולוגית הדיפ-פייק, מתוך ניסיון להשפיע על דעת הבוחרים ועל תוצאות הבחירות. כך, בעת האחרונה היינו עדים לשימוש שכזה על ידי הקמפיין למרוץ למועמדות המפלגה הרפובליקנית לנשיאת ארצות הברית של מושל פלורידה, רון דה-סנטיס. במסגרת שימוש זה פורסמו תמונות, שנערכו בדיפ-פייק, המציגות את המועמד המוביל ונשיא ארצות הברית לשעבר, דונלד טראמפ, מחבק בכיר באגף המחלות הזיהומיות בארצות הברית שאינו אהוד בקרב הרפובליקנים.




במקרה של מושל פלורידה, המטרה המרכזית של השימוש בדיפ-פייק הייתה פגיעה במוניטין של מועמד בבחירות. כמובן, ישנה אפשרות כי דיפ-פייק עשוי לשמש אף את המועמדים עצמם לשם חיזוק המוניטין שלהם, ולמשל כדי לפרסם תוכן, שאינו אמיתי, אשר מטרתו היא להטיל ספק במידע עובדתי המזיק לאותו מועמד.


השימוש בדיפ-פייק בעת בחירות מעלה אתגרים אתיים ומשפטיים. המרכזי מבין אלו נוגע להשפעת השימוש הנרחב בטכנולוגיה על דעת הבוחרים. מאחר שהמדיה הנוצרת באמצעות דיפ-פייק מבקשת להציג מציאות אמיתית לכאורה, ובשל הקושי הרב להבחין אם מדובר בזיוף, שימוש נרחב בה עלול לטשטש את הגבול בין המציאות לדמיון או בין אמת לשקר. יכולות שכאלו מייצרות סכנות מעצם קיומן, והחשש מתחזק במיוחד בתקופות רגישות דוגמת חוסר שקט חברתי, מלחמה או בחירות.


בהקשר של בחירות, השימוש בטכנולוגיה אף עשוי להשפיע השפעה ממשית על תוצאות הבחירות ולהטות את הכף – במיוחד כאשר אין זמן מספק להפרכת המידע המזויף. לדוגמה, אם יופץ ערב הבחירות סרטון דיפ-פייק המציג באור שלילי את המועמד/ת המוביל/ה בבחירות, חלון הזמנים לתגובה אינו מאפשר למועמד שנפגע מהפרסום זמן מספק כדי להפריך את הסרטון (אם כלל ניתן להפריכו). במצב שכזה, פרסום יכול להיות הרסני על מועמד/ת ולהטות את תוצאות הבחירות.


לכך יש להוסיף את החשש להתערבות זרה של מדינות אחרות בבחירות הגובר בשנים האחרונות. כפי שראינו בעבר, יש אינטרס למדינות זרות להתערב בדרך כזו או אחרת בבחירות דמורקטיות המתנהלות במדינה אחרת. כבר בשנת 2016, כפי שקבעה קהילת המודיעין בארצות הברית, היינו עדים להתערבות רוסית זרה בבחירות לנשיאות ארצות הברית במטרה לפגוע בקמפיין של הילארי קלינטון ותוך סיוע לדונלד טראמפ. זאת, בין היתר, באמצעות פעילות חברת "קיימברידג' אנליטיקה" (אשר עבדה עבור הקמפיין של דונלד טראמפ והשיגה גישה למידע האישי של למעלה מ-87 מיליוני בעלי חשבונות בפייסבוק). החברה העבירה את הנתונים לקמפיין של הנשיא טראמפ לשם מטרות פוליטיות שונות, ובדגש לצורך הפצת מסרי הקמפיין בהתאם לתכונותיהם ונטיות ליבם של המשתמשים השונים.


חשיפת הפרשה באמצעי התקשורת עוררה סערה ציבורית בארצות הברית וחששות כבדים הנוגעים לפרטיותם של המשתמשים ברשתות החברתיות ולהתערבות זרה בבחירות לנשיאות. במסגרת הדיון הציבורי הופנה ביקורת נוקבת כלפי חברת פייסבוק, ואף להזמנה של מארק צוקרברג, מנכ"ל מטא (לשעבר פייסבוק), לשימוע בפני בית הנבחרים האמריקני והסנאט.


 

לקריאה נוספת:

 

ההתמודדות המשפטית בישראל עם תופעת ה"דיפ-פייק"


מטבע הדברים, ההתקדמות הטכנולוגית והאתגרים שהיא מציבה מעוררים שאלות רבות אף בזירה הפוליטית המקומית. בישראל, החוק הרלוונטי לעניין השימוש בדיפ-פייק הוא חוק הבחירות (דרכי תעמולה), התשי"ט-1959, הכולל הוראות שונות המגבילות את תעמולת הבחירות של מפלגות ופוליטיקאים. חוק זה נחקק בסוף שנות החמישים במציאות שונה לחלוטין מזו הקיימת היום, כאשר לא היו בישראל טלוויזיה או אינטרנט, ולמרות מספר עדכונים שהוא עבר מדובר בפיסת חקיקה מיושנת וארכאית אשר לא מסוגלת להתמודד עם המציאות של רשתות חברתיות ופלטפורמות תוכן דיגיטליות בהיקף הנוכחי שלהן.


בהקשר זה יש להזכיר את חשיבותן של פלטפורמות המדיה החברתית בתקופות בחירות. בעידן הדיגיטלי של ימינו מייצרות פלטפורמות המדיה החברתית מרחבים דיגיטליים המשמשים ליצירה ולהעברה של מידע בין חלקי הציבור, הבעת ביטוי אומנותי, פוליטי ומסחרי, החלפת דעות, קיום פעילות מסחר ושירותים, צריכת חדשות ועוד. פלטפורמות המדיה החברתית שינו את הנוף הפוליטי, והשפיעו על האופן שבו מתנהלות בחירות וקמפיינים. כבר בשנת 2008, בקמפיין הראשון לנשיאות של ברק אובמה, נרתמה המדיה החברתית לצורך גיוס מצביעים וניצחון בבחירות.


ייחודיותה של המדיה החברתית מתבטאת באפשרות של היחיד להביע את דעתו, לעסוק בשיח פוליטי וציבורי ולהשתתף בתהליך הבחירות. הדבר יצר אפיק חדש להשתתפות פוליטית של האזרחים וחיזק את התעסקותם בסוגיות פוליטיות ובמיוחד בזמן בחירות. פלטפורמות המדיה החברתית אף מספקות לפוליטיקאים ולמפלגות גישה ישירה לקהל עצום לאין שיעור. כך, הן מאפשרות לפוליטיקאים לתקשר באופן ישיר ובקלות רבה עם מיליוני מצביעים, תוך עקיפת ערוצי המדיה המסורתיים. הדבר הביא לכך שפלטפורמות המדיה החברתית הפכו כיום למקור עיקרי של חדשות ומידע עבור אנשים רבים, וקמפיינים פוליטיים מנצלים מגמה זו לצורך הפצת מסרים ועמדות במטרה להשפיע על דעת קהל הבוחרים.


ועדיין, בישראל, החשיבות הרבה שיש לרשתות החברתיות במהלך הליכי בחירות לא באה לידי ביטוי בחוק דרכי תעמולה. בעוד שהחוק מסדיר אמצעי תעמולה ישנים דוגמת השימוש בלפידים,[1] הוא אינו מתייחס כלל לנושא התעמולה באינטרנט – האמצעי המרכזי להפצת תעמולת בחירות בימינו אנו. ואולם, בשל מרכזיותם של האינטרנט ושל הרשתות החברתיות, יושב ראש ועדת הבחירות המרכזית לכנסת ה-21, השופט בדימוס ח' מלצר, החיל בהחלטתו את הוראות חוק דרכי תעמולה גם על רשת האינטרנט, לרבות הרשתות החברתיות.[2]


דוגמה מרכזית להתמודדות עם התופעה של דיפ-פייק בעת בחירות היא החלטת יושב ראש ועדת הבחירות המרכזית לכנסת ה-24, השופט ע' פוגלמן, בתב"כ 9/24 יש עתיד – בראשות יאיר לפיד נ' עמותת "כן לשלום". החלטה זו מהווה דיון ראשוני ותקדימי ביחס לשימוש בטכנולוגיית דיפ-פייק בעת בחירות בדין הישראלי. עניינה של עתירה זו בפרסום סרטון על ידי עמותת "כן לשלום", בזמן תקופת הבחירות לכנסת ה-24. בסרטון זה נחזה יאיר לפיד, יושב ראש מפלגת יש עתיד, נושא נאום בחירות ואומר דברים שלא אמר כלל. לאחר הגשת העתירה הוסיפה העמותה לסרטון שקופית גדולה המבהירה כי מדובר בסרטון מזויף.


בהחלטה ציין השופט פוגלמן כי ההתמודדות עם תופעת הדיפ-פייק מצויה בסעיף 13 לחוק דרכי תעמולה. סעיף זה קובע כי "לא תהא תעמולת בחירות מטעם מפלגה או רשימת מועמדים אחת או למענה בצורה או בדרך שיש בהם משום הפרעה בלתי הוגנת של תעמולת בחירות מטעם מפלגה או רשימת מועמדים אחרת או למענה". בהקשר זה, קבע השופט פוגלמן כי פרסום דיפ-פייק ייחשב כהפרעה בלתי הוגנת לבחירות וכהפרה של הסעיף האמור אם הוא עלול להביא באופן קרוב לוודאי להטעיית הציבור.[3] במצב שכזה, רשאי יושב ראש ועדת הבחירות המרכזית, מכוח סעיף 17ב לחוק דרכי תעמולה, להורות על צו המונע פרסום של התוכן. בנסיבות אותו המקרה, נקבע כי לאור השקופית שנוספה והבהירה כי מדובר בסרטון מזויף, הסרטון אינו מהווה הפרעה בלתי הוגנת לבחירות. ועדיין, השופט פוגלמן ביקש להבהיר כי קבצים אשר יוצרו בטכנולוגיית דיפ-פייק עלולים להביא בוודאות קרובה להטעיית הציבור.


לדעתנו, פרסום קבצי דיפ-פייק בתקופת בחירות, ללא כל סימון כי מדובר בתוכן מזויף, עלול להביא בוודאות קרובה להטעיית הציבור ודורש מתן צו מניעה לפי סמכותו של יושב ראש ועדת הבחירות. כפי שניתן לראות, לדיפ-פייק יש השפעות עומק משמעותיות ונראה כי הסרת פוסט לא תמיד תפתור בעיה של השפעה או פגיעה במוניטין, במיוחד כאשר פרסום צבר כבר צפיות רבות. בהתאם, בעוד אולי מדובר בפתרון פרקטי בנסיבות החוק הישן, נכון לשקול פתרון מקיף יותר שיהיה ממוקד בעולם המודרני של הרשתות החברתיות ובפרט על רקע התחזקות יכולות טכנולוגיית הדיפ-פייק.




מה הלאה?


אנו סבורים כי החששות העולים מהטכנולוגיה ככלל, ובעת בחירות בפרט, דורשים גיבוש מענה משפטי רגולטורי ייחודי להתמודדות. אומנם, רוב הפלטפורמות החברתיות, וביניהן מטא (פייסבוק לשעבר), יוטיוב וטוויטר, אוסרות על הפצת תכנים מסוג דיפ-פייק ללא כל סימון של תכנים אלו והודיעו כי יפעלו להסרתם.[4] ועדיין, נוכח חדשנות הטכנולוגיה והאתגרים המשמעותיים שהיא מציבה לדמוקרטיה, נדרשת לשיטתנו מדיניות רגולטורית סדורה בעניין.


בגיבוש מדיניות שכזו ראוי להביט על מענים משפטיים שנקבעו במדינות אחרות. בטקסס למשל, בשנת 2019 נקבע איסור פלילי על יצירה או הפצה של תכני וידאו שנוצרו באמצעות דיפ-פייק בשלושים הימים שלפני יום הבחירות, אם אלו נועדו לפגוע במועמד בבחירות או להשפיע על תוצאות הבחירות.[5] חקיקה מקיפה יותר בנושא התקבלה במדינת קליפורניה, בה נקבעו איסורים פליליים דומים על יצירה או הפצה של תוכן מסוג דיפ-פייק בעת בחירות. מעבר לאיסור על יצירה או הפצה, החוק בקליפורניה מאפשר למועמדים שנעשה שימוש בדמותם בתוכן דיפ-פייק ללא סימון, לפתוח בהליכים משפטיים כנגד המעורבים ביצירה או בהפצה של התוכן בגין הנזקים שנגרמו להם וכן מסמיך את בתי המשפט להעניק צווי מניעה לפלטפורמות ולגופי המדיה אשר אמונים על מניעת המשך הפצת התוכן.

במקביל, אנו קוראים למשרד הפנים לפעול – גם באמצעות ועדות הבחירות המקומיות – נגד השימוש בדיפ-פייק בזמן הבחירות הקרבות. יש לפנות לציבור ולחשוף אותו באמצעות אמצעי התקשורת והמדיה אל טכנולוגיית הדיפ-פייק ולאתגרים הטמונים בשימוש בה בעת בחירות. למשל, ניתן להפעיל עמוד מקוון בנושא דיפ-פייק, בדומה לעמוד שהפעילה ועדת הבחירות לכנסת ה-24 בנושא חדשות כזב ('פייק ניוז') אשר כלל הסברים על הדרכים להימנע מההשפעה הבלתי רצויה של חדשות כזב ועל הדרכים להימנע ממנה.


יש אף לפעול להדרכת הציבור בנוגע לטכנולוגיית דיפ-פייק וסיכוניה בעתות בחירות, ולמשל באמצעות קמפיין פרסום, תוכנות למידה למבוגרים וכן משחקי למידה עצמיים לילדים. לדעתנו, כך ניתן להביא לידי היכרות של הציבור עם התופעה ולעודד ביקורתיות כלפי האותנטיות של התכנים. המדובר בטכנולוגיות המבוססות על בינה מלאכותית, אשר מנתחות את התוכן, את מאפייניו וביכולתן לזהות האם מדובר בתוכן שעבר מניפולציה באמצעות דיפ-פייק. לאחרונה, ענקיות הטכנולוגיה וביניהן חברת מייקרוסופט, החלו להציע כלים כאלו לקהל המשתמשים שלהן.[6] בהתאם, לצד הצעדים המוצעים, יש לחשוף את הציבור לכלים טכנולוגיים חדשניים אשר ביכולתם לזהות תכנים שעברו מניפולציה על ידי דיפ-פייק.


לבסוף, אנו קוראים להגברת שיתוף הפעולה בין רשויות המדינה כדוגמת מחלקת הסייבר בפרקליטות ומערך הסייבר הלאומי, לבין רשתות חברתיות. ראוי כי הדבר יתבצע באמצעות אסדרה של כללי המשחק ברשתות החברתיות ובפרט במובנים של אחריות על פרסומים בלתי חוקיים מזיקים, ועל פרסומים חוקיים אך מזיקים וכן במובן של הגברת שקיפות לגבי פרסומים המבוססים על בינה מלאכותית ובמיוחד כאלו שעובדו על ידי טכנולוגיית דיפ-פייק. במאמצים אלו, בראייתנו, ניתן להסתייע בחברה האזרחית, למשל באיגוד האינטרנט הישראלי.


במובן רחב יותר, אנו סוברים במכון תכלית כי אין מנוס מהתמודדות עם שורש הבעיה – כלומר אימוץ מודל של רגולציה מבנית-הליכית בתחום הרשתות החברתיות. טכנולוגיית הדיפ-פייק היא בסוף אפיק אחד של ניצול לרעה של רשתות חברתיות, אבל לצידו יש רבים אחרים אשר התמודדות אמיתית עמם תוכל להתקיים רק בהתקיימה של מסגרת משפטית סדורה אשר מאפשרת פיקוח על רשתות חברתיות אגב שיתוף פעולה בינן לבין גופי השלטון בישראל (על בסיס כללי משחק ברורים, ולא במצב הקיים שהוא וולונטרי ולוקה במובנים של בהירות וודאות כלפי משתמשים והציבור הרחב). בבסיסו של מודל שכזה, הדומה לנהוג באיחוד האירופי וארצות הברית, ראוי כי תהיה "עסקת חבילה" בין המדינה לבין הפלטפורמות: במסגרתה הפלטפורמות מקבלות "נמל בטוח" (safe harbor), שפירושו חסינות מותנית מאחריות נזיקית ופלילית על תכני המשתמש המופצים ברשתות, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים שלהן ולעמידה בדרישות הליכיות לפיקוח ועיצוב מדיניות ניטור תוכן.


[1] ראה סעיף 8 לחוק הבחירות (דרכי תעמולה), התשי"ט-1959.

[2] ראה תב"כ 8/21 עו"ד שחר בן מאיר נ' הליכוד (נבו 27.2.2019).

[3] ראה, מיני רבים: תב"כ 14/22 החדשות 13 בע"מ נ' הליכוד – תנועה לאומית ליברלית, פסקה 14 (נבו 3.9.2019); תב"כ 28/20 הליכוד – תנועה לאומית ליברלית נ' רשימת "המחנה הציוני" בראשות יצחק הרצוג וציפי ליבני (נבו 2.3.2015); תב"כ 45/20 כולנו בראשות משה כחלון נ' רשימת הליכוד בהנהגת בנימין נתניהו ראש הממשלה (נבו 17.3.2015).

[5] Texas Senate Bill 751 (2019-2020).

[6] בחודש ספטמבר 2020 חברת מייקרוסופט הציגה שני כלים טכנולוגיים להתמודדות עם דיפ-פייק. ראה:  https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/.



לקריאת המאמר המלא >>

סכנות השימוש בדיפ פייק_נייר לוועדת המשנה בנושא בינה מלאכותית_מכון תכלית
.pdf
הורידו את PDF • 384KB



ד"ר טל מימרן

הוא ראש תוכנית "אמנה חברתית לעידן הדיגיטלי" במכון תַּכְלִית, חוקר ומרצה בתחומי המשפט הבינלאומי והסייבר.








Commentaires


bottom of page