איגוד האינטרנט הישראלי פרסם מחקר מקיף בנושא השימוש בטכנולוגיית דיפ-פייק במהלך מלחמת ישראל-איראן, במה שזכה לכינוי "מלחמת ה-AI הראשונה". כך, נעשה שימוש נרחב בכלי בינה מלאכותית בכדי לייצר תוכן שקרי, או לעוות באופן שקרי תוכן קיים, בשאיפה לעורר פחד ובהלה בקרב הציבור ולפגוע במרקם החברתי ובחוסן הישראלי. מדובר בסממן המעיד על רוח התקופה הנוכחית – במסגרתה הבינה המלאכותית תמשיך לעצב מחדש את המציאות בה אנו חיים, ולהצית את הדמיון האנושי באופן שיגרום לנו לחשוב מחדש על הגדרות יסוד במישור האישי, החברתי והלאומי.

מבוא

מלחמת ישראל-איראן, או מבצע ״עם כלביא״, המחישה את העובדה שמלחמות כבר מזמן לא מתמקדות רק בשדה הקרב – אלא הן מתקיימות בשדה נוסף, והוא שדה התודעה. כך, ראינו שימוש הולך וגובר בכלי בינה מלאכותית (AI) בכדי לייצר תכנים שקריים, או תכני דיפ-פייק, שמטרתם לעורר פחד ובהלה בקרב הציבור הישראלי. מדובר בכלי המאפשר לצד חלש צבאית בסכסוך לפגוע באזרחי הצד שמנגד ולנסות ולפגוע בתחושת הביטחון שלהם, וגם באחדות הלאומית המבוססת על חוסן חברתי. כפי שעולה מהמחקר של איגוד האינטרנט (ראו כאן), איראן בעיקר יצרה תכנים הכוללים הצגה מוגזמת או שקרית של נזק שקרה בצד הישראלי, למשל הרס שטילים איראניים גרמו לכאורה למגדלי עזריאלי בתל אביב.

צורת מאבק זו אינה חדשה, שכן ראינו מאבק על התודעה גם בתקופות אחרות בהיסטוריה, כמו במהלך המלחמה הקרה. ועדיין, נראה שבעת הנוכחית אנו עדים להתעצמות היכולת לרתום כלי בינה מלאכותית בשם מטרה זו באופן שעלול להגדיר מחדש את גבולות הדמיון והמציאות, האמת והשקר, וכל מה שביניהם.

בהקשר זה, יש לזכור את חשיבותן של הרשתות החברתיות בחיינו, שכן אלו מייצרות מרחבים דיגיטליים המשמשים ליצירה ולהעברה של מידע בין חלקי הציבור, הבעת ביטוי אומנותי, פוליטי ומסחרי, החלפת דעות, קיום פעילות מסחר ושירותים, צריכת חדשות ועוד. ייחודיותה של המדיה החברתית מתבטאת באפשרות של היחיד להביע את דעתו, לעסוק בשיח פוליטי וציבורי ולהשתתף בתהליכים שהיו סגורים בפניו בעבר. ואכן, רשתות חברתיות מספקות כלי לתקשר באופן ישיר ובקלות רבה עם מיליוני אנשים ברחבי העולם, תוך עקיפת ערוצי המדיה המסורתיים, ובפועל פלטפורמות אלה הפכו כיום למקור עיקרי של חדשות ומידע עבור אנשים רבים. משכך, רשתות חברתיות שינו את הנוף החברתי והפוליטי ברחבי העולם, והשפיעו על האופן שבו חברות אנושיות מתנהלות – אם בזמן שלום ואם בזמן מלחמה.

"מהו דיפ-פייק"?

טכנולוגיית הדיפ-פייק (Deepfake, או "זיוף עמוק") מאפשרת, באמצעות כלי בינה מלאכותית, יצירת תמונות, סרטונים ואודיו בהתבסס על תוכן קיים (למשל, עיוות של סרטון קיים) או בלעדיו (לדוגמה, יצירה של סרטון באמצעות מתן הנחייה כתובה או הנחייה קולית). כלומר, ניתן לשנות לחלוטין את ייעודו של מידע קיים, או לייצר זיוף מוחלט מאפס. בימינו, איכותו של תוכן אשר נוצר באמצעות דיפ-פייק גבוהה במיוחד, באופן המקשה להבחין כי מדובר בזיוף. בהתאם, ראינו שימוש בטכנולוגיה זו במהלך הסכסוך בין רוסיה ואוקראינה, כאשר למשל פורסמו סרטונים שונים אשר בהם נחזה נשיא אוקראינה נושא נאום ובו הוא מכריז על כניעה חד צדדית לרוסיה – חרף העובדה שהדבר לא קרה מעולם. לצד זמני מלחמה, שימוש בטכנולוגיה זו מתחזק גם במהלך בחירות, כפי שראינו גם בישראל וגם בארצות הברית.

המשמעויות של דיפ-פייק במרחב הדיגיטלי מרחיקות לכת, שכן ישנו אתגר ממשי ביכולת הזיהוי של מידע כוזב, אשר נוצר באמצעות כלים מאפשרים לערוך תמונות באיכות ורמת דיוק גבוהה, לייצר סרטונים ואף להקליט קטעי אודיו בקול של אדם אחר. בנוסף, ישנה פריסה רחבה יותר של תצורות המידע הכוזב, כגון אתרי דמה אשר נבנים בכדי לדמות אתרים אמיתיים. כמו כן, במציאות בה יש מגוון אפשרויות לזייף מידע או להציג אותו באופן מניפולטיבי – מידע שקרי ברשתות החברתיות מקבל תפוצה רחבה ובמהירות רבה. לבסוף, הקושי בהתמודדות עם דיפ-פייק קיים במיוחד ביחס לאוכלוסיות עם רמה נמוכה של אוריינות דיגיטלית, למשל בני הגיל השלישי או קבוצות מיעוט בחברה הישראלית. על רקע כל האמור, כאשר הטכנולוגיה מתקדמת ומקשה על זיהוי האם מידע, תמונה או סרטון משקפים את המציאות, יש האומרים כי אנו חיים בעידן של "פוסט-אמת".

כפי שניתן להבין, השימוש בדיפ-פייק מעלה אתגרים רבים ומגוונים. טכנולוגיית דיפ-פייק מבקשת להציג מציאות אמיתית לכאורה, ובשל הקושי הרב להבחין אם מדובר בזיוף, שימוש נרחב בה עלול לטשטש את הגבול בין המציאות לדמיון ולהעמיד את הציבור בפני בלבול ותהייה האם להאמין למידע שהוצג או לגשת אליו בספקנות. בזמן מלחמה, ובמיוחד כזו שמתאפיינת בעימות צבאי עז כמו מלחמת ישראל-איראן, במסגרתה ראינו הרס בהיקף שלא נראה בעבר ברחבי ישראל, הדבר מקשה על קריאת המציאות ופרשנותה, ומערער ושוחק את אמון הציבור ברשויות, בגופי התקשורת ובמוסדות ציבוריים (להרחבה, ראו כאן).

שימוש בדיפ-פייק במהלך מלחמת ישראל-איראן

כפי שעולה מהדו"ח של איגוד האינטרנט, נעשה שימוש נרחב יותר במידע שקרי לשם הפחדת הציבור וזריעת אימה בקרב ישראלים לאורך המלחמה. לגישת מחברי המחקר, השימוש בתכנים השקריים נעשה במיוחד בשאיפה לשדר עוצמה ולהציג את איראן בתור צד חזק יותר, למרות הפגיעות המשמעותיות שהיא ספגה בשדה הקרב עצמו. זאת, להבדיל ממלחמת ישראל-חמאס, בה אנו רואים שימוש בטכנולוגיה בכדי לקדם דיסאינפורמציה ולתאר את הפלסטינים בתור קורבן של יריב לא מוסרי.

ברמה המעשית, הנושאים העיקריים שבהם נראה שימוש לרעה בכלי דיפ-פייק על ידי איראן היה לשם הפגנת כוח, יצירה לכאורה של נזק פיזי, וגם הקרנה של פיצוצים ודימויים של בהלה ציבורית בקרב ישראלים. מבחינה טכנית, נעשה שימוש מניפולטיבי במידע באמצעות מסגור שגוי והוצאה מהקשר של מקום וזמן, כאשר חלק נרחב מהתכנים נערך או נוצר באמצעות בינה מלאכותית אשר אפשרה לשלב תמונות וקטעי וידאו של פיצוצים ונזקים פיזיים שלא התרחשו בפועל, או שנלקחו ממקומות שונים ובזמנים שונים, ושל נזק פיזי לבניינים או לתשתיות. כל אלו תרמו לתחושת חוסר הביטחון בציבור, ולחיזוק תחושות של תסכול וחוסר אמון כלפי מקבלי ההחלטות ומוסדות ציבוריים.

לאור היתרון הצבאי הברור של ישראל אל מול איראן, המפנה למלחמה פסיכולוגית על התודעה של הציבור הישראלי העניקה לאיראן כלי משמעותי לשם פגיעה באזרחי ישראל, ולהעצים את מעמדה בפני אזרחיה שלה – גם אם הדבר היה מנותק מהמציאות במרבית המקרים. הדבר מלמד על המציאות הרב-ממדית והמורכבת בו אנו מצויים, במסגרתה כוח קינטי לא מבטיח לבדו ניצחון צבאי, במובן שבו מדינה כמו ישראל יכולה להגיע להישגים ניכרים במישור המבצעי, אך בפועל אזרחיה חווים מציאות חלופית – בה תחושת הביטחון סובלת מכרסום, ובה תחושת האמון הדדי והחוסן נפגעים וכתוצאה מכך גם האמון בשלטון, במוסדות ובגופי תקשורת ממוסדים.

מבט קדימה – כיצד ניתן להתמודד עם האתגר?

התמודדות עם אתגר זה דורשת מהלך רחב, רב ממדי וכזה אשר דורש עקביות והתמדה. בין היתר, ישנו צורך בזיהוי ומיפוי תמידי של אתגרים, חיזוק מערכות הגנת הסייבר, קמפיינים למודעות וחיזוק אוריינות דיגיטלית של האוכלוסייה, וחשיבה ביקורתית, ויצירת מסגרת רגולטורית אשר מקנה כלים להתמודדות.

בפרט, ניתן לשקול את הכלים הבאים:

1. תכלול ותיאום: על מנת להתוות מדיניות ברורה, ולהוציאה לפועל, יש צורך בגורם מדינתי מתכלל, שיפתח מומחיות ויעקוב אחר התפתחויות, ואשר יהווה פלטפורמה לשיתוף פעולה בין כלל השחקנים הרלוונטיים. כך, נדרש מאמץ משותף שיכלול, בין היתר, את הממסד הביטחוני (צה״ל, שב״כ ומוסד), מערך הסייבר, המשטרה והפרקליטות, משרדים ממשלתיים רלוונטיים (מדע, חוץ, משפטים ועוד), חברה אזרחית (איגוד האינטרנט למשל), חברות פרטיות (חברות הגנת סייבר ופלטפורמות תוכן דיגיטליות), והמשתמשים עצמם. על הגורם המתכלל הלאומי ללמוד את הזירה בתוך ישראל (למשל – החלוקה של אוכלוסיות שונות ברשתות החברתיות – טיק טוק אצל ערבים ישראלים ובני נוער, טוויטר או לינקדין בקרב בעלי השכלה אקדמית ועוד) ומחוצה לה, ולהביא בחשבון מגמות רחבות שמשפיעות עלינו. כחלק מכך, חשוב להתעדכן לגבי איומים חדשים, וגם לגבי פיתוחים שיכולים לסייע בהתמודדות עמם, וזאת באופן פונקציונלי ורב ממדי.
2. הגברת האמון במערכות השלטון: חשוב לפתח ולשמר את האמון במוסדות השלטון בימי שגרה, בכדי שהדבר יגונן על החוסן והתודעה של אזרחי ישראל במצבי חירום כמו מלחמה. מצב של חוסר אמון כלפי השלטון, מגמה שהולכת ומחריפה בישראל (ראו כאן), מהווה פתח כניסה נוח למלחמה פסיכולוגית שתנצל את החולשה החברתית והאישית של האוכלוסייה. משכך, חשוב להגביר את השקיפות אודות האופן שבו גופים מדיניים פועלים, ולנסות להוביל את סדר היום ולא רק להגיב לבעיות שמתעוררות. בפרט, חשוב לשקף לציבור כאשר מתגלים מקרים של פרסום מידע שקרי, להראות אילו פלטפורמות נוצלו לרעה וכיצד הדבר נעשה, וגם להכווין כיצד ניתן להסתייע בגופי השלטון במקרים שאדם נופל קורבן למבצע הונאה דיגיטלי. כמובן, ראוי להשקיע מעת לעת בקמפיינים שיחזקו את הלגיטימיות והאמון במוסדות שלטוניים וגם בגופי תקשורת ממוסדים.
3. אוריינות דיגיטלית: חלק מרכזי נוסף הוא הגברת החוסן החברתי של הציבור והגברת היכולת למנן את ההשפעה של פעילות דיגיטלית עוינת. משכך, יש לשפר את הידע והאוריינות הדיגיטלית בקרב החברה הישראלית, ובמיוחד בקבוצות בסיכון כמו בני הגיל השלישי או קבוצות מיעוטים, בכדי לחזק את עמידותה (אוריינות דיגיטלית היא למעשה סט הכישורים ומיומנויות התפעול במרחב הדיגיטלי, לרבות יכולת מיון והבחנה של מידע ומהימנותו, היכרות עם כללי בטיחות ברשת, ואוריינות בתקשורת מקוונת – ראו כאן). הדבר חשוב כי פעמים רבות ישנו ניצול לרעה של "באג" חברתי – למשל העובדה שמיעוטים צורכים חדשות דרך רשתות חברתיות ולא דרך גופי מדיה מסורתיים (שכן, ככל שמיעוט מרגיש מחוץ לנורמה, או לא מיוצג, זה לוקח אותו לזירות צדדיות ושם תאי ההדהוד נכנסים לפעולה, ראו כאן). הדבר הוביל להגברת האלימות הפנים-חברתית בישראל במהלך שומר החומות, לפגיעה בתדמיתה של ישראל במהלך מלחמת ״חרבות ברזל״, וכעת – לאיום על התודעה של אזרחי ישראל במהלך מלחמת ישראל-איראן. בהתאם, רכישת יכולות אוריינות דיגיטלית מאפשרת זיהוי של אתגרים וזיופים, ומצמצת את ההשפעה לרעה שלהם, ובמובן רחב יותר מאפשרת קיום של חברה מודרנית בטוחה, יציבה ועמידה יותר.
4. אסדרה: בסופו של יום, לא ניתן לחמוק מהעובדה שצריך פתרון כולל לזירה של רשתות חברתיות, מאחר והתופעה בה עסקנו היא סימפטום אחד מיני רבים לבעיות רבות שקיימות במרחב זה (ובפרט, העצמה של קיטוב פוליטי, הגברה של בדידות וניכור חברתי). בהתאם, ההתמודדות עם מבצעי השפעה צריכה להיות חלק מהתמודדות הוליסטית יותר בכלל הסוגיה של רשתות חברתיות. מכון תכלית ממליץ על אימוץ מודל של רגולציה מבנית-הליכית (ראו כאן). בבסיס המודל, שמרכיבים מרכזיים בו אומצו בחקיקה באיחוד האירופאי ובארה״ב, מצויה ״עסקת חבילה״ בין המדינה לבין חברות הטכנולוגיה: כאשר הרשתות החברתיות מקבלות ״נמל בטוח״ (safe harbor), אשר מאפשר מרחב פעולה אבל בד בבד מחייב אותן לעמוד בתנאים מסוימים בכדי לקדם סביבת גלישה בטוחה יותר במרחב שהן יוצרות ומנהלות. בפרט, מוצע להגדיר חסינות מותנית מאחריות נזיקית ופלילית עבור רשתות חברתיות, ביחס לתכני משתמשים, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים שלהן וכנגד דרישות הליכיות לפיקוח ועיצוב מדיניות תוכן מיטיבים (למשל, פיקוח על פרסומים בלתי חוקיים, ופיקוח על מנגנוני אכיפה עצמיים). כחלק מכך, נדרשת גם התמודדות עם תכני דיפ-פייק, למשל חובת סימון של מידע שעבר עיבוד או נוצר באמצעות בינה מלאכותית, וגם מניעת ניצול לרעה של מרחב זה בכדי לזרוע פחד ובהלה באופן המבקש לפרום את המרקם החברתי העדין שמחזיק את החברה הישראלית יחדיו.