פונקציית המטרה

התערבות בשוק הפלטפורמות המקוונות צריכה להיעשות בהתאם לפונקציית מטרה מוגדרת היטב ולהיגזר מתוך צרכי ומאפייני המשק והחברה בישראל. את פונקציית המטרה הישראלית נגדיר כך: קיומו של מרחב מקוון בו אזרחי ישראל נהנים באופן שוויוני מזכות גישה רחבה לרשת ולתכניה באופן המתיישב עם תרבות חופש ביטוי משגשגת, המספק סביבה בטוחה ומוגנת בה נשמרת פרטיותם והמעניק הזדמנות לפתח כלכלה יזמית וחדשנית.

הרעיון המסדר: חלוקת עבודה אופטימלית בין המגזר הפרטי לממשלה

בבחירת המודל הרגולטורי אנו מציעים לאמץ עיקרון מנחה פשוט: יתרון מוסדי (מגזרי) יחסי. פונקציית המטרה תוגשם דרך שורה של הכרעות ערכיות, מקצועיות וטכנולוגיות ביחס לאיזון בין הערכים המתחרים. האסדרה צריכה להעניק למאסדר סמכות ואחריות רק על החלטות שהוא נמצא בעמדה הטובה לקדמן, ולהותיר בידי הפלטפורמות שיקול דעת ביחס להכרעות שהן בעמדה הטובה יותר לקבל, תוך יצירת התמריצים המתאימים לכך.

עסקת חבילה רגולטורית: ״נמל בטוח״ תמורת מדיניות תוכן מתאימה לאינטרס הציבורי

בהתאם לעקרון המנחה, נמליץ על אימוץ מודל של רגולציה מבנית – הליכית. בבסיס המודל הזה, שמרכיבים מרכזיים בו אומצו בהצעות חוק שמקודמות כיום באיחוד האירופאי ובארה״ב, מצויה ״עסקת חבילה״ בין המדינה לבין הפלטפורמות. הפלטפורמות מקבלות ״נמל בטוח״,(safe harbor) שפירושו חסינות מותנית מאחריות נזיקית ופלילית על תכני משתמשים, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים שלהן ולהעמיד דרישות הליכיות לפיקוח ועיצוב מדיניות תוכן מיטיבים.

אין בכוונת נייר זה לפרט את כל מרכיבי המודל המוצע או לטעון כי האמור בו מייצג אמת אחת ואין בלתה. מטרתנו היא להצביע על יתרונותיו ולנסח חמישה עקרונות ליבה שבעינינו יוכלו לסייע בגיבוש המתווה הרגולטורי הרצוי:

1. רגולציה שלא מתמקדת בקצה הקרחון. חלק גדול מהחקיקה הקיימת או מקודמת כיום בעולם מבוססת על תמונה מעוותת של אופן עבודת הפלטפורמות המדמה אותן למערכות אכיפה שדומות במהותן לאופן עבודת בתי משפט מדינתיים, וכתוצאה מכך מיקוד ב – ״קצה הקרחון״ של מדיניות פיקוח התוכן שלהן. זוהי שגיאה בעלת השלכות חמורות על יעילות ואפקטיביות הרגולציה. נסביר כיצד להימנע ממנה.

2. פיקוח על פרסומים בלתי חוקיים: ציות לבתי המשפט + מנגנון ״הודעה ופעולה״. בהתמודדות עם ריבוי תכנים לא חוקיים ברשת, יש לשקול אימוץ של מנגנון משולב. המדינה תשמר אצלה אחריות אולטימטיבית, באמצעות בתי המשפט, להוציא צווים להסרת תכנים קיצוניים שיש אינטרס ציבורי מובהק בהסרתם. הפלטפורמות יידרשו לאמץ מנגנון חדשני של ״הודעה ופעולה״, במסגרתו משתמשים יוכלו לדווח על תוכן בלתי חוקי בצורה נגישה ובעברית, מפרסמים יוכלו להגיב לטענה נגדם,(counter notice) והפלטפורמות ישמרו על חסינות בתנאי שיקבלו החלטה מקצועית ומהירה בתום לב, גם אם בחרו לא להסיר את הפרסום או להשתמש בכלי אכיפה מידתיים יותר. פתרון זה מתמודד היטב עם חסרונות המודל המוכר של ״הודעה והסרה״ אשר הוכח כמוביל לצנזורת יתר.

3. פיקוח על מנגנוני אכיפה עצמיים: הגברת המחויבות הצרכנית לאזרחי ישראל. פלטפורמות נוהגות כבר כיום לאמץ מדיניות פיקוח תוכן להגבלת ביטויים פוגעניים גם אם חוקיים. האסדרה צריכה למסד את החובה לנהוג כך ולייצר סטנדרטיזציה ובצידה שורה של הוראות שיבטיחו מינימום הליך נאות ונאמנות ציבורית ביחס לקשת רחבה של מנגנוני קבלת החלטות בפלטפורמות ומחוצה להן שמעורבות באכיפת תוכן, לרבות גופים ממשלתיים. לצד זאת, יש להישמר מ-״העמסה״ עיוורת של חובות הליך נאות שמשפיעות לרעה על ערכים אחרים.

4. שקיפות אפקטיבית. יש לנסח חובות רגולטוריות לקידום שקיפות באופן שישפיע על כלל מנגנוני קבלת ההחלטות בפלטפורמות ויוביל לפרסום של מידע מועיל למאסדר ולציבור. חובות שקיפות צריכות לשאוף לשפר את ההבנה שלנו ביחס לאמצעים שמופעלים בישראל ובפרט בשפה העברית.

5. היקף תחולה מותאם גודל ופעילות. האסדרה צריכה להיות מותאמת לגורמים המאוסדרים בהתאם להשפעתם על מרחב הביטוי המקוון, הסיכונים הנובעים מפעילותם, ומשאביהם. ככלל אצבע , יש לייצר הבחנה לצרכי היקף החובות הרגולטוריות על בסיס שני קריטריונים מרכזיים: סוג פעילות וגודל. להלן מובא פירוט של המתווה המוצע. סדר הצגת עמדתנו יבקש לתת מענה לשלוש שאלות יסודיות בהתאם למודל Risk Impact Assessment (RIA) – בחינת הצורך, הגדרת התכלית, ובחירה במודל הרגולטורי המומלץ.

המצב הקיים, לפיו, בכפוף לחריגים, פלטפורמות מקבלות דה-פקטו פטור מאחריות על נזקים שנגרמו מפרסום תכני משתמשים אינו בר קיימא מכיוון שמייצר כשל שוק וגירעון דמוקרטי המעצימים נזקים חברתיים שיש אפשרות למנוע או לכל הפחות לצמצם. ביתר פשטות: תאגידים שמרוויחים כסף מפרסומים מזיקים לא ימהרו לפעול נגדם בנחרצות ללא התערבות רגולטורית.

1. בפתח הדברים ראוי להתעכב על השאלות המקדמיות: האם ומדוע נדרשת התערבות המדינה בשוק המקוון?

2. נקודת המוצא היא שפלטפורמות תוכן מתפקדות כשומרות הסף של מרחב השיח הציבורי בעידן הדיגיטלי. הפלטפורמות הן פרטיות, אבל המרחבים הדיגיטליים שיצרו–ליצירה והעברת מידע בין חלקי הציבור, הבעת ביטוי אומנותי, פוליטי ומסחרי, החלפת דעות, קיום פעילות מסחר ושירותים, צריכת חדשות, ועוד – הם ציבוריים במהותם1. מי שמודר או מושתק במרחבים הללו אינו יכול ליטול חלק משמעותי בשיח הציבורי, ויכולתו לממש את זכויות היסוד שלו מוגבלת בצורה משמעותית2.

3. על רקע זה, קיימים אינטרס ציבורי שמרחב השיח הציבורי והכללים החלים בו ישקפו איזון ראוי בין הערכים המושפעים והצדקה דמוקרטית שהאיזון הזה, ככל שמוחל על ישראלים, יבטא את העדפות החברה הישראלית.

4. עד לאחרונה, שלטה בעולם המערבי העמדה כי רגולציה עצמית והתבססות על השוק החופשי היא הגישה העדיפה למקסום התוצאה הזו. משמעותה היתה הענקת חסינות רחבה לפלטפורמות מאחריות לתוכן שמעלים משתמשים, בין אם בצורה גורפת (כך , במיוחד, בארה״ב)3 או כנגד עמידה בתנאים מינימליים (כך , למשל , באירופה)4. גישה זו הפכה לדומיננטית גם בישראל דרך פסיקת בתי המשפט, שאימצו דוקטרינות מהדין ההשוואתי ואכפו תניות חוזיות שייבאו את הדין הזר (לרוב, הדין האמריקאי) ליחסים החוזיים בין המשתמשים לבין הפלטפורמות בישראל5.

5. גישת השוק החופשי אינה ניתנת להצדקה במציאות של המרחב המקוון ב-2022. זאת, בראש ובראשונה, בשל קיומו של כשל שוק. המודל הכלכלי של מרבית הפלטפורמות הגדולות וריכוזיות השוק מייצרים תמריץ עבורן לנקוט במדיניות תוכן לא יעילה השואפת למקסם את זמן השהייה של משתמשים בפלטפורמות ואת היכולת לאסוף מידע פרטי ואינטימי מהם. זהו תמריץ מעוות, מכיוון שעידוד ואפילו הפצה רחבה של תוכן מזיק—כולל מידע שקרי, תכנים סנסציוניים ומקטבים, אלימות, והסתה—הוכחו כמייצרים יותר מעורבות (ולכן , מועילים לשורת הרווח), למרות ההחצנות השליליות שלהן על השיח הציבורי וזכויות משתמשים6.

6. בנוסף, המצב הקיים מייצר בעיה של גירעון דמוקרטי. הפלטפורמות מפעילות כוח רגולטורי משמעותי במרחב המקוון, אך בניגוד לגורמי ממשל, אין להן אחריותיות דמוקרטית. פיקוח רגולטורי מצד המדינה הוא הכרחי על מנת לגשר על הפער הזה ולעודד מדיניות שמשקפת את ערכי הציבור והעדפותיו.

7. אם כשל השוק והגירעון הדמוקרטי מסבירים מדוע פלטפורמות כנראה אינן רוצות מספיק ליישם מדיניות פיקוח תוכן שמבוססת על מקסום האינטרס הציבורי, חשוב להבין שהן סובלות גם מיכולת מוגבלת לפעול ללא הכוונה מדינתית. סדרי הגודל והמהירות שבה נעשית רגולציית תוכן עצמית חורגים מכל מה שהתקיים בעולם הטרום-דיגיטלי. גם בשוק משוכלל ותחרותי, אין שום אפשרות לייצר רגולציה עצמית שתדע להבליט ביטוי טוב ולסנן ביטוי רע במהירות ובדיוק הנדרשים7. רק שילוב כוחות עם המדינה, שתדע לקבוע עדיפויות ולהציף בעיות וכשלים יקדם אותנו לעבר סביבה מקוונת בריאה, חופשית ובטוחה.

תכלית האסדרה צריכה להיות הגברת האחריותיות של הפלטפורמות ועידודן להפנים את האינטרס הציבורי הישראלי בקביעת האיזון בין הערכים המושפעים ממדיניות פיקוח התוכן שלהן. כפי שנסביר, המדינה אינה צריכה להחליף את הפלטפורמות כשומרת השער של מרחב הביטוי המקוון אלא לתמרץ אותן להקצות משאבי פיקוח מספקים (בפרט , ביחס לתוכן בעברית) ולהפעילם כראוי.

8. בחלק זה נבקש להציג את עמדתנו באשר לתכלית אסדרת שוק פלטפורמות התוכן ולשאלת חלוקת העבודה הראויה בין הרגולטור המדינתי לבין הפלטפורמות. שאלה זו, כמפורט להלן, היא קריטית לגיבוש המודל הרגולטורי המועדף.

9. תכלית האסדרה צריכה להיגזר משני גורמים עיקריים: מאפייני המשק והחברה בישראל, והמטרות החברתיות שיש להגשימן, אותן נכנה ״פונקציית המטרה״.

מאפייני המשק והחברה בישראל

10. רגולטורים במדינות רבות יושבים כיום על המדוכה ושוקלים הסדרים שונים להגברת הפיקוח על פעילות פלטפורמות תוכן דיגיטליות. בהתאם לכך, קיים מאגר הולך וגדל של הסדרים השוואתיים שיכולים לשמש השראה למאסדר הישראלי, אך כבר בתחילת הדרך חשוב לגבש תמונה ברורה של הייחודיות של המשק והחברה בישראל והצרכים הנגזרים מכך כדי להימנע מאימוץ הסדרים שנועדו להשיג מטרות שלא חופפות את שלנו.

11. קיימים שלושה מאפיינים בעלי חשיבות בעיצוב אסדרת הפלטפורמות במדינת ישראל:

• תרבות דמוקרטית בחברה רב-תרבותית: החברה הישראלית מבוססת על ערכים דמוקרטיים ובראשם חופש הביטוי והדעה, ויש לה רתיעה מובנית ומושרשת מצנזורה חזקה. לצד זאת, הרכבה הדמוגרפי הרב תרבותי (יש שיאמרו: השבטי), אתגריה הביטחוניים והמגמות החברתיות העכשוויות מלמדים על סיכון הולך וגובר כי שיח לא מרוסן ואלים יפגע במרקם החברתי, עלול להגביר סיכון לאלימות והסתה ולהשתיק קבוצות מוחלשות.
• ״סטארט-אפ ניישן: ״ ישראל מדורגת באופן עקבי בצמרת חממות הגידול של תעשיית הטכנולוגיה העולמית.8 למשק והחברה שלנו יש אינטרס לאומי מובהק לקיים סביבה רגולטורית מעודדת חדשנות ויזמות, ולשמש מודל שנזהר מאימוץ הסדרים שיובילו לפגיעה ביכולת של תעשיית ההיי – טק לשגשג ולייצר מתחרים חדשים.
• שוק קטן: ישראל היא שוק זניח בגודלו עבור פלטפורמות התוכן הגדולות בעולם. עובדה זו משפיעה על סט הכלים

שעומד בפני המאסדר הישראלי, אשר אינו זהה למקביליו באירופה וארה״ב. מגבלות רגולטוריות שלא יעלו בקנה אחד עם המגמות העולמיות ויטילו עלויות קיצוניות על הגורמים המאוסדרים צפויות להפוך לאות מתה או להוביל לתוצאות לא מכוונות. חשוב להבין את גודלנו ולהתרכז במשימות רגולטוריות מותאמות לצרכי השוק הישראלי. לצד זאת, לשוק קטן יש משימה ייחודית שאין לשווקים גדולים: תחרות על משאבי הפלטפורמה. ממצאים הראו שיש פערים משמעותיים ברמת המשאבים המושקעים בין מדינות ושפות שונות. וכל ״דחיפה״ רגולטורית שתעודד פלטפורמות לרכז יותר משאבים בישראל תשרת את האינטרס הציבורי.9

פונקציית המטרה וחלוקת העבודה הנכונה להגשמתה

12. את פונקציית המטרה נגדיר כך: ההתערבות הממשלתית צריכה לשאוף לייצר את התנאים לקיומו של מרחב מקוון בו אזרחי ישראל נהנים באופן שוויוני מזכות גישה רחבה לרשת ולתכניה באופן המתיישב עם תרבות חופש ביטוי משגשגת, המספק סביבה בטוחה ומוגנת בה נשמרת פרטיותם והמעניק הזדמנות לפתח כלכלה יזמית וחדשנית.10

13. טבע הדברים הוא שאת המטרות הללו לא ניתן למקסם יחד. פיקוח וצנזורה על תוכן דיגיטלי, ולא משנה אם מתבצעים על ידי המדינה או הפלטפורמה, כוללים הכרעה בין ערכים מתנגשים (tradeoffs).11 כדי להגשים את פונקציית המטרה באופן המיטבי על ידי עריכת האיזון ״הנכון״, יש תחילה לשקול מהי חלוקת העבודה הנכונה בין המדינה לבין הגופים המפוקחים, ולבחור במודל הרגולטורי שישקף אותה.

14. על מנת להשיב על השאלה אנו מציעים ליישם מתודולוגיה מוסדית מקובלת ואינטואיטיבית המבוססת על עקרון היתרון המוסדי (מגזרי) היחסי.12 המדיניות הרגולטורית צריכה להקצות לכל גורם את האחריות על המשימות שבהן יש לו יתרון על הגוף השני. היתרון העיקרי של מוסדות המדינה על הפלטפורמות הוא באחריותיות דמוקרטית כלפי הציבור בישראל, הנובעת מהעובדה שעמדותיהם משקפות במידה רבה יותר את העדפות הציבור ומכך שהן מושפעות פחות מכשלי השוק (ובפרט, בעלי יכולת יעילה יותר להתמודד עמם). מנגד, ממבט אפיסטמי, הפלטפורמות הן אוכף התוכן ומעצב המדיניות היעיל יותר בהשוואה למוסדות המדינה. יש להן יתרון במידע ובמהירות, כלי עיצוב מדיניות מגוונים יותר, וכלי אכיפה אפקטיביים ומידתיים יותר.13

15. לכן, רגולציה שתיטול מהפלטפורמות את הסמכות והאחריות לבצע את האיזונים בין הערכים השונים על ידי מודלים של ״פיקוד ושליטה״ (control & command) צפויה שלא להגשים היטב את פונקציית המטרה. זוהי טעות שרגולטורים רבים בעולם נקלעו אליה, וניתן לראות ניצנים שלה גם בישראל. נדגים זאת על ידי שתי הצעות חוק שהונחו בשנה האחרונה על שולחן הכנסת.

16. ה״ח למניעת ביצוע עבירות באמצעות פרסום באינטרנט (הסרת תוכן)(התשפ"ב-2021) מעבירה למנגנון מדינתי המורכב מתובע ושופט מחוזי את הסמכות והאחריות להתמודד עם הסרת תוכן בלתי חוקי בהיקף רחב. לפי ההסדר המוצע, צו הסרת תוכן יכול שיינתן ביחס לכל תוכן שיש בו חשש לעבירה פלילית וסכנה לביטחון המדינה או ביטחונו של אדם ולהיות מכוון ביחס לכל אתר אינטרנט. הסדר כזה לוקה בשתי בעיות יסוד:

16.1. מוסדות מדינתיים לא מותאמים לקצב ולהיקף של פיקוח תוכן מקוון. לשם המחשה, יו-טיוב נדרשת להתמודד עם 500 שעות של וידאו המועלות לפלטפורמה בכל דקה,14 מה שמוביל להסרה של כ-9 מיליון סרטונים ברבעון המהווים פחות מ-1% מהתוכן המועלה.15 פייסבוק צנזרה ברבעון 3 2021 לא פחות מ-930 מיליון פרסומים (!!), מספר שלא כולל כמובן תכנים שנבדקו ואושרו. נוכח מאפייני האינטרנט ואלמנט ההחמרה של נזקים כתוצאה מ-״ויראליות״ של פרסומים מזיקים, על האכיפה להיעשות במהירות שיא.16 גם אם נצמצם את המספרים לחלק היחסי של תוכן ״ישראלי״, לא היה רגולטור מדינתי בהיסטוריה שנאלץ להתמודד עם אכיפת חוק בסדרי גודל כאלה ומול מורכבויות שכאלה. המחשבה שמנגנון שמורכב משילוב של תובע מדינתי ושופט מחוזי (השוו: הצעת החוק לעיל) יוכל לעמוד בקצב ולמלא את תפקיד מפקח העל של כמות כה נרחבת של תכנים בלתי חוקיים אינה עומדת במבחן המציאות.

16.2. הגברת הסיכונים הקיימים בצנזורה ממשלתית. שנית, וכנגזרת לבעיה הראשונה, העברת האחריות לקביעה ואכיפת הסדרים מהותיים למדינה מגבירה את הסיכון לצנזורה ממשלתית שתושפע משיקולים זרים לפונקציית המטרה . כדי להתמודד עם מאפייני הביטוי המקוון (היקף ומהירות הפרסום), המדינה נדרשת לנטוש דוקטרינות ונוסחאות איזון ותיקות שנועדו להתמודד עם סכנת הפגיעה בחירות הביטוי על ידי השלטון. התוצאה היא שחוקים רחבים להסרת תוכן במידה רבה מחליפים בעיה אחת (פיקוח לא מיטבי בפלטפורמות) באחרת: הענקת סמכויות צנזורה דרקוניות למדינה.

17. ה״ח הגנת הצרכן (תיקון– מענה אנושי בשירותים מקוונים), התשפ"ב-2021 מהווה דוגמה נוספת. ההצעה מעמידה שורה של דרישות צרכניות למתן מענה אנושי טלפוני או מקוון בדפוסי זמן קצרים, עדי כדי שש דקות למתן מענה ביחס לפנייה של משתמש בבקשה להסרת תוכן. הקושי בהצעת החוק הוא שהיא לא בוחנת ולא מתעמתת עם המציאות הפשוטה: בחירה לחייב פלטפורמות תוכן למענה אנושי בפרקי זמן כה קצרים תבוא על חשבון ערכים אחרים, ותוביל באופן בלתי נמנע לפגיעה בהיקפי הפיקוח ובאיכות האכיפה.17 במרחב המקוון, הקפדה על זכויות צרכניות כמו בעולם הפיזי פירושה(1) יכולת פחותה להתמודד עם ויראליוּת של פרסומים פוגעניים שמתפשטים במהירות ברשת ו-(2) קיום פיקוח על שיעור קטן יותר של תכנים. דוגמה זו ממחישה כי החקיקה בישראל, לעיתים, אינה תואמת את המציאות אליה היא מתייחסת – ובמקרה הזה, כי הצעת החוק לא מביאה בחשבון במידה מספקת את האופן שבו מתבצע בפועל פיקוח תוכן מקוון.

18. הבנת המתחים הללו והידע הטכנולוגי למזער אותם הם צעד חשוב בגיבוש מדיניות פיקוח תוכן מיטיבה. הפלטפורמות מחזיקות ביתרון ברור על המחוקק בביצוע הפונקציה הזו. לכל הפחות, מומלץ כי בכל קידום של צעדים רגולטוריים המאסדר יהיה ער למתחים הללו ויבצע הכרעה מודעת ורציונאלית אילו ערכים ברצונו להגביר, שכן כל חובה רגולטורית שמוטלת משפיעה על מערך התמריצים של הפלטפורמות ובעקיפין על ההכרעות שלהן בעריכת האיזונים הללו.

19. על מנת להימנע מהקצאה לא יעילה של סמכויות פיקוח תוכן ולמזער את סכנת הצנזורה המדינתית, תכלית האסדרה צריכה להיות רתימת הפלטפורמות לפקח בצורה יעילה על המרחבים הדיגיטליים שבאחריותן, ולמעט בהכתבת כללים סובסטנטיביים18. לפיכך , כפי שיורחב להלן , המודל הראוי הוא מודל להגברת האחריותיות המבקש להפוך את הפלטפורמות לשותפות לתהליך עיצוב סביבה מקוונת בריאה, בטוחה וחופשית.

אנו ממליצים על אימוץ מודל של אסדרה מקיפה שתחול ex ante בצורה רוחבית על מבני עיצוב המדיניות ופיקוח התוכן בפלטפורמות. בבסיס המודל הזה, שמרכיבים מרכזיים בו אומצו בהצעות חוק שמקודמות כיום באיחוד האירופאי ובארה״ב מצויה מעין עסקת חבילה בין המדינה לבין הפלטפורמות . ב-״עסקה״ הזו, הפלטפורמות מקבלות ״נמל בטוח״ (safe harbor) שפירושו חסינות מותנית מאחריות נזיקית ופלילית על תכני משתמשים, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים של הפלטפורמות ולהעמיד דרישות הליכיות לפיקוח ועיצוב מדיניות תוכן.

20. בחלק זה נדון בבחירת החלופה המתאימה ביותר להגשמת תכלית הרגולציה ונעמוד על עקרונות מרכזיים בעיצובה.

21. הדיון עד כה מוביל אותנו להמליץ על רגולציה מבנית-הליכית בהשראת המודל המקודם בחקיקה האירופאית החדשה ובכפוף לשינויים הנדרשים.19 עמדתנו דוחה מודלים רגולטוריים מסוג ״פיקוד ושליטה״ ומודלים של משטר אחריות נזיקי (ex post) שקודמו במקומות אחרים.20 רגולציית שליטה מעניקה יותר מדי כוח למדינה במקום שבו אין לה הכלים להיות מעצב המדיניות היעיל; הרתעה נזיקית תייצר תמריצים מעוותים אצל הפלטפורמות למזער את אחריותן ולנקוט באסטרטגיות של התגוננות במקום שותפוּת.21 לא זו ולא זו תוצאה רצויה לאינטרסים החשובים העומדים על הפרק.

22. להלן נפרט חמישה עקרונות ליבה לבניית המודל הרגולטורי הזה. ההצעות מבוססות על הסדרים שונים שאומצו או נשקלים ברחבי העולם המערבי (המרכזית שבהן היא החקיקה האירופאית Digital Services Act) לצד רעיונות מקוריים המבוססים על המחקר העדכני שהותאמו למאפיינים ולצרכים הייחודיים של מדינת ישראל.22

עקרון 1#. רגולציה שלא מתמקדת בקצה הקרחון

23. במדינות רבות רחבי העולם אומצה או נשקלת רגולציה של שוק פלטפורמות התוכן. חלק גדול מהיוזמות מתמקד בשאלה כיצד פלטפורמות מטפלות בתוכן שהובא לידיעתן (על ידי משתמשים או גורמים רשמיים) כי הוא בלתי חוקי או מפר את כללי הקהילה. כך למשל, סוגיות מרכזיות שרגולטורים דנים בהן הן מתי החלטה להשאיר תוכן צריכה לחשוף את הפלטפורמה לאחריות משפטית וכיצד ניתן להבטיח כי הן מקפידות על קיום זכות טיעון וערעור למשתמשים.23

24. המיקוד הרגולטורי הזה הוא שגוי ולא אפקטיבי.24 תהליכי הפיקוח על החלטות אינדיבידואליות של מפקחי תוכן מצויים בקצהו של תהליך ״בירוקרטי״ מורכב שמפעילות הפלטפורמות, וההשפעה הכוללת שלהם על עיצוב מרחב הביטוי המקוון והשאלה אילו תכנים ייראו בו היא שולית.

היכן מוכרעות השאלות החשובות? לא במקום אחד, אלא על ידי שורה של מנגנונים שונים ושחקנים שונים בתוך ומחוץ לפלטפורמה.25 אלה הן השכבות החשובות, המצויות מתחת ל-״קצה הקרחון״ של פיקוח תוכן. תרשים 2. ״קרחון״ עיצוב מדינית תוכן בפלטפורמות מקוונות ההחלטות בחלק העליון של ״הקרחון״ נעשות על ידי מפקחי תוכן אנושיים בדרגות בכירוּת שונות ובהתאם לחשיבות ההחלטה והשלכותיה הציבוריות. אך המדיניות הכוללת מעוצבת על ידי גורמים רבים נוספים, בכללם: מערכות בינה מלאכותית (והמהנדסים שבונים אותן) הסורקות ומקבלות החלטות תוכן (לעיתים ללא מעורבות אנושית) ביחס למיליוני פרסומים; צוותי אכיפה ייעודיים בפלטפורמה שמיועדים לזהות התנהגות חתרנית ומבצעי השפעה, ולעיתים פועלים לצורך התמקדות באירוע בעל חשיבות כמו מבצע צבאי או בחירות; שותפויות עם ספקים שונים כגון גופים שמבצעים בדיקת עובדות (fact checking) ועם ממשלות. חלק מרכזי בעבודה נעשה בתוך הפלטפורמות על ידי צוותי עיצוב המדיניות האחראים על ניסוח ועדכוןהכללים. ולבסוף, אולי החלק החשוב ביותר, הוא הבחירות של העיצוב הטכנולוגי של המוצרים והשירותים, הקובעות את גבולות הגזרה של כל יתר הגורמים המעורבים.

25. אסדרה שמתמקדת ב-״קצה הקרחון״ (וכאמור , חלק ניכר מהחקיקה המקודמת בעולם היא כזו) אינה רק הקצאה לא נכונה של משאבים, אלא מוגבלת מאוד ביכולתה להשפיע על המציאות. חופש הביטוי ברשת והיכולת שלנו לקיים סביבה מקוונת בריאה ובטוחה לא נקבעים בעיקרם על ידי ההחלטות בקצה הקרחון, אלא לכל אורכו. ההשפעה הרגולטורית על הפלטפורמות צריכה בהתאם להתייחס ולהשפיע על קבלת החלטות בכל השכבות. במהלך הדיון בעקרונות הבאים נציג מספר דוגמאות להסדרים רגולטוריים שמיועדים להשפיע על השכבות ש-״מתחת לפני המים.״26

עקרון 2#. פיקוח על פרסומים בלתי חוקיים: ציות לבית המשפט+ מנגנון ״הודעה ופעולה״

26. קיים אינטרס ציבורי שחומר שהצגתו בלתי חוקית (במישור הפלילי או האזרחי) לא יוצג או שיוסר במהירות האפשרית אם הוצג. עם זאת, הטלת האחריות המשפטית לכך על הפלטפורמות מייצרת בתורה סיכונים ומורכבויות.

27. בראש ובראשונה, קיימת אי הסכמה מהותית מתי תוכן הוא אכן בלתי חוקי, ולכן נדרש להכריע מי קובע: האם כל משתמש שטוען כי חומר מוצג הוא בלתי חוקי צריך להעמיד חובה משפטית כלפי הפלטפורמה להסירו? זה כמובן יוביל לפגיעה חריפה בחופש הביטוי ולהסרה של תכנים חוקיים רבים. האם גורמים מערכת האכיפה? בעולם הלא מקוון, ככלל, גורמי אכיפה ותביעה אינם רשאים להטיל צנזורה רחבה ללא פיקוח שיפוטי, מחשש לפגיעה בחירות הביטוי.27 האם יידרש צו שיפוטי, ובאילו תנאים? החשש מדרישה כזו הוא כמובן חוסר ההתאמה בין האיטיות של מערכת המשפט לבין הקצב שבו פרסומים הופכים ויראליים ברשת.

28. בתוך מערכת השיקולים המורכבת הזו, מומלץ לשקול מספר הסדרים:

28.1 חובת ציות כללית לצווים שיפוטיים. מתוך הבנה שבית המשפט הוא הפרשן האולטימטיבי של החוק, יש לקבוע חובה כללית כי פלטפורמה שמוצא כלפיה צו שיפוטי לנקיטת פעולה ביחס לתוכן בלתי חוקי תידרש לפעול בהתאם להוראות הצו ללא דיחוי.28

28.2 הענקת סמכות מתוחמת לתובע להגיש בקשה לקבלת צו שיפוטי להסרת תוכן. במקביל, יש לשקול חקיקה שתרחיב את סמכות התביעה לפנות לבית המשפט בבקשה להוציא צו ביחס לתכנים שפרסומם מהווה עבירה. כיום, קיימת סמכות מוגבלת כזו בחוק סמכויות לשם מניעת ביצוע עבירות באמצעות אתר אינטרנט, תשע"ז – 2017, אך היא אינה מספקת מענה ראוי לסוגי תוכן רבים.29 יש לשקול את הרחבת תחולת החוק ביחס לרשימה סגורה של עבירות ביטוי החלות על ביטויים בעלי חומרה או סיכון מיוחדים.

28.3 מנגנון הודעה ופעולה (notice and action). יש למסד מנגנון שיאפשר למשתמשים לדווח על תוכן בלתי חוקי בצורה נגישה ובעברית, ולאפשר למפרסמים להגיב לטענה נגדם (counter notice) 30. פלטפורמה שמקבלת פנייה, תהיה מחויבת להידרש אליה בפרק זמן מוגבל על מנת לשמר את חסינותה מאחריות משפטית ביחס לתוכן. יודגש, כי בניגוד למנגנון ״הודעה והסרה״,31 הסרת הפרסום אינה תנאי לשמירה על החסינות. מה שנדרש הוא התייחסות עניינית ומנומקת, לרבות שימוש בכלי פיקוח מידתיים יותר מהסרה.32 הסיבה לכך היא שהתניית המשך החסינות בהסרת התוכן מייצרת תמריץ יתר לפגיעה בחופש הביטוי– הסרה כמעט תמיד תהיה הדבר הרציונאלי מצד הפלטפורמה כדי להגן על עצמה מאחריות.33 ניתן לשקול לאמץ כלים נוספים כגון יצירת מסלול דיוני מהיר לבירור החלטות הודעה ופעולה בבית המשפט או יישום כלים שנועדו להרתיע משתמשים מהגשת הודעות שווא או בחוסר תום לב.

28.4 (נגד) חובה כללית לניטור אקטיבי. קיימת תמימות דעים בקרב רוב המומחים כי הטלת חובה על פלטפורמות לנטר בעצמן תוכן משתמשים כדי לחפש אי חוקיות אינה רצויה.34 בין היתר, חובה כזו מייצרת תרבות מעקב אחר תכני משתמשים , מייצרת תמריצים למחיקת יתר של ביטוי, ניתנת לעקיפה ומניפולציה, יקרה מאוד ליישום ומטילה עול כבד על פלטפורמות קטנות, דבר שעשוי לפגוע בתחרות. כחריג, ניתן לשקול חובת ניטור ביחס לסוג מצומצם ומוגדר היטב של תכנים (דוגמת חומר מיני על קטינים או תוכן המעודד טרור) שתחול רק על הפלטפורמות הגדולות ביותר.35

28.5. חשיפת פרטים . אחת המעלות הגדולות של רשת האינטרנט בהעצמת חופש הביטוי הוא האפשרות לביטוי אנונימי . הפלטפורמות מאפשרות , ככלל , השתתפות משתמשים בעלי שמות בדויים וקבוצות דיון בהן הדוברים נשארים אנונימיים . למרות מעלותיה , אנונימיות מהווה כר פורה לניצול לרעה ויצירת מכסה מפני אחריות בגין פעילות בלתי חוקית . במספר מדינות אומץ או נשקל הסדר המחייב , כתנאי למתן חסינות , שיתוף עם התובע של פרטי חשבון של המפרסם המזיק בכפוף לצו שיפוטי36. אנו סבורים כי ניתן לשקול אימוץ הסדר דומה בכפוף לערבויות דיוניות וכללי מידתיות.

עקרון 3#. פיקוח על מנגנוני אכיפה עצמיים: הגברת המחויבות הצרכנית לאזרחי ישראל

29. פעילות פיקוח התוכן בפלטפורמות מייצרת יחסי כוח בין הפלטפורמה למשתמש: הפלטפורמה מנסחת ואוכפת כללי קהילה, והמשתמשים נדרשים לציית או להיות נתונים לסנקציות. ריכוזיות השוק לא משאירה להם ברירה אלא ״לקבל את הדין״. האסדרה צריכה להבטיח כי היחסים האלה מתקיימים בהגינות ותוך שמירה על זכויות המשתמשים בישראל.

30. במבט רחב, האסדרה צריכה לדרוש מכל פלטפורמה שרוצה לפעול בישראל להעמיד לטובת הצרכן מספר מנגנונים וכלים להבטחת זכויותיו ולשמירה על מרחב מקוון בטוח וחופשי.37 בין היתר, יש לשקול:

30.1. נציגות חוקית בישראל. פלטפורמות יידרשו למנות נציג בישראל אשר ישמש כאיש קשר לתקשורת עם הרשויות ועם משתמשים מקומיים בשפות העברית והערבית.38.

30.2. פרסום תנאי שירות/כללי קהילה וחובת מידתיות. פלטפורמות יידרשו לפרסם בעברית ובערבית ובשפה נגישה את מדיניות התוכן שלהם. המדיניות תכלול את כללי הקהילה ואת כלי האכיפה המופעלים, ותחול חובת הגינות ומידתיות ביחס לאכיפתם.39

30.3. מנגנון בירור תלונות. פלטפורמות יידרשו למסד מנגנונים נגישים לבירור תלונות על צעדי אכיפה והפרת תנאי השימוש/מדיניות הקהילה. העקרון המנחה הוא כי צעדי אכיפת תנאי שימוש צריכים להיות נתונים להשגה מצד המשתמשים, וכי על הפלטפורמה לברר תלונות באובייקטיביות ובזמן סביר, ולספק הסבר מנומק על החלטתן. בשלב זה, נכון יהיה להימנע מקביעת כללים נוקשים המהווים ניהול-מיקרו של כללי השימוש בפלטפורמה בשל החשש לעכב את ההתפתחות וההתחדשות של הסדרים כאלה, תהליכים שקורים כיום ללא מעורבות רגולטורית. חשוב לזכור כי למנגנוני בירור תלונות מפורטים יש גם מחירים. השאלה אינה כמה חובות אפשר ״להעמיס״ כדי לדאוג שבכל החלטה של הפלטפורמה זוכה המפרסם למלוא זכויותיו ההליכיות. השאלה היא כזו: אילו חובות הליכיות יאזנו בצורה הטובה ביותר בין הערכים המתחרים. יתרה מכך, יש לזכור כי מנגנוני בירור תלונות מייצרים תיקון אנקדוטלי של שגיאות. על מנת להביא לשיפור עקבי ושיטתי של מנגנוני האכיפה, יש לשקול לחייב את הפלטפורמה בבדיקה מחדש של מדגם קטן של החלטות אכיפה ללא קשר לתלונות קונקרטיות, ולפרסם את התוצאות. תהליך כזה יוכל לחשוף כשלי אכיפה בדרגים הנמוכים ולהוביל לשיפור כולל של המנגנון.40

30.4. מדווחים אמינים (trusted flaggers). השימוש במדווחים אמינים—גורמים שדיווח שלהם על תוכן לא חוקי או בניגוד לכללי הקהילה זוכה לעדיפות על ידי הפלטפורמות—הופך להיות פרקטיקה מקובלת ברחבי הרשת. למנגנונים כאלה יש ערך רב בהיותם מזרימים מידע חשוב למקבלי ההחלטות בפלטפורמות באופן שתורם לאיכות הפיקוח. יחד עם זאת, מדווחים אמינים מייצרים סיכון לאכיפה מוטית או סלקטיבית, וכאשר המדווחים הן רשויות ממשלתיות, קיים חשש לעקיפת מגבלות חוקיות או חוקתיות על ידי אכיפה דרך הפלטפורמה.41

מומלץ: (1) להתנות את המינוי של גורם מדווח כמדווח אמין בתנאים אובייקטיביים שאינם בשליטה או בשיקול דעת מוחלט של הפלטפורמה,42 (2) לדרוש חובת פרסום בכל מקרה שהחלטת אכיפה החלה בפעילות של מדווחים אמינים, (3) לחייב פרסום של רשימת מדווחים אמינים שפועלים בישראל, ו-(4) לייצר אסדרה/חקיקה הולמת לפעילותם של מדווחים אמינים מטעם הממשלה (דוגמת יחידת הסייבר של פרקליטות המדינה).

30.5 תוכנית בטיחות שנתית. נדרש לאמץ כלים שיחשפו למאסדר ולציבור את האופן שבו פלטפורמות תופסות את תפקידן בשמירה על מרחב ביטוי מקוון בטוח בישראל ובכלים שהן מפעילות למילוי תפקידן. לשם כך, מומלץ לשקול הטלת חובת פרסום או הגשה למאסדר של תוכנית בטיחות שנתית.43 בתוכנית תידרש הפלטפורמה לדווח על הסיכונים שהיא צופה במהלך פעילותה בישראל במהלך השנה הבאה (לרבות התייחסות לאירועים נקודתיים כגון בחירות או מתיחויות ביטחוניות) ולפרט את הפעולות שבכוונתה לבצע בכל שדרות הפעילות שלה (החל מהעיצוב הטכנולוגי וכלה בפעילות מפקחי התוכן) כדי למזער את הסיכונים. בפרט, תוכנית הפעילות תידרש לדווח על משאבים שמופנים לטיפול בתכנים בעברית, לרבות מספר מנטרי התוכן ואופן פעילות מערכות בינה מלאכותית ביחס לתוכן בעברית.

חובה כזו משרתת מספר רציונאלים. ראשית, ניסוח תוכנית שנתית מיועד לעודד את הפלטפורמות לחשוב ולנתח את הסיכונים בישראל ולהביע התחייבות ציבורית ביחס למאמצי הפיקוח שלהן. שנית, תוכניות כאלה יספקו למאסדר מידע חיוני על אופן פעילות הפלטפורמות ואפשרות לנתח את תפקודן לאורך זמן ובין פלטפורמות. לבסוף, מנקודת מבט ריאליסטית, חובה כזו מעודדת להשקיע יותר משאבים בפיקוח תוכן בישראל (בפרט, בעברית).

עקרון 4#. שקיפות אפקטיבית

31. שקיפות היא אמצעי חשוב להגברת האחריותיות של גורמים בעלי כוח, ולכן מהווה מרכיב חשוב בתמהיל הרגולטורי של כמה מהסדרי החקיקה המתגבשים המובילים בעולם בתחום אסדרת פלטפורמות תוכן מקוון.44 אכן, היעדר שקיפות על אופן קבלת ההחלטות בפלטפורמות הוא אחד הגורמים המרכזיים המייצרים את כשלי השוק והגירעון הדמוקרטי שנדונו לעיל. הגברת השקיפות תסייע למשתמשים להגן טוב יותר על זכויותיהם ולהבין את קבלת ההחלטות בקשר אליהם, תאפשר לרגולטורים לגבש מדיניות טובה יותר ותשרת את החברה האזרחית כולה על ידי הזרמת מידע חשוב לאקדמיה, עיתונות ובעלי עניין.45

32. אך שקיפות אינה מטרה בפני עצמה. היא מייצרת עלויות ותמריצים שבעיצוב לא זהיר של החובה הרגולטורית עלולים להיות מעוותים ואף להגביר סיכונים שונים בפלטפורמות. דרישות כלליות שנפוצות בחקיקה ברחבי העולם, דוגמת דיווח על מספר החלטות הסרה, הן למעשה כלים ריקים מתוכן. לדוגמה, מה ניתן ללמוד מכך שטיקטוק הסירה עשרה מיליון סרטונים יותר ברבעון 3 2021  לעומת רבעון 2 2021?46  ייתכן שהפיקוח שלה השתפר, אך גם ייתכן שהנתונים משקפים גידול כללי במספר המשתמשים, או תוצאה של החמרת כללי הקהילה בפלטפורמה. האם בהכרח המדיניות של החברה השתפרה בין הרבעונים? אין לדעת. מה שברור הוא שסוג כזה של שקיפות מייצר תמריץ עקיף להגדלת כמות הסרות התוכן אבל בפועל לא מלמד אותנו כמעט דבר.

33. בנוסף, שקיפות מייצרת עלויות שמקשות במיוחד על שחקנים קטנים וחדשים ועשויה לחשוף מידע שישרת גורמים עוינים שמבקשים להערים על האלגוריתם לצרכים זדוניים.47

34. לפיכך , בקביעת חובות השקיפות הרגולטוריות, חשוב להגדיר מטרות מדויקות ולעצב כללים שיגשימו אותן. מטרה אחת שראוי לחתור אליה היא קביעת סטנדרט אחיד לדיווח על פעילות אכיפה ופיקוח, באופן שיאפשר להשוות בין פלטפורמות ולייצר תמריץ לשיפור מצד המשתתפות בשוק. בנוסף, יש להבטיח שקיפות גם לפעולות שקורות מתחת לקצה הקרחון.48 לדוגמה, התקשרות עם חברות שעושות fact checking צריכה להיות שקופה ולפרט את הסטנדרטים ושיטות העבודה של הספקים. שימוש בכלים רכים יותר מהסרה (דוגמת labelling ו-visibility downgrade) צריך להיות מפורט ויש לדווח על רמת האפקטיביות שלו. לבסוף, ייחודה של העברית מהווה יתרון למאסדר הישראלי. יש לחייב דיווח שיטתי על היבטי אכיפה שונים ביחס לשפה העברית, לרבות שימוש בבינה מלאכותית.

עקרון 5#. היקף תחולה מותאם גודל ופעילות

35. לבסוף, האסדרה צריכה להיות מותאמת לגורמים המאוסדרים בהתאם להשפעתם על מרחב הביטוי המקוון, הסיכונים הנובעים מפעילותם, ומשאביהם. ככלל אצבע, יש לייצר הבחנה לצרכי היקף החובות הרגולטוריות על בסיס שני קריטריונים מרכזיים: סוג פעילות וגודל.

36. ההבחנה ביחס לסוג הפעילות הכרחית מכיוון שלפלטפורמות שמשרתות מטרות שונות או מצויות בשכבות תשתיתיות שונות של האינטרנט יש סיכונים שונים וכלים שונים להתמודד עמם. לדוגמה, פלטפורמות לאחסון מידע ואירוח אתרים הן בעלות יכולות פיקוח ״גסות״. הן יכולות לחסום גישה לאתרים ולמנוע שירות לדפים, אך אין להן את כלי האכיפה המידתיים יותר שקיימים ברשתות חברתיות. יש היגיון ברור לייחד יותר רגולציה ופיקוח על פלטפורמות שיש להן כלי אכיפה מדויקים יותר (targeted enforcement) אשר יובילו לפחות צנזורה.

37. הבחנה ביחס לגודל מיועדת למנוע מצב שבו נטל רגולטורי שווה מוטל על שחקנים גדולים וקטנים באופן שמונע כניסה לשוק של שחקנים חדשים ותחרות הוגנת.

38. אנו סבורים כי המודל המתגבש ב- Digital Services Act האירופאי יכול לשמש מודל ראוי לחיקוי. החקיקה מייצרת ארבע קטגוריות של פלטפורמות בהתבסס על סוג השירות הניתן וגודל (האסדרה חלה במלואה רק על פלטפורמות מקוונות גדולות במיוחד – VLOP – ,(very large online platforms ומתאימה לכל קטגוריה חבילה שונה של חובות רגולטוריות.49

39. בנייר זה ביקשנו להאיר מספר סוגיות חשובות בגיבוש תכליות האסדרה של שוק הפלטפורמות המקוונות והחלופות השונות בעיצובה. כאמור בפתח הדברים, במסגרת המגבלות כאן לא התייחסנו לסוגיות רבות נוספות שמחכות במורד הדרך, וביניהן חובות דיווח והעברת מידע לרשויות בשל פעילות בלתי חוקית , מסחר ופרסום בפלטפורמות מקוונות, יצירת חובות auditing חיצוניות, קידום אוריינות דיגיטלית, היחס בין פעילות אכיפה אנושית ומבוססת בינה מלאכותית ועוד. כמו כן, לא התייחסנו לשאלת הצורך ביצירת גוף מאסדר חדש ליישום הרגולציה ולסנקציות הראויות בגין הפרתה.

40. המשימה שעומדת לפניכם היא חשובה ומורכבת. עידן הפלטפורמות מייצר במקביל הזדמנויות נפלאות לכלכלה ולחברה האזרחית וסיכונים בטיחותיים, חברתיים וביטחוניים חמורים. שנים ארוכות העידן הזה התפתח ללא נוכחות המדינה והצמיח עשבים שוטים שיצרו וממשיכים ליצור קרבנות בכל יום–בני נוער שמהווים יעד לבריונות, אנשים שפרטיותם וכבודם נרמסים בכיכר העיר הוירטואלית, וקרבנות טרור. האתגר אינו מקומי אלא גלובלי. אנו מאמינים כי יש למדינת ישראל הכלים והאמצעים לפתח מתווה רגולטורי שיוכל לשמש מודל לכל העולם הנאור ליצירת אחריותיות בקרב הפלטפורמות תוך שמירה על חופש הביטוי והדינאמיות והחדשנות שמניעים את הכלכלה הדיגיטלית קדימה.

נשמח להרחיב בכל עניין הנוגע לקול הקורא ולנייר עמדה זה, וכן להציג את עמדתנו בעל-פה בפניכם. אנו עומדים לרשותכם בכל שאלה או עניין.