יש צורך לפתח מבני אחריותיות מותאמים לשימוש לרעה ברשת החברתית בעידן הדיגיטלי.
"לאנשי המשפט נוח לפעול לפי ההנחה כי צדק קהלת בן דוד באמרתו "מַה־שֶּׁהָיָה הוּא שֶׁיִּהְיֶה וּמַה־שֶׁנַּעֲשָׂה הוּא שֶׁיֵּעָשֶׂה וְאֵין כָּל־חָדָשׁ תַּחַת הַשָּׁמֶשׁ". ואולם, הנחה זו אינה עומדת במבחן המציאות, בוודאי לא בתקופה בה אנו חיים.... אין לנו אלא לאמץ את אזהרתו של המשורר מאיר אריאל ז"ל בשירו ׳נשל הנחש׳: ׳העגלה נוסעת אין עצור; קפצת ממנה היום; חלפו שנתיים/חודשיים/שעתיים; והנה נשארת מאחור׳.
המשפט אינו יכול להיוותר אדיש למציאות המשתנה".
(השופט עופר גרוסקוף, אתגרי המשפט במציאות משתנה, טכנולוגיות מתפרצות: אתגרים בדין הישראלי (2022))
מבוא
בערב השנה החדשה של שנת 2017 ביצע עבדול-קאדיר מאשאריפוב, אזרח אוזבקי המשתייך לארגון המדינה האיסלמית (דאעש או ISIS) פיגוע טרור קטלני במועדון לילה באיסטנבול, שגבה את חייהם של 39 קורבנות. מאשאריפוב אותר וגויס לדאעש, בין היתר בעקבות חשיפה לתכנים של דאעש ברשתות החברתיות. משפחתו של אחד הקורבנות בפיגוע, אשר היה אזרח אמריקאי, הגישה תביעת נזיקין נגד פלטפורמות התוכן הגדולות בעולם: פייסבוק, טוויטר, וגוגל (הבעלים של יוטיוב). התובעים טענו כי כיוון שדאעש השתמשו בפלטפורמות כדי לאתר פעילי טרור ולגייס מימון, הן נושאות באחריות נזיקית. התובעים הסתמכו על החוק האמריקאי למניעת טרור (Anti-Terrorism Act), הקובע אחריות נזיקית בגין סיוע ועידוד לעבירת טרור בינלאומי. במאי 2023 דחה בית המשפט העליון של ארצות הברית את התביעה (במסגרת ערעור), וקבע כי במקרה זה הפלטפורמות החברתיות אינן נושאות באחריות נזיקית לפיגוע טרור כמסייעות.
ברשומה זו אתאר את ההחלטה של בית המשפט ואדון בשאלה מי צריך לתת את הדין על שימוש לרעה בפלטפורמות תוכן ועל פגיעה בזכויות אדם כתוצאה מכך בעידן הדיגיטלי.
תקציר פסק הדין
בכל חודש, יש כ-3 מיליארד משתמשים פעילים בפלטפורמה של מטא; בכל דקה של כל יום מועלים כ-500 שעות סרטונים ליוטיוב; למעלה מ–300 אלף ציוצים נכתבים בכל דקה בטוויטר ובכל יום משתמשי יוטיוב צופים ביותר ממיליארד שעות של סרטוני וידאו. הרווח של הפלטפורמות החברתיות מגיע בעיקר מפרסום. החברות מפעילות אלגוריתמים שמתאימים את הפרסומות למשתמשים (recommendation algorithms) על בסיס הנתונים הרבים שיש לפלטפורמות על כל משתמש.
על פי הנטען בפסק הדין, במשך שנים דאעש משתמשים במנגנון העסקי שהפלטפורמות מציעות כדי לאתר ולצרף פעילים לשורותיהם, לגייס משאבים, ולהפיץ את משנתם. תכנים של דאעש הועלו לטוויטר, יוטיוב ופייסבוק על ידי הארגון. האלגוריתמים של הפלטפורמות התאימו את התכנים וכן פרסומות המציגות סרטונים, פוסטים והודעות של דאעש, למשתמשים מסוימים בהתבסס על המידע שיש לפלטפורמות עליהם.
לפיכך טענו התובעים שהפלטפורמות היו כלי חיוני לצמיחה של דאעש, ואפשרו לארגון לגדול ולגייס תומכים ומשאבים. נטען כי הפלטפורמות לא זיהו את התכנים אשר קידשו ועודדו את הטרור כפוגעניים, ולא הסירו אותם כפי שראוי היה שיעשו. נהפוך הוא: בזכות האלגוריתמים המתוחכמים של הפלטפורמות, דאעש הצליחו להגיע לקהל יעד מדויק ורחב יותר ובכך להקצין את פעילותם הטרוריסטית. עוד נטען כי גוגל, שלכאורה מסננת סרטוני וידאו בטרם הם נהיים זמינים לקהל ביוטיוב שבבעלותה, למעשה חלקה ברווחים של דאעש, בזכות הפרסומות שהוצמדו לסרטונים אלו.
בית המשפט בחן אם הנתבעות – טוויטר, גוגל ופייסבוק – סייעו לדבר העבירה באופן "מודע ומהותי", כנדרש ליצירת אחריות נזיקית על פי החוק האמריקאי למניעת טרור, המאפשר לתבוע באחריות נזיקית את מי שסייע ושידל (aids and abets) לפעולת טרור על ידי כך שבאופן מודע סיפק סיוע סובסטנטיבי או שקשר קשר עם מי שביצע את עבירת הטרור. במסגרת זו, בית המשפט הדגיש שמעשה הסיוע צריך להיות מודע, אקטיבי, ושיעמוד בדרישת ההשתתפות מתוך אשם (culpable participation). בנוסף, לא מספיק שהסיוע יהיה כללי, אלא נדרש שהסיוע יהיה לפעולה ספציפית, במקרה זה פיגוע הטרור של דאעש במועדון הלילה Reina שבאיסטנבול.
כאמור, בית המשפט הגיע למסקנה כי הפעולות של הפלטפורמות לא עלו כדי סיוע לדאעש בפעולת הטרור, אך הדרך לקביעה זו מעוררת תהיות באשר לקונסטלציה המשפטית המתאימה בימינו לבחון שאלות מסוג זה.
דיון
במסקנתו בית המשפט הכיר בכך שדאעש עשו שימוש בפלטפורמות, וכן בכך שהמערכת האלגוריתמית של הפלטפורמות "התאימה" את התכנים למשתמשים מסוימים – שהיו מגויסים פוטנציאלים לדאעש. הוא אף ציין כי ייתכן שהפלטפורמות לא עשו די בכדי להסיר את התכנים המעודדים טרור. עם זאת, בית המשפט קבע כי דאעש הם רק בגדר "עוד משתמש כשאר המשתמשים", כלומר, הארגון לא קיבל יחס מיוחד מהפלטפורמות. גם מערכת ההתאמה האלגוריתמית של הפלטפורמות מתוארת כפסיבית. הקשר שבין הפלטפורמות לבין המשתמשים תואר על ידי בית המשפט כ-arm's-length relationship"" – מערכת יחסים של שני צדדים שאינם קשורים זה בזה. לפיכך, בית המשפט הגיע למסקנה כי השירות שהציעו הפלטפורמות לדאעש אינו עולה כדי סיוע לפיגוע טרור שהוא בגדר סיוע "מודע ומהותי" כנדרש בפסיקה.
מפסק הדין עולה אם כן השקפתו של בית המשפט שהפלטפורמות החברתיות הן כלי ניטרלי לחלוטין. בית המשפט רואה בהן תשתית "אדישה" לאירוע, נטולת כל שליטה בו – הן אדישות לגבי התוכן שעולה בהן, לא מסננות אותו ולא בודקות אותו. התמונה המצטיירת מפסק הדין אם כן, היא שהצלחתה של דאעש, פועלה, וההד שצברה, הם אגביים לשירותים שהפלטפורמות מציעות ולמודל העסקי שלהן. לכן גם העובדה שהפלטפורמות לא הסירו את התכנים של דאעש כשלעצמה לא מהווה השתתפות מתוך אשם למעשה הטרור הספציפי שבנדון.
במילים אחרות, בראייתו של בית המשפט, הפלטפורמות הן רק כלי להעברת מידע למיליארדים של משתמשים, ולקיים אינטראקציות אנושיות שבעבר היו מתרחשות בטלפון, בדואר אלקטרוני, או במרחבים ציבוריים אחרים. בהקשר זה בית המשפט משווה את הפלטפורמות לחברות טלפון או בנקים. אלו חברות המספקות תשתיות ניטרליות, אשר גם אם נעשה בהן שימוש על ידי עבריינים (למשל, עסקת סמים המתבצעת הטלפון), אין להן חלק באירוע הפלילי. לכן, לפי בית המשפט, אין די בכך שמשתמשים מסויימים משתמשים לרעה ברשתות כדי להטיל עליהן אחריות נזיקית בגין סיוע למבצעי העוולה. אמנם הפלטפורמות נכשלו בלעצור את דאעש (לא הסירו את התכנים), אך דיני הנזיקין מאז ומעולם נמנעו מהטלת אחריות על הימנעות מביצוע פעולה.
עם זאת, נקודה חשובה שבית המשפט מעלה היא כי טענות התובעים יכלו לעמוד אילו הייתה חובה עצמאית בדיני הנזיקין לפיה על הפלטפורמות הייתה חובה להסיר תוכן של דאעש – אך כיום אין חובה כזו. בית המשפט ציין שאולי בעתיד יתכנו מצבים כאלו – בהן לפלטפורמות תקום חובה להסיר תוכן – אך נמנע מלעסוק בשאלה זו במסגרת פסק הדין הנוכחי. בדוגמאות למצבים אפשריים מסוג זה שבית המשפט כן בחר לפרט, הוא מנה מצב בו הפלטפורמה מפרסמת כלים מסוכנים שמכירתם לקבוצות טרור עשויה להיחשב כסיוע לפעולת טרור נחזית. דוגמה אחרת היא פלטפורמה שבאופן מודע וסלקטיבי בוחרת לקדם תוכן של ארגון טרור מסוים, ולכן יתכן שהיא תיחשב מסייעת לו מתוך אשם. במקרים מהסוג שבדוגמאות, טען בית המשפט, הפלטפורמות לכאורה מציעות סיוע שהוא יותר ישיר, אקטיבי, ומהותי.
פסק הדין בעניין טוויטר מגיע במקביל להחלטה צפויה בפרשת Gonzales v. Google,שעניינה החסינות שיש לפלטפורמות מפני אחריות בגין התוכן המועלה בהן על ידי משתמשים (מתוקף סעיף 230 לחוק התקשורת האמריקאי). גם בגונזלס טענו משפחות של קורבנות פיגוע שביצעה דאעש (ב-2015 בפריז) שהמלצות תוכן אלגוריתמיות ופרסום תוכן טרוריסטי מסייעים לגייס חברי טרור חדשים ומאפשרים את ה"תשתית" לפעולו של ארגון הטרור. אלא שבגונזלס טענה הנתבעת – חברת גוגל – שהיא מוגנת במסגרת סעיף 230. בית המשפט החליט להחזיר את הדיון ולהפנות לערכאות הנמוכות לאחר שייתנן פסק הדין בעניין טוויטר.
אם כן, אף שנראה כי בית המשפט צדק בקבעו שהמבנה המשפטי של העוולה הנזיקית של סיוע ושידול אינו מתאים בנסיבות המקרה, ליבת הבעיה המשתקפת מפסק הדין אינה בהכרח חוסר ההתאמה של דיני הנזיקין למבנה הפעילות של פלטפורמות התוכן, אלא, היעדר קונסטלציה משפטית אלטרנטיבית לאתגרים מסוג זה ככלל.
בהיעדר קונסטלציה אלטרנטיבית בדיני הנזיקין או בדינים אחרים, נותר ואקום משפטי בכל הקשור לאחריותיות של פלטפורמות תוכן בינלאומיות, לא רק לתוכן המתפרסם בהן על ידי משתמשים אלא גם בכל הנוגע לשימוש לרעה שנעשה על ידי משתמשים במנגנונים שהפלטפורמות מציעות (כמו מערכת התאמת התכנים האלגוריתמית), ובאפקט העוצמתי של הפרסום בהן על זכויות אדם, בהינתן המימדים, המהירות, גודל הקהל, והעוצמה של החשיפה לתכנים בפלטפורמות תוכן בעידן הדיגיטלי.
ראיה לבעיה זו, של היעדר קונסטלציה משפטית מתאימה לעוצמתן של הפלטפורמות והשפעתן הרחבה והגלובלית על זכויות אדם, היא באנלוגיה שעשה בית המשפט בין הפלטפורמות לבין תשתית טלפון או בנק. עצם הבחירה באנלוגיה זו מעידה על כך שהשוני המהותי בין היכולות הטכנולוגיות של הפלטפורמות וכוחן לבין היכולות והכוח של תשתיות בלתי-מקוונות, נעלם מעיני בית המשפט. האם קו טלפון מסוגל לזהות מגויסים פוטנציאלים לארגון טרור ולהפעיל שיחות חוזרות ונשנות שיפרסו באוזני המטלפן את משנתן שוב ושוב (כפי שעושים האלגוריתמים, תופעה המכונה "תיבות תהודה")? האם בעולם שבו הסביבה והמכשור הדיגיטליים כרוכים כמעט בכל פעולה שאנחנו מבצעים בשגרה, אנחנו כמשתמשים יכולים "לנתק" את הפלטפורמות, להתנתק מהסביבה הדיגיטלית ככלל, כשם שניתן היה לנתק שיחת טלפון בודדת? זאת ועוד, במציאות שבה האלגוריתם יכול ליצור פרופיל מדוקדק של כל משתמש ומשתמשת במרשתת – פרופיל שהוא הרבה מעבר לחיתוך גילאי או סוציואקונומי, וכולל זיהוי של מצב נפשי, מגדר, מצב משפחתי, מיקום גאוגרפי, עיסוק מקצועי, ועוד – ולהתאים את התכנים כך שגם ישפיעו על תודעתו בהצלחה רבה יותר, נדמה שקשה מאוד להשוות את סוג התשתית והמנגנונים הטכנולוגיים המתוחכמים הללו לאותו מנגנון ניטרלי המאפיין את היחסים בין בנק לבין לקוחותיו.
בהקשר זה מעניין לציין שכבר לפני חמש שנים, בדוח שפרסמה המועצה לזכויות אדם של האו"ם, נשמעה ביקורת על כך שהתגובה של פייסבוק הייתה איטית ובלתי מספקת בכל הקשור למניעת הסתה באמצעות הפלטפורמה, בשיאו של טיהור אתני שהתרחש כנגד אוכלוסיית הרוהינגה במיאנמר. כמו בפסק הדין בעניין טוויטר, גם דוח המועצה לזכויות אדם הציג את התפקיד של הפלטפורמה כפסיבי, כאשר כל שנדרש ממנה היה לנקוט בצעדי מניעה על ידי סינון תכנים, והביקורת נסובה על כך שפייסבוק לא עשתה מספיק כדי למנוע את ההסתה שהשתוללה באמצעות הפלטפורמה. אולם השאלה באשר ל"פאסיביות" של האלגוריתם נותרה בלתי פתורה. כך למשל, דוח שפרסם ארגון אמנסטי אינטרנשיונל ב-2022 בעניין מעורבות הרשתות החברתיות בהסתה שהתחוללה במיאנמר קבע שהמנגנון האלגוריתמי של פייסבוק, איננו פאסיבי. לטענת הארגון, האלגוריתמים לעיצוב תוכן של חברת מטא, לא היו רק פסיביים וניטרליים, אלא הגבירו וקידמו באופן יזום תוכן שהסית לאלימות, שנאה והפליה כלפי אוכלוסיית הרוהינגה.
לפיכך ראוי לשקול אם לאור השינויים הטכנולוגים, יש לייצר מבניים משפטיים חדשים, ומותאמים יותר, לאחריותיות לזכויות אדם בעידן הדיגיטלי.
סיכום
על אף שפסק הדין בעניין טוויטר מכריע נכונה מבחינה משפטית בנוגע לחוסר ההתאמה בין מבנה דיני הסיוע בנזיקין לבין אופן פעולתן של פלטפורמות התוכן הדיגיטליות, הוא מותיר שובל של לקונות משפטיות. כך, לדוגמה, עולה שאלה בנוגע לסוגיית ה"העצמה" – כאשר המערכת האלגוריתמית של הפלטפורמה אינה פסיבית אלא "דוחפת" תכנים מסוימים למשתמש. האם עליה לשאת באחריות לנזקים הנגרמים כתוצאה מכך? ואם כן, מה היקף האחריות הראוי?
גם אם תאומץ פרשנות רדיקאלית, השוני ביכולות ובמאפיינים בין טכנולוגיות חדשות בעידן הדיגיטלי לבין טכנולוגיות ישנות הוא מהותי. אין לטכנולוגיות חדשות אח ורע, וגם לא תקדים, בעולם האנלוגי: לא מבחינת ההיקף, לא מבחינת המהירות, ולא מבחינת העוצמה של השפעתן על התודעה של קהל היעד. בנסיבות אלה ראוי לשקול באילו כלים ראוי להגן על זכויות אדם בעידן הדיגיטלי, ואם הכלים המשפטיים העומדים לרשותנו עודם רלוונטיים, או שמא יש לפתח כלים ומבנים משפטיים חדשים ומותאמים לאתגרים שמזמנת הסביבה הדיגיטלית.
כלים אלו יכולים להיות בדמותן של זכויות דיגיטליות חדשות, או ביצירת נשאי חובות חדשים לזכויות אלה, בראש ובראשונה חברות פרטיות. זאת, לעומת המצב כיום בו ככלל, המדינות הן השחקניות המרכזיות האחראיות על הגנה על זכויות אדם, ואילו חברות פרטיות נדרשות רק לכבד את הזכויות במסגרת כללים מנחים שהם בגדר "משפט רך".
כך, לדוגמה, בחוקה לזכויות דיגיטליות בספרד, עומדת למשתמשים זכות דיגיטלית חדשה – הזכות לביטחון ברשת. לצד זאת, ה"חוקה הדיגיטלית" קובעת את החובה של ספקי תוכן שלא להשתמש בטכנולוגיות אנליטיות המנתחות אישיות משתמשים כדי להציע להם תכנים שהם בגדר השפעה אידיאולוגית או דתית או תכנים המשפיעים על חופש המצפון והמחשבה.
פסק הדין בעניין טוויטר ממחיש כיצד תוכן המתפרסם ברשתות החברתיות, ובמרחב הדיגיטלי ככלל, עשוי להשפיע על זכויות אדם הרבה מעבר לסביבה הדיגיטלית, גם בעולם הבלתי-מקוון. ראוי אם כן, שגם יריעת ההגנה על זכויות אדם תורחב מהעולם הלא-מקוון אל הספירה הדיגיטלית, באופן המותאם ומעודכן לאתגרי העידן הדיגיטלי.
דפנה דרור-שפוליאנסקי היא דוקטורנטית בפקולטה למשפטים, האוניברסיטה העברית בירושלים; דוקטורנטית אורחת בפקולטה למשפטים, אוניברסיטת טורונטו; ועמיתת מחקר בפרויקט Three Generations of Digital Human Rights, European Research Council (ERC) Research Project .