לידיעת השר ארדן: כך תוכל לפעול נגד הסתה בפייסבוק

האם לפייסבוק יש חלק באחריות לפיגועים בהם נרצחו בחודשים האחרונים ישראלים בידי מפגעים פלסטינים, ולאירועי טרור אחרים ברחבי העולם? שאלה זו חדרה ביומיים האחרונים ללב הדיון הציבורי בעקבות שרשרת אמירות של השר לבטחון פנים גלעד ארדן, שאמר השבוע כי "פייסבוק, לצערי הרב, הפכה למפלצת. הדור הצעיר ברשות הפלסטינית, את כל ההסתה והשקרים שהוא אוגר ובסוף יוצא לבצע מעשי רצח, זה קורה על הפלטפורמה הזו. מארק צוקרברג — על ידיו נמצא חלק מהדם של הנרצחים".

ארדן האשים את פייסבוק בחבלה בעבודת המשטרה, בחוסר שיתוף פעולה מצד הרשת החברתית במקרה של פניות לקבלת מידע ובהצבת רף גבוה מדי להסרת פוסטים שמוגדרים על ידי ארדן כמסיתים, וספציפית בכך שלא העבירו למשטרה מידע על הפוסטים של המחבל מוחמד נאסר טריירה שרצח את הילדה הלל יפה במיטתה בקריית ארבע. בהמשך טען בסדרה של ציוצים בטוויטר כי לפייסבוק יש יכולת לנטר ולהסיר תכני הסתה שמובילים לרצח, כי יש מדינות שבהן היא פועלת באופן שונה וכי כחברה שמרוויחה מיליארדים מתכני גולשים יש לה אחריות לעשות זאת.

גלעד ארדן צילום: נמרוד גליקמן

הצורך בניטור הדוק יותר של פוסטים מסיתים הוא אמיתי, והיכולת הטכנולוגית לעשות זאת אפילו קיימת, אבל ארדן צריך להכיר בכך שזה אינו תפקידה הטבעי של פייסבוק. מחויבותה העיקרית היא כלפי המשתמשים והחופש שלהם לעשות שימוש בטוח וחופשי ככל האפשר בפלטפורמה שלה. האחריות הבלעדית לכך היא של כוחות אכיפת החוק, שצריכים ללמוד כיצד להתמודד עם הרשתות החברתיות ולנצל את הכלים שהן מעמידות למאבק באלימות.

איך מונעים אלימות מבלי לפגוע קשות בחופש הביטוי

ההסרה של תכנים המעודדים אלימות (כמו פוסטים שקוראים לרצח או סרטוני פיגועים שמציגים אותם באור חיובי) מתחילה ב"סטנדרטים הקהילתיים" של פייסבוק — רשימה פשוטה למדי של כללים המשותפת לכל המדינות שבהן היא פועלת, האוסרים, למשל, על הפעלת דפים של ארגוני טרור, על תכנים שמהווים "איום על בטחון הציבור", על פרסום "תכני שנאה" או על שימוש בפייסבוק לארגון פעילות פלילית או לשבח אותה.

צילום מתוך הווידיאו החי ששידר בפייסבוק הרוצח לארוסי אבלה צילום: facebook

עם זאת, רובה המוחלט של אכיפת הכללים מתבצעת רק בתגובה לדיווחי גולשים, ולא באופן יזום על ידי החברה, כפי שארדן דורש — וכאן ההגדרות המעורפלות של המדיניות מאפשרות התנהלות כאוטית למדי, שיש המפרשים אותה כעיקום הכללים לטובת אינטרסים מסחריים, כמו הרצון שלא לקומם את משתמשיה בעולם הערבי. כך, לדוגמה, הוסרו בעקבות פניות גולשים דפי פייסבוק של הארגון הגזעני להב"ה ואחד מדפיו של יואב אליאסי ("הצל"), בשעה שחלק מהפרופילים של משתמשים פלסטינים, שמפרסמים פוסטים אנטי־ישראליים ואף מסיתים, נותרים באוויר גם לאחר דיווחים רבים.

מנגנונים אוטומטיים לחסימת משתמשים שמעלים תכנים בעיתיים כבר פועלים בפייסבוק מזה מספר שנים בהיקף מצומצם מאוד, לדוגמה מנגנון שמוחק אימג'ים מסוימים המציגים סמלים נאציים. אבל בעקבות אירועי הטרור של השנים האחרונות החלה החברה לחרוג ממדיניות האכיפה הפסיבית שלה — גם אם לא באופן רשמי ולא בישראל — וכעת היא מפעילה, על פי דיווח הגרדיאן, מערכת אוטומטית לזיהוי והסרה של סרטונים המוגדרים כ"מעודדים אלימות", כמו סרטוני העריפה של דאע"ש. המערכת מוגבלת בשלב זה לנסיונות להפצה חוזרת של סרטונים, שכבר הועלו על ידי משתמשים אחרים ונמצאו בלתי הולמים.

יואב אליאסי ("הצל") ותומכיו. פייסבוק הסירה את דף המעריצים צילום: טל שחר

מלבד רצונה להימנע מביקורת נרחבת על פגיעה בחופש הביטוי, הסיבות העיקריות לחשאיות המהלך של פייסבוק הן כנראה הנסיון לחמוק מהאפשרות שטרוריסטים ילמדו כיצד המנגנונים האוטומטיים פועלים וילמדו לעקוף אותם, לצד חשש מיצירת תקדים שיגרום לממשלות במדינות פחות דמוקרטיות לדרוש מהחברה להפעיל צנזורה על תכנים רגישים מבחינה פוליטית.

פייסבוק משתפת פעולה עם ארגונים שמנטרים אלימות

פייסבוק עוסקת בחודשים האחרונים בדיונים ערים עם ענקיות אינטרנט אחרות כמו גוגל, טוויטר ומיקרוסופט ועם ממשלות ארה"ב וכמה ממדינות אירופה בנסיון להבין כיצד ניתן להדק את הפיקוח על התכנים מבלי להרגיז את המשתמשים ולפגוע בהכנסות. בגרמניה, לדוגמה, היא משתפת פעולה עם ארגון בשם FSM שמנטר באופן פעיל פרסומי שנאה נגד פליטים ומהגרים ברשתות החברתיות.

פוסט נגד זוגות מעורבים של ארגון להב"ה, מתוך דף פייסבוק שהוסר צילום: facebook

הטענה השניה של ארדן, כי פייסבוק מחבלת בעבודת המשטרה מכיוון שאינה טורחת לנטר בעצמה תכנים בעייתיים ולהתריע בפני כוחות אכיפת החוק, כמו במקרה של טריירה שפרסם כמה ימים לפני הפיגוע פוסטים שהיללו מחבלים, בעיקר מעוררת תמיהה: לחברה יש כיום יותר ממיליארד וחצי משתמשים פעילים שמפרסמים מיליארדי פוסטים ביום, ואף שקיימות היום טכנולוגיות שמסוגלות לעבור על כל התכנים שמתפרסמים בשירות בזמן אמת ולאתר מילות מפתח שעשויות להעיד על פוטנציאל לעבירה על החוק (בדומה לכלי הריגול בהם משתמשים למשל ב־NSA), הקביעה אם תוכן מסוים הוא פלילי או מהווה עילה לפעולה של כוחות הבטחון עדיין דורשת עין אנושית מיומנת, ידע משפטי והתאמה לחקיקה הקיימת בכל מדינה ומדינה.

כיום אין מדינות שדורשות מפייסבוק לבצע פעילות כזו, והיא עצמה לא פועלת במדינות שבהן פעילותה מותנית בשיתוף פעולה עם תביעות לצנזורה פוליטית דרקונית, כמו סין. ניטור הדוק יותר של פוסטים ושימוש ברשת החברתית כמקור למידע מודיעני הוא אפשרי, ונעשה לדוגמה בפרויקט משותף של ה־NSA וה־FBI עוד מ־2010, אבל קשה להאמין שפייסבוק תסכים לקחת חלק בפעילות יזומה סמי־משטרתית, מסיבות כלכליות ועקרוניות כאחד.

האתגרים שעומדים מולה ומול מתחרות כמו טוויטר או גוגל, עם זאת, רק גדלים: בשעה שההצלחה של דעא"ש לכבוש את תשומת הלב העולמית נותנת השראה לארגוני טרור אחרים לנסות ולנצל את הרשתות החברתיות באופן דומה, היכולות לשלוט על המידע שמועבר באמצעותן הולכת ומסתבכת.

הדוגמה האחרונה היא פיצ'ר שידורי הווידאו החיים, שכבר נוצלו לרעה לפני שבועיים בידי פעיל דאע"ש בצרפת לארוסי אבלה, שרצח בני זוג בפרבר של פריז והעלה שידור חי שבמהלכו נשבע אמונים לארגון מזירת הרצח. בניגוד לסרטונים, טקסטים ותמונות, שאותם אפשר להסיר בדיעבד, בשידורים חיים קשה הרבה יותר להיאבק.

בסופו של דבר, גם אם פייסבוק תיישר קו עם דרישות ממשלת ישראל וממשלות אחרות ותפגין קו אקטיבי ונוקשה יותר נגד תכנים הקשורים בטרור ובסביבתו הפוליטית — זו רק פלטפורמה אחת, פופולרית וחזקה ככל שתהיה. מי שירצה לייצר או לצרוך תכנים כאלו לא יתקשה למצוא או להקים לעצמו תחליף.