כך פגעה הקורונה בתגובה של פייסבוק לתכני פדופיליה והתאבדות

בחודשים האחרונים, כתבתי כאן לא מעט על כל הנזקים העקיפים שנגרמים כתוצאה מהקורונה, ובעיקר מהמדיניות שננקטתה בתגובה להתפשטות המגיפה. החל ממשברים נפשיים, עבור בפגיעות קשות בילדים וגם בקשישים, דרך התחזקות של התאגידים הגדולים ועד פגיעה נרחבת בפרטיות. בשלל דרכים, צורות ושיטות.

והבעיה עם הנזקים השונים האלו שחלקים מתגלים אליהם רק אחרי זמן ניכר, חודשים אחרי שכבר גרמו את פגיעתם, ושייקח זמן ניכר נוסף על מנת להעריך את היקף הפגיעה הזו. הפעם מתגלה המידע הזה באדיבות פייסבוק, במסגרת הדו"ח התקופתי שלה על אכיפת מדיניות התוכן ברשת החברתית ובאינסטגרם.

התאבדויות ברשת החברתית פייסבוק

עם פרוץ המגיפה נקטה הרשת החברתית בכמה צעדים מתבקשים על מנת להגן על העובדים שלה. אחד המיידיים שבהם, כמו אצל חברות רבות אחרות, היה לסגור את המשרדים ולשלוח את העובדים לעבודה מהבית. צעד זה כלל גם את בקרי התוכן של פייסבוק, שטכנית אינם עובדים שלה אלא מועסקים דרך חברת קבלן. "בגלל מגיפת הקורונה, שלחנו את בקרי התוכן שלנו הביתה במרץ כדי להגן על שלומם ובריאותם, והסתמכנו בצורה רחבה הרבה יותר על הטכנולוגיה שלנו כדי לעזור לנו לבחון תוכן", כתב סגן נשיא פייסבוק, גיא רוזן, בפוסט שמסכם את הדו"ח. "מאז החזקנו בקרים רבים לעבודה מקוונת מהבית. הדו"ח של היום מראה את ההשפעה של משבר הקורונה על ניהול התוכן שלנו ומדגים שבשעה שהטכנולוגיה שלנו לזיהוי והסרת תוכן אלים משתפרת, ימשיכו להיות תחומים שבהם אנחנו מסתמכים על אנשים לבחון תוכן ולאמן את הטכנולוגיה שלנו".

לדברי רוזן, פייסבוק עושה שימוש ניכר בבני אדם כדי לבחון תכנים שקשורים להתאבדות, פגיעה עצמית וניצול ילדים, וכדי לשפר טכנולוגיה לזיהוי תכנים שמפירים את מדיניות החברה בנושא. "עם פחות בקרי תוכן, נקטנו בפחות פעולות בכל הנוגע לתוכן שקשור להתאבדות ופגיעה עצמית בפייסבוק ובאינסטגרם ובתוכן שקשור לערום וניצול מיני של ילדים באינסטגרם", אמר רוזן.

לפי הדו"ח, בשעה שבין אפריל ליוני 2019 נקטה אינסטגרם בפעולה כלשהי נגד 526.1 אלף יחידות תוכן שקשורות לעירום וניצול מיני של ילדים, בתקופה המקבילה השנה המספר ירד ב-8.9% ל-479.4 אלף יחידות תוכן. בכל הנוגע להתאבדות ופגיעה עצמית ההפרש היה משמעותי יותר. בפייסבוק בין אפריל למאי 2020 נקטה החברה בפעולה נגד 911 אלף יחידות תוכן, ירידה של 54.5% לעומת התקופה המקבילה בשנה שעברה. באינסטגרם נרשה התרסקות של 67.2%, עם פעולה נגד 275 אלף יחידות תוכן בלבד.

פדופיליה ברשת החברתית צילום: שאטרסטוק

כל זה קרה בתקופה שבה היקף השימוש ברשתות חברתיות עלה משמעותית, בגלל הסגרים הנרחבים. רוזן הבהיר עם זאת שלמרות הירידה במספר התכנים, פייסבוק תעדפה ופעלה נגד התוכן המזיק ביותר. "המיקוד שלנו נותר באיתור והסרת תכנים אלו, בשעה שאנחנו מגדילים את תפוקת הבקרים באופן המהיר והבטוח ביותר שאפשר", הוסיף.

הירידה בהיקף הפעילות בתחומים האלו בעייתית במיוחד. תוכן סביב ערום וניצול מיני של ילדים מהווה בפני עצמו פגיעה חמורה בילדים שבהם הוא עוסק, ומעמיד ילדים נוספים בפני סיכון לפגיעות מסוג זה. תכנים שעוסקים בהתאבדות ובפגיעה עצמית, במיוחד כאלו שמאדירים את הנושא, מעודדים לפעולות מסוג זה או מסבירים איך לבצע אותם, יכולים להביא אנשים לכדי התאבדות. יש חשיבות אמיתית בהתמודדות עם תכנים אלו, מדובר בלא פחות מסוגיה של חיי אדם ושלומם של ילדים. העובדה שפייסבוק עשתה זו בצורה פחות טובה בשבועות הראשונים של מגיפת הקורונה מדאיגה, במיוחד מכיוון שכנראה לא נוכל לדעת בוודאות מה היו ההשלכות של כך בעולם הלא-מקוון.

במקרה זה דווקא אין לי ביקורת מיוחדת על פייסבוק. החברה הגיבה למצב חסר תקדים ומרובה חוסר-ודאות בצורה הטובה ביותר שיכלה, לאור המידע שהיה ברשותה. הרי אם היתה ממשיכה להפעיל את מסנני התוכן שלה כרגיל היתה מסתכנת ביצירת מוקדי הדבקה נרחבים וחוטפת ביקורת על כך, וההשלכות של ההחלטה שלה להפסיק את עבודתם בטווח הזמן המיידי לא היו ברורות באותה עת. ולזכותה של החברה צריך גם לציין ששיפורים במערך הטכנולוגי שלה אפשרו לה להגדיל את מספר ואת יעילות הפעולות שננקטו נגד יחידות תוכן בתחומים אחרים (למשל, 95% מכל ביטויי השטנה שהסירה החברה טופלו פרואקטיבית, עוד לפני שנתקבל לגביהם דיווח. זאת, לעומת 86% בתקופה המקבילה בשנה שעברה).

הבעיה כאן היא בכלל לא פייסבוק, אלא סוגיה רחבה יותר שהנתונים העדכניים חושפים רק טפח ממנה. בתחילת ההתפרצות, אי-שם בסוף פברואר/תחילת מרץ, העיסוק בנזקי הקורונה התמקד באופן בלעדי כמעט בנפגעים הישירים מן המחלה – מתים, חולים קשה – ובמידה פחותה אך עדיין משמעותית בנזקים הכלכליים שלה. אבל ההשפעה של המגיפה רחבה הרבה יותר, וחלק ניכר מהפגיעה מגיעה לא מהמגיפה עצמה אלא מהתגובות לה, מהסגרים והפסקת העבודה במשרדים ומדיניות אחרת שננקטה על מנת להגביל את התפשטות המגיפה.

המשמעות היא לא שצריך לעצור הכל ולחזור לשגרה כאילו כלום לא קרה, אלא להסתכל על הקורונה בצורה רחבה יותר. בימים אלו, כשהתחלואה בישראל עדיין גבוהה וכשהדיבורים על חידוש הסגר עולים ויורדים, זה הזמן להשתחרר מראיית המנהרה של מספר חולים, מאושפזים, מונשמים ומתים כתוצאה מהנגיף ולהתסכל גם על אלו שנפגעו ועדיין נפגעים מהמדיניות שנועדה להגביל את התפשטותו. אולי יותר קשה להצמיד להם שם ולמנות אותם, אבל גם הם חלק מקרבנות הקורונה, וגם הם צריכים להיות חלק במערך השיקולים של מקבלי ההחלטות.