ה"תחרות" של פייסבוק הוכיחה: אין עדיין פתרון לסרטוני הדיפ פייק
כ-2,100 חוקרים ששכרה הרשת החברתית פיתחו 35 אלף אלגוריתמים שנועדו לזהות סרטונים ותמונות שעברו מניפולציה - למשל, אדם שנראה ונשמע אומר משהו שמעולם לא אמר; מה היה אחוז ההצלחה?
תחרות זיהוי תמונות וסרטוני דיפ פייק שארגנה פייסבוק הניבה תוצאות עגומות, הפתרון המנצח סיפק רמת דיוק של כ-65% כך לפי הודעתה של פייסבוק בפוסט שפרסמה בסוף השבוע בבלוג חטיבת הבינה המלאכותית שלה.
- פייסבוק תילחם ב"דיפ פייק"? בקונגרס לא מאמינים לה
- טכנולוגיית הדיפ פייק מגיעה לרשתות החברתיות וזה דווקא דבר טוב
- סכנת הדיפ פייק: הציבור לא מחוסן, פייסבוק לא ערוכה
התחרות נערכה בקרב אלפי חוקרים שפיתחו עשרות אלפי אלגוריתמים שנועדו לזהות מדיה שעברה מניפולציה מבוססת דיפ פייק.
ימי הקורונה והמחאה החברתית של תנועת "חיי שחורים חשובים" הם כר פורה לקמפיינים מסיביים של דיסיאינפורציה ברשתות החברתיות. אחד הכלים היעילים והנפוצים ביותר לייצר אותם מתבססים על טכנולוגיית "דיפ פייק" או deepfake. הבעיה קשה ביותר ובעיקר עבור פייסבוק שמנסה כבר תקופה ארוכה למצוא פתרון תוכנה שיאפשר לה למחוק את הסרטונים הללו בסיטונות.
היתרון הגדול של הטכנולוגיה הזו הוא באפשרות להפוך בקלות סרטון למשהו שונה לגמרי ללא עריכה מגמתית או שינוי בחומר הגלם המקורי. השיטה עובדת כך: יוצר הדיפ פייק משתמש בסרטון אמיתי וקיים ובעזרת אפליקציית בינה מלאכותית, משתיל אלמנטים שהוא בוחר בתוכו. המחשב לאחר מכן עושה את רוב העבודה ומסוגל להפיק סרטון או תמונה שנראים לנו אמיתיים מאוד.
מארק צוקרברג צילום: איי אף פי השימוש הפופולרי ביותר הוא להשתיל פנים של סלבריטאיות על סרטוני פורנו, אך כבר נצפו סרטונים בהם בוצעה מניפולציה שגורמת גם לפוליטיקאי לומר משהו שהוא מעולם לא הצהיר. סרטון שהופץ לפני כשנתיים ביוטיוב הראת כיצד ניתן לגרום לנשיא ארה"ב לשעבר ברק אובמה לומר דברים שהוא לא אמר מעולם.
בכל מקרה, הסכנה המיידית היא כמובן המניפולציה שניתן לבצע. הטכנולוגיה עדיין לא שימשה בפועל להפצה של פייק ניוז (עד כמה שאנחנו יודעים), אך היא כן שימשה להטרדות מיניות של שחקניות קולנוע ידועות וגם של נשים שסבלו מנקמה של בן זוג לשעבר חסר מצפון. מספיק סרטון אחד כזה שמופץ במדיה החברתית כדי לייצר נזק פסיכולוגי והשפלה פומבית גם אם לא מדובר במצב אמיתי.
(אילוסטרציה) צילום: Nvidia התחרות של פייסבוק כללה כ-2,100 משתתפים שיצרו כ-35 אלף אלגוריתמים שונים. כל אחד מהם ניסה לזהות סרטון דיפ פייק מתוך מאגר של כ-100 אלף קליפים. כדי להמחיש עד כמה פייסבוק לוקחת את הסכנה הזו ברצינות, היא שכרה כ-3,000 שחקנים כדי שישתתפו ביצירת הקליפים לתחרות. המניפולציה בוצעה על ידי הדבקה של פני שחקן אחד על פניו של שחקן אחר או שינוי הקול כדי שיאמר משהו אחר לגמרי.
הבעיה העיקרית בדיפ פייק היא הקלות היחסית בה ניתן ליצור אותם. אם בעבר כדי לזייף סרטון נדרשו אנשי מקצוע וציוד אולפנים יקר, תוכנות דיפ פייק בקוד פתוח לא עולות כסף וניתן להפעיל אותן על כל מחשב ביתי בעל עוצמה סבירה. בנוסף, הן לא דורשות כישורים טכניים יוצאי דופן ואפשר ללמוד לייצר סרטון כזה די מהר.
כאשר המפתחים "אימנו" את האלגוריתמים שלהם על סרטונים שפייסבוק יצרה, אלה הניבו תוצאות של כ-82% זיהוי. אך כאשר הועלתה דרגת הקושי והם נדרשו לזהות סרטונים שלא הכירו לפני כן, רמת ההצלחה ירדה דרמטית לכ-65%. שזה לא רע, אבל רחוק מלהספיק כדי להפעיל מערכות זיהוי ממוכנות כפי שפייסבוק זקוקה.
עם זאת בחברה שוקדים בימים אלה על פיתוח מערכת זיהוי פנימית זאת לאחר שאסרה על הפצת סרטונים ותמונות דיפ פייק בפלטפורמות שלה בשנה שעברה. בחירות 2020 לנשיאות מהוות את קו הסיום ובחברה מאוד מעוניינים להיות מסוגלים להיאבק בסרטונים האלה לפני קו הסיום של הקמפיינים הפוליטיים שצפויים לצבור תאוצה בחודשים הקרובים.
