אינסטנט איש: בינה מלאכותית כבר מייצרת פנים מלאכותיות

אנשי אנווידיה הצליחו לבנות קלסתרון פנים שנשען על שתי רשתות נוירונים: הראשונה מייצרת תמונות ואילו השנייה מנסה לזהות אותן. מיליוני תמונות פוטנציאליות נוצרות ומבוקרות כך, עד שמגיעות לרמה בה הרשת יודעת שמדובר באדם, וכך נוצרת תמונה שנראית אותנטית לחלוטין. 

מי מהאנשים הללו אמיתי? אף לא אחד צילום: Nvidia

התוצאה היא תמונת אדם שאינו קיים, ומורכב מאלמנטים מתמונות של הרבה אחרים שפשוט שולבו בצורה טבעית ונקייה ביותר. אנווידיה הדגימה גם יצירת חדרים וחללים בשיטה זו, ואפילו מכוניות. לטכנולוגיה זו יכולים להיות שימושים חיוביים: למשל, שימוש במערכת שתייצר תמונות סטוק יש מאין, מבלי צורך בשירותי רכישת תמונות.

חדרים פיקטיביים צילום: Nvidia

ואולם, הפוטנציאל השלילי שלה גדול ובעייתי ביותר: בעזרת כלי שמייצר אנשים יש מאין אפשר לבנות תמונות וסרטים מזויפים שייראו אמינים ביותר. בעבר יזמה DARPA, סוכנות הפרויקטים המיוחדים של הפנטגון, תוכנית לפיתוח מערכת שתדע לזהות דיפ פייק. הסיכון לביטחון לאומי הוא ברור: סרטון של מנהיג עולמי שמכריז מלחמה, מודה בפשעים או מתפטר יכול לגרום לצלילות קיצוניות בבורסות, לזרוע פאניקה ציבורית ועוד. עד כדי כך, שהפנטגון הודיע במאי שעבר שטכנולוגיה זו עלולה להוות איום חמור ביותר על יציבות העולם.

אבל בסוכנות העלו ספק בדבר היכולת לזהות אותה אפילו אם משתמשים ברשתות נוירונים. "תיאורטית גם אם תספק לבינה מלאכותית את היכולות לזהות את הטכניקה, יכול מאוד להיות שהיא תיכשל בזיהוין", אמר מנהל הפרויקט של DARPA, דייויד גאנינג לבטאון ה-MIT.