"אנחנו יושבים על היכולת להרוג את האנושות כמה פעמים, וזה יכול לקרות מחר בבוקר"

"אנחנו יושבים על היכולות הפיזית להרוג את האנושות כמה וכמה פעמים, וזה יכול לקרות מחר", כך אומר ד"ר שחר אבין, אחד מראשוני החוקרים במרכז לחקר סיכונים קיומיים באוניברסיטת קיימברידג'. אבין ועמיתיו מתעסקים בשאלות הגדולות באמת, והמפחידות באמת: "האם יש תרחישים שבהם האנושות כולה, כולנו, יכולים להיעלם. תרחישים שבהם מתים לפחות מיליארד איש. בתרחישים המעניינים באמת, כולם מתים". זה אולי נשמע פסימי, אבל אבין דווקא משדר רוח אופטימית: התפקיד שלו ושל חבריו הוא לחשוב על דרכים שימנעו מהתרחישים האלה להתממש.

רעיונות ואנשים יוצאי דופן שיגרמו לכם לראות את העולם קצת אחרת

 

להאזנה לפודקאסט לחצו כאן >>

יש שורת תרחישים שמעסיקים את אבין ועמיתיו בקיימברידג' - מהתחממות גלובלית, דרך פגיעת אסטרואיד בכדור הארץ ועד למגיפות ענק. לכל אחד מאנשי המרכז יש התמחות משלו, והמומחיות של אבין היא בעולם הטכנולוגיה, ובמיוחד הבינה המלאכותית, בגלל הרקע שלו בתכנות. לפני שהצטרף למרכז הוא עבד בגוגל, ושם, הוא מספר בראיון מרתק לפודקאסט "הכמוסה", העובדים דיברו בארוחות הצהריים על האפשרות ליצור תבונת-על, בינה מלאכותית שחכמה יותר מהאנושות כולה. וזה עורר את העניין שלו.

יש לא מעט אנשים שטוענים היום שהבינה המלאכותית תהיה יותר חכמה מאיתנו ותשתלט על העולם. אתה שותף לדעה הזו?

"אני חושב שהטיעונים הם סבירים", אומר אבין, ומתאר את המוח שלנו במונחים מעולם החישוביות: "מה שיושב לנו בראש זו מערכת פיזיקלית שיודעת לעשות חישובים ומניפולציות על מידע, היא מאוד מפותחת ויהיה קשה לשכפל אותה בסיליקון. אבל יום אחד, אם ממש נתאמץ, נצליח. וברגע שאתה בסיליקון ורץ בטרה-הרץ במקום הקילו-הרצים הבודדים שיש לנו בקופסה, אפשר להגיע למחשבים שהביצועים שלהם משמעותית יותר גדולים.

"השאלה היא מה קורה כשיש לך תבונה כזו, כלומר היכולת הפרקטית לפתור בעיות. מתישהו נגיע למערכת שיודעת להיכנס לחדר ולזרוק את הזבל, ואחר כך נגיע למערכת שתדע לעצב קמפיין מדיה שיהפוך אותי לנשיא הבא של ארה"ב, או לייצר קמפיין טקטי שיאפשר לי להשתלט באמצעות שלושה חיילים על בסיס שמגנים עליו אלף חיילים".

ד"ר שחר אבין. כדאי להכין תיק בריחה? "זה לא רע להיות מוכן לאסון"

אבין מסביר כי "המערכות האלה יוכלו להתמודד עם בעיות יותר ויותר גדולות, ויחפשו יותר דרכים להתמודד עם כל בעיה, ופה נכנס הטיעון שאם אתה לא יודע איך המערכת שלך פותרת את הבעיה - וכבר היום ברשתות נוירונים מסוימות אנחנו לא יודעים בדיוק איך הן פותרות בעיות - יכול להיות שהמערכות האלה יבחנו גם פתרונות שמוציאים את בני האדם מהמשוואה או מחלישים אותם משמעותית.

"זה לא עניין של טוב או רע, אלא של יכולות. כרגע אין טיעון מוחץ שאומר שלא נוכל לייצר מערכת שהיכולות שלה משמעותית יותר גדולות משל כל האנושות יחד. זה כמו לשבת על פצצה גרעינית יותר גדולה מכל מה שאנחנו מכירים ולהגיד שיהיה בסדר".

איזה שימושים מסוכנים יש כבר היום בבינה מלאכותית?

"היום כמעט כל אדם יכול להשתמש במחשבים כדי ליצור סרטון של טראמפ אומר, למשל, 'החלטתי לאסוף את הנשק מכל מי שיש לו כי זה לא בסדר', וליצור למחרת מלחמת אזרחים בארה"ב", מדגים אבין. "או סרטון שבו טראמפ אומר, 'נמאס לי מצפון קוריאה ואני הולך לשגר לשם כמה טילים גרעיניים'. לך תדע איך קים יגיב לזה. אלה טכנולוגיות שכבר קיימות.

"דוגמה אחרת: אפשר לקחת רחפן, לחבר לו מטען ומצלמה שיודעת לזהות פרצופים של אנשים ולהפוך אותו למתנקש מרחוק, שלא יכול לחזור למי ששלח אותו. אלה טכנולוגיות שכבר קיימות היום. והחשיבה היא מה יקרה כשצבאות יחליטו לפרוס חילות כאלה בצורה מאסיבית כדי להציל חיי חיילים, ואז צבא רובוטים אחד יילחם בצבא רובוטים אחר באזור בנוי, והם לא יידעו לזהות מי אזרח ומי לא".

הוריקן פלורנס בארה"ב. "דווקא בשינויי האקלים אנחנו הולכים עם ראש בקיר. הם לא יהרגו אנשים במישרין אלא בהשפעה עקיפה" צילום: gettyimages

איך נראית הקטסטרופה

אסונות וקטסטרופות מצטלמים היטב. השבועות האחרונים זימנו כמה דוגמאות, כמו צילומי הטלוויזיה של הוריקן פלורנס פוגע בארה"ב או סופת הטייפון מאנגהוט חותכת את אסיה עם רוחות במהירות של יותר מ-220 קמ"ש. ואם המציאות לא מספקת קטסטרופה עוצרת נשימה, הוליווד תפיק לנו אחת - מ"המטריקס" ועד "היום שאחרי מחר". אבל הקטסטרופות האמיתיות, שעלולות להרוג נתח משמעותי מאוכלוסיית העולם, נראות אחרת. אין בהן מפלצת מכוערת ומרושעת, וגיבורים שנלחמים בה עם גרזן ביד. למעשה, מאוד קשה להבחין בהן.

אבין נותן דוגמה אחת בולטת לטובה, לסרט שדווקא מתאר תרחיש ריאלי - "מקס הזועם": "זה סרט עם המון אקשן ודרמה, שמאחורי הקלעים יש בו עולם שנגמרו לו המשאבים כי היו יותר מדי אנשים והתחילו מלחמות, שבמקרים מסוימים היו גרעיניות. זה תרחיש לא בלתי סביר, וכנראה אם לא נעבוד קשה - נגיע לשם".

מה התסריט הריאלי לסיום החיים על כדור הארץ? אבין מתאר תרחישים שונים, כולל אחד שאנחנו לא מתמודדים איתו כיום: "דווקא בשינויי האקלים אנחנו הולכים עם ראש בקיר. הם לא יהרגו אנשים במישרין, אלא דרך יבולים שיקרסו, הגירה המונית, מגיפות מקומיות חוזרות, מלחמות מקומיות - שהן כנראה מה שיהרוג אנשים, ולא העובדה שיהיה להם חם בחוץ והם יתעלפו. אם כי גם זה יקרה".

השיחה איתך די מפחידה. בארה"ב יש אנשים שחיים עם תיק בריחה מוכן למקרה של אסון. אנחנו צריכים להכין תיק?

"זה לא רע להיות מוכן לאסון, גם אסון מקומי כמו רעידת אדמה. זה סביר שלכל משפחה יהיה תיק חירום, כדי לישון בראש קצת יותר שקט וללכת לעבודה כמו יום רגיל. אבל אם באמת קורה אסון קטסטרופלי גלובלי, אנחנו לא רוצים שהאנושות רק תשרוד. אנחנו רוצים לשמר את הציביליזציה, החשיבה המדעית, הערכים שלקח אלפי שנים לפתח. יש המון דברים שהם אוצרות של האנושות, ואת זה קשה לשמר במרתף בצנצנות. אז המטרה היא לא להגיע לשם".