המהפכה רחוקה: הגיע הזמן להתעורר מחלום הבינה המלאכותית

לפי מדעני מחשב רבים העוסקים בבינה מלאכותית, האנושות נמצאת במרחק של 10-20 שנה מפיתוח מערכות בינה מלאכותית אמיתיות - כאלו שיכולות ללמד ולשפר את עצמן, לחשוב ולהסיק מסקנות ממש כמו בני אדם. זה אמנם מה שאמרו גם לפני 20 ו-40 שנה ואפילו בשנות החמישים, אולם הפעם המדענים סבורים שהמהפכה נמצאת ממש מעבר לפינה.

הסיבה לכך היא טכניקת AI ששמה למידה עמוקה, שנהפכה לבסיס למגוון של מערכות בינה מלאכותית שבפיתוח, החל בזיהוי פנים וקול, וניתוח טקסטים, וכלה במכוניות אוטונומיות. אימוץ הלמידה העמוקה כה רחב, עד שיש שמזהים אותה עם AI באופן מלא.

אך לאחרונה יותר ויותר מומחים סבורים שהעוסקים בתחום סובלים מעודף אופטימיות. "הבינה המלאכותית כיום טיפשה הרבה יותר משאנשים חושבים", אמר פרופ' גארי מרקוס, חוקר מוביל בתחומי בינה טבעית ובינה מלאכותית מאוניברסיטת ניו יורק. "בינה מלאכותית אמורה להיות תבונה, אבל מה שיש לנו בפועל זה מערכות גסות לזיהוי דפוסים, שקל מאוד לשטות בהן".

איור: אסיה איזנשטיין

מרקוס, בעל דוקטורט במדעי הקוגניציה מ-MIT, נחשב אחד המבקרים הבולטים של אופטימיות היתר בקרב חוקרי ה-AI. הוא מכיר את התחום היטב לא רק כחוקר באקדמיה, אלא גם כיזם ומפתח: מרקוס היה מייסד ומנכ"ל Geometric Intelligence, חברת למידת מכונה שנרכשה בידי אובר ב-2016 והיתה הבסיס למעבדת ה-AI שלה. אחרי הרכישה הוביל מרקוס את פעילות ה-AI של אובר לפני שחזר לאקדמיה.

עיקר הביקורת שלו מתמקדת בשימוש ההולך וגובר שנעשה בלמידה עמוקה והתפיסה שמדובר בפתרון קסם לשלל בעיות. באופן כללי, למידה עמוקה היא שיטה שבמסגרתה מחשבים לומדים לזהות דפוסים על סמך מאגר עצום של דוגמאות מתויגות, למשל מאגר גדול של תמונות פנים שלכל פרצוף בו מוצמד זיהוי האדם שאליו הוא שייך. באמצעות אלגוריתם ייחודי המחשב ממנף את מה שהוא למד כדי לבצע פעולות חדשות, כמו לזהות אדם בתמונה שהמערכת לא ראתה בעבר. זאת, בניגוד לגישה המסורתית בתכנות שלפיה מחשב פועל רק לפי כללים ספציפיים שמצויים בקוד התוכנה שלו.

מימין: פרופ' גארי מרקוס, רושיר פורי

למידה עמוקה שימשה בהצלחה לפיתוח מערכות כגון זיהוי פנים, כמו זו שמשמשת את פייסבוק לזיהוי ותיוג משתמשים בתמונות שהועלו לפלטפורמה. אך לדברי מרקוס, הניסיונות להשתמש בשיטה זו לפתרון בעיות מורכבות יותר, כל שכן ליצירת בינה מלאכותית כללית, נדונו לכישלון. "הבעיה עם למידה עמוקה”, הסביר, “היא שהיא מתבססת על סטטיסטיקה מסיבית של עולם יציב מאוד. זה מתאים למשחק כמו Go, שבו אתה יכול לייצר המון מידע גם אם אתה משחק רק נגד עצמך. החוקים לא השתנו זה 2,000 שנה, אז אתה יודע מה אתה מקבל.

"אבל כשמדברים על נהיגה, יכול להיות שלעולם לא יהיה לך מספיק מידע. על אחת כמה וכמה כשמדובר בשפה. אי אפשר לפתור את בעיית השפה באמצעות שינון מספר גדול של דוגמאות, כי כל משפט שונה והשינויים הקלים יכולים להוביל להבדלים מהותיים במשמעות. הפרדיגמה של חיפוש הדוגמה הקרובה ביותר למשהו שכבר ראינו בעבר טובה פחות במקרה זה. בני אדם מבצעים הפשטות בדברים כמו שפה, היסקים וחשיבה לוגית, שמערכות למידה עמוקה לא טובות בהם. הסתכלות על הצלחה בזיהוי שפה כמעין טכניקה קסומה לבינה מלאכותית היא טעות. זה לא עובד בהבנת שפה טבעית למשל".

למרות זאת, כלים כמו Google Translate השתפרו מאוד ומאפשרים לנהל שיחות עם אנשים שדוברים שפה שונה.

"זו אכן אחת ההצלחות הגדולות ביותר, אבל בתרגום מתבססים על מאגר מידע גדול מאוד של טקסטים שתורגמו לשפות שונות. למשל מאגר גדול של אנגלית-צרפתית וכנראה גם של אנגלית-עברית, והמערכת מנסה לבצע תרגום על בסיס דברים שראתה בעבר. אבל היא לא מבינה מה היא מתרגמת, ולכן לא יכולה לעשות דברים בסיסיים כמו סיכום טקסטים ועלולה להסתבך עם הפרטים החשובים. המערכת טובה דיה כדי להבין משמעות כללית של ידיעה חדשותית, אבל לא בתרגום של חוזה משפטי כי היא חלשה בניואנסים. היא יודעת לתרגם אבל אין לה הבנה כללית של שפה".

המכוניות האוטונומיות מתרחקות מעלייה לכביש

מבין כל הפיתוחים העתידיים שמבוססים על מערכות AI, נראה שתחום הרכב האוטונומי הוא ההבטחה הבולטת ביותר לשילוב מהיר בחיי היומיום. אך הביקורת של מרקוס מציבה סימן שאלה ענקי על החלום הזה.

למידה עמוקה, שהיא כלי מרכזי בפיתוח רכב אוטונומי, לא תספיק לכך?

"זו שאלה פתוחה, אף אחד לא יודע בוודאות", אמר מרקוס. "אבל בחינת מדדים, כמו התדירות שבה נהג אנושי נדרש להתערב, מראה שהשיפור אינו מהיר כל כך. המחקר יידרש להראות שיפור גדול לפני שהמכוניות יהיו בטוחות מספיק עבור שימוש בקנה מידה גדול בכל סוגי הכבישים. נתחיל לראות אותן נוסעות בנתיבים מוגבלים במזג אוויר טוב באזורים נעדרי תנועה אנושית רבה. אבל הגעה לרמת אמינות של נהג אנושי דורשת ביצועים טובים הרבה יותר.

"מפתחות הרכב האוטונומי לא שחררו את כל הנתונים שהיינו רוצים לבחון, אבל בכלליות נראה שנהג אנושי נדרש להתערב בערך אחת ל-6,000 מייל. בהתחשב בכך שנהג אנושי מעורב בתאונה קטלנית אחת לכל 150 מיליון מייל, זה לא נראה שהמכוניות האוטונומיות קרובות מספיק ליעד שלהן".

רכב אוטונומי של פורד צילום: אם סי טי

להערכתך, החברות יתקשו לעמוד בהבטחתן לספק רכב אוטונומי לשימוש המוני בעשור הבא?

"הבטיחו לנו שהמכוניות האוטונומיות יגיעו ב-2020, וכבר די בטוח שזה לא יקרה. לוח הזמנים נדחה. קשה להעריך מה יקרה בעשר השנים הבאות, זה הרבה זמן. למידה עמוקה היא חלק מהתשובה אבל היא לא טובה מספיק בהסקת מסקנות ובהתמודדות עם מצבים חדשים. אולי יפתחו טכניקות חדשות. אני די בטוח שלמידה עמוקה לבדה לא תביא אותנו אל היעד וצריך רעיונות חדשים, שעד כמה שאני יודע עדיין לא קיימים".

הבינה המלאכותית של IBM לא עומדת בציפיות ממנה

ווטסון, מחשב העל של IBM שניצח את האלופים האנושיים בשעשועון הטריוויה ג'פרדי ב-2011, הוא אחד ממערכות הלמידה העמוקה שהצליחו לחדור מעט למיינסטרים. בשנים האחרונות מנסה IBM ליישם את יכולות ווטסון בעולם הרפואה, בעיקר בתחום הטיפול בחולי סרטן. אולם תחקיר שפורסם בחודש שעבר בוול סטריט ג'ורנל העלה שהמערכת לא עומדת בציפיות שנתלו בה. לפי התחקיר, יותר מתריסר שותפים ולקוחות עצרו או צמצמו פרויקטים הקשורים לפעילות הסרטן של ווטסון, ולדברי עשרות רופאים וחברות שעבדו עם המערכת, תרומתה לטיפול בסרטן היתה בעלת השפעת מוגבלת על מטופלים.

"זה חלק מהמגמה הגדולה של עודף ההייפ של AI", אמר מרקוס על ווטסון. "לא פתרנו כמה מבעיות היסוד שיש לצלוח כדי לאפשר למכונות להסיק מסקנות מעבר להפקת מידע. ווטסון לא טוב במיוחד עם מחלות נדירות. כשיש מידע רב אפשר להשתמש ב-AI לפתרון בעיות, אבל רופא טוב יכול לראות רק כמה דוגמאות בודדות של משהו ולהקיש לגביו מתוך היגיון. מערכות ה־AI הקיימות לא טובות בזה. המערכת של IBM קרובה יותר לגוגל מלבינה מלאכותית אמיתית. היא מאחזרת מידע ומוצאת דברים לפי קריטריונים מסוימים, אבל ההתאמה בפני עצמה לא מספיקה. נדרש תהליך הסקת מסקנות מספרות רפואית שווטסון ולמידה עמוקה לא מסוגלים לבצע. הבעיות בתחום הרפואה מתוחכמות מאוד והכלים שיש בידינו עדיין לא ברמה הדרושה".

ווטסון, מחשב העל של IBM צילום: TechCrunch

ב-IBM דוחים את הביקורת באופן גורף: "רשמנו התקדמות טובה מאוד, שזכתה להכרה משותפים רבים שלנו", אמר ל"כלכליסט" הארכיטקט הראשי של ווטסון ב-IBM רושיר פורי. "השפעה עמוקה על טיפול רפואי דורשת מאמץ ממושך, זה לא משהו שקורה בן לילה. הצלחנו להגביר את הרישום לניסויים קליניים לטיפול בסרטן השד ב-80%". פורי גם דוחה את הביקורת על כך שב-80% מהמקרים ווטסון לא מסוגל לספק אבחנה מבדלת, שהיא הבחנה בין מצבים רפואיים שונים בעלי תסמינים דומים, לעומת רופא אנושי: "אבחנה זהה לאבחנת רופא ב־80% מהמקרים היא הישג פנומנלי בפני עצמו, ודאי עבור מקומות שבהם טיפול מתקדם אינו זמין. סיפוק יכולות דומות לאלו שמציעים רופאים הוא כשלעצמו הישג שיכול לספק שירותי בריאות טובים יותר במקומות שונים בעולם".

עם זאת, גם פורי מודה שלמידה עמוקה אינה פתרון קסם: "למידה עמוקה לא תפתור את הכל, זה לא אפשרי. מרקוס צודק, אנחנו באותו צד בוויכוח הזה. במקרים מסוימים בעייתי ליצור מידע מתויג בשביל לאמן את המערכת". לדבריו, קל לייצר מידע מסוג זה בתחומים כמו זיהוי תמונות, שבהם אפשר להשתמש בתוכן המונים, "אבל אם למשל בנק השקעות רוצה לקבוע את רמת הסיכון של מכשירים פיננסיים אי אפשר לעשות לזה מיקור המונים. הידע מוגבל ודורש מומחיות עמוקה בתחום. עקב זאת, אין הרבה מידע מתויג".

חוקרים מנסים לתת למחשב יכולות של תינוק בן שנה

מרקוס טוען שפריצת דרך משמעותית בתחום הבינה המלאכותית דורשת חשיבה חדשה: "למידה עמוקה ניסתה לפעול בלי להתחשב בדברים כמו מחשוב קלאסי או היגיון. הספרות המקצועית בפסיכולוגיה קוגניטיבית ובבלשנות מבהירה שבני אדם יכולים לייצר משפטים בראשם ולחשוב בהיגיון על דברים שנראים כמו משפטים. זה מה שמהווה את הבסיס ללוגיקה בתכנות המסורתי. יש לאחרונה ניסיונות לחבר את הדברים האלו לתחום הלמידה העמוקה, ונדרשת הרבה יותר עבודה מהסוג הזה. אנחנו צריכים להפסיק להתייחס ללמידה עמוקה ותכנות מסורתי מבוסס לוגיקה כשני תחומים נפרדים ומנוגדים".

חכם יותר מכל מחשב צילום: שאטרסטוק

פרופ' דיוויד דובנאוד, מומחה ללמידת מכונה מאוניברסיטת טורונטו, אמר לוול סטריט ג'ורנל שחוקרים רבים בתחום מסכימים עם הביקורת של מרקוס ומחפשים דרכים להעשיר את המערכות הקיימות כדי להתגבר על המגבלות שלהן. בין היתר הם מנסים להעניק למערכות AI יכולות לבנות מודלים מנטליים של העולם, כפי שעושים תינוקות בני שנה. כיום מערכת למידה עמוקה שסרקה מיליוני תמונות של אוטובוסים צהובים עלולה לשגות בזיהוי רכב כזה בפעם הראשונה שתראה אותו הפוך. לעומת זאת מערכת AI עם מודל מנטלי של רכיבי האוטובוס (גלגלים, שלדה צהובה וכ"ו) תוכל לזהות את הרכב ההפוך בקלות רבה יותר.

מה הסיכוי שנראה מערכת AI תבונית אמיתית ב-10-20 השנים הקרובות?

"חסרים לנו יותר מדי דברים בסיסיים לכך", אמר מרקוס. "אין לנו אפילו מכונות שיכולות לקרוא ברמה של תלמיד כיתה ג', אז ודאי שלא מכונות שיכולות ללמד את עצמן. כשיהיו מכונות ברמת קריאה כזו אולי נהיה במרחק של 10 שנים, אבל אנחנו עדיין לא שם. 20 שנה זה זמן רב בעולם הטכנולוגיה ואני לא רוצה לצאת בהצהרות נחרצות. אבל עם הטכנולוגיה הקיימת אני לא רואה איך נגיע לשם בתוך 20 שנה. אולי 50 שנה. בעוד 100 שנה? סביר מאוד".