אלון מאסק לאו"ם: AI צבאית רצחנית היא סכנה לאנושות כולה
היזם המפורסם חבר ל-115 אנשי הייטק ואקדמיה, ששלחו מכתב אזהרה לוועדת האו"ם בנושא נשק אוטונומי. לטענתם, מדובר בתיבת פנדורה, שכן בינה מלאכותית רצחנית תאריך את המלחמות, תפגע בחפים מפשע
- חוקרים ישראלים פיתחו AI שמסוגלת להציע פתרונות יצירתיים
- ה-AI של אלון מאסק הביס גיימרים מקצועיים ב-DOTA2
- הרובוט מאזין: הצנזורה הסינית רוצה בינה מלאכותית
המכתב הפתוח שהוגש בכנס הבינלאומי לבינה מלאכותית במלבורן מזהיר מפני כניסת הטכנולוגיה החדשה ללחימה ומניעת מירוץ חימוש בתחום. "כחברות שפועלות בתחום ויכולות להיות אחראיות על פיתוח כלי נשק אוטונומיים אנו חשים מחויבות להזהיר", נכתב בו.
מל"ט תקיפה של חיל האוויר האמריקאי
המכתב מגיע על רקע פתיחת דיונים רשמיים בנושא מערכות נשק אוטונומיות (AWS) באמצעות ועדה מיוחדת שהוקמה באו"ם בנושא. "ברגע שיפותחו כלי נשק אוטונומיים", מציינים במכתב, "יהיה ניתן לנהל עימות מזוין בקנה מידה גדול מאי פעם, ובזמנים ארוכים יותר ממה שניתן לתפוס. אלה יכולים להיות כלי נשק של טרור, שיכולים לפגוע באוכלוסיות חפות מפשע, ונשק שרגיש למתקפות האקרים ושימוש בדרכים לא רצויות".
"אין לנו זמן רב להגיב", נחתם המכתב בנימה מטרידה, "ברגע שתיבת פנדורה זו תיפתח, יהיה קשה לסגור אותה". ציוריות זו אינה חדשה, מאסק, מהדמויות הבולטות שחתומת על מכתב זה, הוא מנביאי הזעם הקולניים ביותר בתחום, אף שגם טסלה בניהולו עומלת על פיתוח מכונית אוטונומית. את טכנולוגיית הבינה המלאכותית הוא כינה "סכנה קיומית" ופיתוחה "זימון השטן עצמו".
היום האו"ם ואמנות בינלאומיות אוסרות שימוש בכלי נשק שונים, בהם מוקשים נגד אדם או נשק כימי. מהסיבה העיקרית לאסור שימוש בנשק היא חוסר יכולתו להבחין בין לוחמים לאוכלוסייה אזרחית. במכתב לעומת זאת מתייחסים לסכנה בעוצמת הנשק, סיבה שעדיין לא הצליחה למנוע פיתוחים או שימושים כשפצצת האטום היא אולי הדוגמה הבולטת לכך. גם נשק אטומי הוא בעל כוח הרס עצום, ובעוד שעל פיתוחה ואחזקתה מוטלות לכאורה מגבלות, לא מוטלות עליה איסורים גורפים.
שב ומזהיר. מאסק צילום: בלומברג
השאלות שנשק אוטונומי מעלה הן מוסריות אמצעי לחימה שכאלה לכאורה מוציאים את האדם מהמשוואה ומעניקים למכונות את האפשרות לקבל החלטות מוסריות כמו מהי מטרה וכיצד יש לטפל בה, מה שעלול להפוך פעולות לחימה ואלימות לקלות יותר ולהביא להרס עצום. מצד שני יתכן כי שימוש בנשק זה יוכל לצמצם פגיעה באזרחים ושימוש בו יהיה בפועל, מוסרי יותר.
נשק אוטונומי כבר פועל ברמות שונות במערכות הגנתיות והתקפיות בעולם, בראשן כלי טיס בלתי מאוישים - ותוכנות AI משמשות ככלי עזר לקבלת החלטות עבור מפקדים. תחילת הקמפיין לאיסורו ברמה הבינלאומית החל ב-2013 עם מכתב דומה של בכירים במגזר הפרטי, הבולטים מהם היו סטיבן הוקינג ואלון מאסק. אותו מכתב הוביל בסופו של דבר לוועידה באו"ם.
