צבא ארה"ב פרסם קוד אתי לשימוש ברובוטים קטלניים ובמערכות נשק חכמות

צבא ארה"ב מפתח מזה שנים כלי נשק חכמים ורובוטי קרב מבוססי בינה מלאכותית. בחלק מהמקרים הפרויקטים האלה, כגון פרויקט ה-AI למל''טי פרדטור - פרויקט מייבן (Maven), פותחו בשיתוף עם חברות טכנולוגיה כמו גוגל ומיקרוסופט. עם זאת, השימוש בבינה מלאכותית במערכות צבאיות הקרביות זכה לביקורת גדולה מצד התעשייה בפרט והציבור בכלל. כעת, ככל הנראה כדי להרגיע את המודאגים, הפנטגון פרסם קוד אתי המיועד לפקח על השימוש בטכנולוגיות אלו.

על פי ההודעה, שדווחה באתר גיזמודו אמש (ג'), הצבא התייעץ עם "מומחי AI בכירים" במשך כשנה וחצי והניח מולם חמישה שיקולים עיקריים מבחינתו. אלה קובעים שמערכות מבוססות בינה מלאכותית צריכות להיות אחראיות, שוויוניות, ניתנות למעקב, אמינות ושאף ניתן לשלוט עליהן בכל סיטואציה.

רובוט צבאי צילום: Shutterstock

בין היתר קובע הקוד שכל פקודי הצבא ומשרד ההגנה יפעילו שיקול דעת בכל שימוש, פיתוח ופריסה של טכנולוגיות אלה. הצבא ידאג לצמצם ככל הניתן את ההטייה המובנית שעשויה להתגלות במערכות AI, והפנטגון ידאג שכל מערכת כזו שתיכנס לשימוש, תהיה תחת שליטת המפעילים ושל אלה שיכירו אותה בצורה מעמיקה.

עוד דורש הקוד שהמערכות שייכנסו לשימוש יהיו אמינות ושתסריטי השימוש השונים יהיו מוגדרים היטב כשהם בטוחים ויעילים. כמו כן, הפנטגון דורש שתהיה אפשרות להבין את אופן הפעולה של המערכות - אם כי כאן מדובר בדרישה קצת בעייתית, זאת מכיוון שמערכות בינה מלאכותית לפעמים פועלות בצורה שגם המפתחים שלהן אינם מבינים לחלוטין. כמו כן, בפנטגון דורשים שניתן יהיה להשתמש במערכות ללא החשש שיגיבו בצורה שלא ניתן לצפות אותה.

הפנטגון צילום: בלומברג

כל הנקודות הללו כוללות כמובן לא מעט פרצות, אך יש לציין שגם לדעת מומחים חיצוניים, מדובר בקוד שמקדם מאוד את הסדרת השימוש במערכות אלה בשדה הקרב. המהלך ממשיך את ניסיונה של DARPA, סוכנות הפיתוח המדעית של הפנטגון, להתמודד עם השימוש ב-AI במהלך משנות ה-80. חשוב לציין שבזמנו הסוכנות אף ניסתה לפתח מחשב דמוי Skynet אך למזלנו היא לא ממש הצליחה וזנחה את הפרויקט ב-1993.

היוזמה הזו מהווה סנונית ראשונה של התייחסות רשמית מצד ארגון ממשלתי לכל נושא השימוש בבינה מלאכותית. מזכיר ההגנה מארק אספר הבהיר כי "AI תשנה את שדה הקרב העתידי אך שום דבר לא ישנה את המחויבות של ארה"ב להתנהלות חוקית ואחראית. אימוץ הקוד האתי ישפר את המחויבות הזו של משרד ההגנה", כך נמסר.