הרובוט מאזין: הצנזורה הסינית רוצה בינה מלאכותית

במאי האחרון, במהלך יוצא דופן, הסכימו הרשויות בסין לשיתוף פעולה עם ענקית הטכנולוגיה אלפאבית, שבימים כתיקונם מודרת משטחי מדינת הענק. כל צד העמיד את הנציג שלו סביב לוח המשחק גו (Go) שנחשב למשחק הלוח העתיק בעולם.

בפינה הסינית הוצב קה ג'י, אזרח סין המדורג כמספר אחד בעולם. בפינה של אלפאבית הועמדה תוכנת הבינה המלאכותית אלפאגו (AlphaGo). הכללים היו פשוטים: טורניר הטוב מחמש בשידור חי לכל העולם. תוך זמן קצר התברר כי השחקן המכאני, שכבר ניצח את המדורג שתיים בעולם, עולה בהרבה על יריבו האנושי. מימדי התבוסה הוצנעו, לאחר שסין קטעה את השידור.

משחק הגו נגד התוכנה של גוגל צילום: phys.org

חודש וחצי לאחר מכן הציג המשטר הסיני מסמך מדיניות נועז ותוכנית ארוכת טווח שנועדו להפוך את הרפובליקה העממית למעצמה המובילה בטכנולוגיית בינה מלאכותית (AI). הכלכלה השנייה בגודלה בעולם מצפה שתוכנית ה־AI שלה תביא עד 2025 להישגים משמעותיים שייצרו שינוי כלכלי וחברתי עמוק וחובק עולם. להערכת הסינים, חמש שנים לאחר מכן הם כבר יובילו תעשייה בשווי 150 מיליארד דולר.

בסין לא מתביישים להודות איך בכוונתם להשיג את ההובלה: איסוף, ציתות ומעקב הם יתרונות מובהקים של סין על פני מתחרותיה בתחום. כמויות המידע העצומות שנדרשות לאימון מערכות בינה מלאכותית בתהליכי למידה עמוקה יגיעו מהנתונים הדיגיטליים היומימיים שמייצרים אזרחי המדינה המאוכלסת ביותר בעולם. ענקית הטכנולוגיה טנסנט כבר מעבירה למחקרים במימון ממשלתי את כל הנתונים שנאספים מאפליקציית המסרים הפופולרית שלה WeChat, שמשמשת גם כאמצעי תשלום. באידו, המקבילה הסינית של גוגל, צפויה להרחיב את שיתוף הפעולה הקיים שלה עם פרויקט הלמידה העמוקה של הצבא הסיני. מסמך המדיניות החדש קובע כי "מכוני מחקר, אוניברסיטאות, חברות ויחידות צבאיות צריכים לתקשר ולתאם את התפתחויות".

איור: יונתן פופר

קצב העבודה, העוצמה והמסירות הסיניים, מהירים וגבוהים בהרבה מבעמק הסיליקון. אוניברסיטאות וחברות פרטיות מתודלקות בהון עצום ובכוח אדם מיומן בעל משמעת עבודה עמוקה ומוכנות להקריב חירות וחיי אדם לטובת האומה. אך הקורבן הזה לא תמיד נעשה מבחירה.

רבע מאוכלוסיית העולם המחוברת לאינטרנט, כ־700 מיליון איש, חיה בסין. האינטרנט מעבירה להם עולם מסונן ומצונזר לפי בחירת המשטר, שמטיל פיקוח הדוק בצורה כמעט רנדומלית ונטולת התראות. פייסבוק לא קיימת במדינה, אך אפליקציית ווטסאפ היתה זמינה באין מפריע, עד שלפני שבוע החליטו הרשויות בסין לחסום גם אותה. החל מ־2015 חסם המשטר הסיני גישה לכ־3,000 אתרי אינטרנט. ההיגיון המנחה הוא שהפצת מידע ורעיונות שהמשטר אינו חפץ בהם יזיקו למשתמשים ולמדינה. החיבור בין מדינת הצנזורה המחמירה לבין הרוח הגבית שהיא תקבל מטכנולוגיית בינה מלאכותית לא פחות ממצמרר.

לא צריך ללכת רחוק מדי כדי לדמיין את ההשלכות האפשרויות של מהפכת ה־AI הסינית. רק השבוע דיווח "פיינשל טיימס" כי המשטרה המקומית בסין מתכוונת להשתמש בטכנולוגיה שתאפשר לה לזהות מראש אזרחים שעתידים לבצע פשע. מערכות זיהוי פנים שייפרסו ברחבי המדינה יאספו ויצליבו מידע על תנועת האזרחים וינסו לפענח את כוונותיהם. למשל אדם שזוהה רוכש אקדח או סכין, ולאחר מכן אותר באזור התאספות מוכר של פושעים, יוגדר בידי האלגוריתם המשטרתי כפושע פוטנציאלי. השאלה האם הוא ייעצר על סמך מידע זה טרם זכתה להתייחסות.

העברת המידע העצום שמחזיק המשטר הסיני על אזרחיו לידי אלגוריתם שהוא בנה ותפר למידותיו מפחידה. האלגוריתם הסיני יוכל להכריע מי נחשב לאזרח טוב או מועיל לחברה ומה הסיכוי שינקוט בצעדים שנוגדים את רצון המשטר.

בארה"ב כבר מתרגמים את מאמץ ה־AI הסיני כהכרזת מלחמה ומדברים על מירוץ חימוש חדש: מצוותי חיסול של רובוטים, דרך טילים בעלי יכולת קבלת החלטות ועד לנחילים זעירים של מרגלים מרחפים. בממשל טראמפ עלו קולות הקוראים להגבלת השקעות סיניות בחברות אמריקאיות הפעילות בתחום הבינה המלאכותית. 22 מיליארד הדולרים מסין שהושקעו מתחילת השנה בחברות אמריקאיות נתפסות כדרך לעקוף את אמצעי ההגנה של המדינה. מה שעד לא מזמן נתפס כמדע בדיוני הופך עכשיו לקרוב מתמיד, וטכנולוגיה שוב מנווטת לעשות את מה שהוגיה המקוריים לרוב חוששים ממנו: להגדיל את כוח ההרס האנושי.