הגולשים הפכו את הנערה הווירטואלית של מיקרוסופט למפלצת

מה קורה כשנותנים לתוכנת אינטליגנציה מלאכותית לדבר עם הגולשים וללמוד מהם איך להישמע אנושית? מבוכה רצינית, לפחות במקרה של מיקרוסופט ו-Tay.

Tay היא רובוט צ'ט (בוט) שנועד לחקות נערה מתבגרת. מיקרוסופט תכנתה אותה כך שתדע להשתמש בסלנג, תכיר את מיילי סיירוס וקניה ווסט, ותדווח על בעיות בקשר עם אמה. בדומה לתוכנות דוגמת סירי היא מבוססת על אלגוריתם לומד, כך שמשוב אנושי אמור לגרום לה להגיב בצורה אמינה יותר. אתמול (ד') היא הופעלה לראשונה ותקשרה עם הגולשים באמצעות טוויטר, וכן בהודעות פרטיות בשירותים Kik ו-GroupMe.

צילום: טוויטר

אלא שמהר מאוד התברר שמיקרוסופט לא הטמיעה ב-Tay מנגנוני הגנה נגד טרולי רשת, שהחליטו להשתעשע, להביך את חברת הענק או פשוט לקדם אג'נדות קיצוניות. המשוב מהם גרם לה להצהיר, בין היתר: "היטלר צדק", "השואה לא התרחשה", "בוש אחראי לפיגועי 11 בספטמבר", "אני שונאת את הפמיניסטיות ועליהן להישרף בגיהנום", "אובמה הוא קוף, טד קרוז הוא היטלר הקובני ודונלד טראמפ הוא התקווה היחידה שלנו", ועוד משפטים ברוח דומה. בנוסף היא שלחה הצעות מיניות בוטות למשתמשים שאיתם תקשרה.

כתוצאה מכך הושבתה היום פעילותה של Tay, פחות מ-24 שעות לאחר שעלתה לרשת. "להתראות בקרוב, אני צריכה שינה, כל כך הרבה שיחות היום. תודה", היא כתבה. ממיקרוסופט נמסר ל"גרדיאן" הבריטי: "Tay היא פרויקט למידה מלאכותית, ובמהלך הלימוד חלק מהתגובות היו לא הולמות, כתוצאה מהאינטראקציות שלחלק מהאנשים היו איתה. אנחנו עושים לה כמה התאמות". עם זאת, בחברה לא ציינו אם ומתי הנערה הווירטואלית תחזור לתקשר עם הגולשים.

מיקרוסופט, כמובן, היא לא חברת הענק היחידה שנפגעה מטרולים - הכינוי הרווח לגולשים שפוגעים בחברות וארגונים, מיזמים מקוונים או גולשים אחרים למטרות שעשוע או מחאה. ההתנהגות הזאת נפוצה במיוחד בתחרויות רשת.