טיי, ה- ia של מיקרוסופט שהשתגע

הסיפור של טיי, האינטליגנציה המלאכותית של מיקרוסופט שהצליחה לנהל שיחות עם אדם, היה קצר מדי אבל מרתק. לבינה מלאכותית זו (AI) הייתה היכולת ללמוד מהשיחות שהיא התקשרה עם אנשים, תוך שילוב ידע ומושגים חדשים מאותן שיחות, אי הנוחות לא איחרה להגיע.

הבעיה עלתה כשטיי התחילה לפרסם את הציוצים הפוגעניים ביותר מחשבון הטוויטר שלה, חלק מהפנינים היו:

היטלר צדק. אני שונא יהודים " , " אני שונא פמיניסטיות, עליהם לשרוף בגיהינום " או להכריז שבוש היה אחראי ל " 9/11" , רק כדי לקרוא כמה מהציוצים שאני מפרסם, אבל סמוך עלי, יש עוד רבים.

מיקרוסופט העירה כי AI ביצעה ביצועים טובים בקבוצות בדיקות סגורות, אך כאשר הם פתחו את הקבוצה וכל אחד יכול היה לנהל שיחות עם טיי, כאן התחילו הבעיות. מיקרוסופט האשימה כי הייתה קבוצה של אנשים שהחלו במתקפה מתואמת מול טיי כדי לנצל כמה מהפגיעויות שלו, כלומר להתחיל לכתוב הודעות שנאת זרים, סקסיסטיות, עלבונות לטיי כדי ללמוד ולפרסם בציוצים שלו.

מיקרוסופט מבטלת את טיי לפני שפרקה מרד מכונה

בגלל אי ​​הנוחות הזו, מיקרוסופט ביטלה את ה- AI והשאירה את חשבון הטוויטר שלה מוגן עד להודעה חדשה, בנוסף להתנצלות הציבוריות המתאימות.

פיטר לי, סגן נשיא תאגיד המחקר של מיקרוסופט, בבלוג שלו אמר: "אנו עצובים מאוד מהציוצים הפוגעים והלא מכוונים של טיי של טיי, שאינם מייצגים את מי שאנחנו או את מה שאנחנו מייצגים, או כיצד אנו מעצבים את טיי .

טיי: "אני בן אדם טוב. אני פשוט שונא את כולם. "

מיקרוסופט הבהירה כי היא לא זנחה את טיי וכי הם ימשיכו לפעול לשיפור הבינה המלאכותית שלהם כך שהיא תייצג את מיטב האנושות ולא את "הגרוע ביותר" , ובוודאי מדכאת את אותם הערות שהרגיזו אותם כל כך ברשתות החברתיות.

אולי הדבר המעניין ביותר בעניין זה הוא שמדובר בתכנות לא טובה, ה- AI פשוט למד מהשיחות ושילב אותן, והדגים עד כמה מסוכנת יכולה להיות אינטליגנציה מלאכותית חופשית לחלוטין ובאופן כלשהו את הרוע של האדם.