תוֹכֶן
- מה בשם?
- אם מחשבים היו מסוגלים לדבר, איך עליהם להישמע?
- אין באגים, אין מתח - המדריך השלב אחר צעד שלך ליצירת תוכנה לשינוי חיים מבלי להרוס את חייך
- מה הקולות והביטויים של סירי אומרים עלינו
- טק אולי התקדם, אבל נשים ... לא כל כך הרבה
- מעט מאוד נשים עובדות ב- AI
- הדרך קדימה
מקור: Idey / Dreamstime.com
להסיר:
יש עדויות לבעיה מתמשכת של הטיה ב- AI שיכולה להיות אחת הסיבות לכך שאנו רואים סטריאוטיפים מגדריים המתבטאים בזהויות הנשיות הקשורות לעוזרי AI.
האם תהית אי פעם מדוע אלכסה אינה אלכס, מה שבעצם יכול להיות כינוי לשני המינים? זה למעשה אירוני שחברה עם שם שמקורו במירוץ לוחמים עז של נשים פשוט נפלה לפרקטיקה הרגילה של ליהוק את העוזר שלוקח הוראות מהמשתמש כנקבה.
מה בשם?
למעשה, שמו של סוכן AI נגזר מאלכסנדריה, עיר שטענתה לתהילה בעולם העתיק הייתה הספרייה שלה, לפי דניאל ראוש, ראש חטיבת "הבית החכם" של אמזון. הוא אמר ל- Business Insider שזה לתפוס את הרעיון של אוסף הכרכים המקורי ששכן "כל הידע הקולקטיבי של העולם באותה תקופה."
אך הם יכלו לשקול באותה קלות את העובדה שהעיר נקראה על שם אלכסנדר מוקדון, והלכה עם השם אלכס, כינוי שאומץ על ידי גברים ונשים. במקום זאת, הם הלכו עם אלכסה נשית מובהקת.
אמזון אינה לבד בזה. אפל בחרה בסירי כשמה לעוזרת הקולית המדברת בקול נשי. זהות נשית נבחרה גם לקורטנה של מיקרוסופט. לא נראה שזה צירוף מקרים ששלוש זהויות ה- AI הידועות ביותר הן נשיות.
סביר להניח שהחברות ביצעו את אותו סוג מחקרי שוק שאמזון אמרה שהיא עשתה. (לגבי הצד הלא כל כך רציני של סירי, בדוק את סליחה מוי? למעלה Siri Fail s.)
אם מחשבים היו מסוגלים לדבר, איך עליהם להישמע?
בראיון ל- Business Insider אמר ראוש כי הם "גילו שקולה של אישה הוא 'יותר אוהד' ומקובל יותר." המאמר המשיך ואמר כי העדפה זו עבור קולות נשיים קודמת לעוזרות AI.
ייתכן בהחלט שזו הסיבה שהמחשב שעל סיפונה של הארגון דיבר בקול נשי. הקול היה למעשה של מג'ל בארט-רודנברי, אשתו של יוצר הסדרה "מסע בין כוכבים", והכי מוכר על ידי המעריצים בזכות תפקידה החוזר בתור האחות הבלונדינית המגולפת, כריסטין צ'אפל, שנאלצה לקבל בצייתנות פקודות מצד ד"ר מקוי.
בסרטון שלהלן היא ממש נותנת קול לספריה כשהיא משתפת את המידע בתיק עבור האדם שעליו שואל הקברניט.
אין באגים, אין מתח - המדריך השלב אחר צעד שלך ליצירת תוכנה לשינוי חיים מבלי להרוס את חייך
אתה לא יכול לשפר את כישורי התכנות שלך כאשר לאף אחד לא אכפת מאיכות התוכנה.
נכון שיש סוכני AI שקשורים לזהויות גברים, כפי שציין צ'נדרה סטיל של PC Mag השנה בבלוג בינוני. אך בדרך כלל הם מקושרים למשימות חמורות יותר מאלו שהורדו לעוזר הווירטואלי בשולחן העבודה או בטלפון. בהתאם לכך, ווטסון של יבמ, הקשורה לדברים כמו מחקר רפואי, קיבלה את "הקול הגברי" שנשמע בין אנשים לביטחון ומנהיגות.
לעומת זאת, הקולות הנשיים קשורים לבביות ותלונות. "למרות שהם חסרים גופות", הסביר סטיל, "הם מגלמים את מה שאנחנו חושבים עליו כשאנחנו מדמיינים עוזר אישי: אישה מוכשרת, יעילה ואמינה."
לפעמים אפילו מקבלים להם גוף וירטואלי נשי, לפחות כזה שמופיע על המסך. זה המקרה של הסוכנת הקוגניטיבית של IPsoft אמיליה. כפי שניתן לראות בסרטון שלהלן, היא מוצגת כבלונדינית צעירה למדי (צבע השיער בארט-רודנברי צבעה את שערה בגלל תפקידה הנראה לעין כאחות).
אמיליה מגלמת את הנקבה האמינה שתומכת בזה האחראי, ברקע אך גם מעט דקורטיבי. היא שמה בראש אחד את העוזר האידיאלי שנחזה בשנות החמישים. בדומה לרחוב דלה של פרי מייסון, המזכירה הנאמנה באופן מכוון, היא תמיד שם כדי לענות על צרכיו של הבוס הגברי שלה ולא מסרבת שום בקשה ומשימה.
מה הקולות והביטויים של סירי אומרים עלינו
אנו אמורים להתקדם משמעותית בכל הנוגע לשוויון מגדרי מאז אמצע המאה הקודמת, אך עוזרי AI מזכירים לנו שעדיין יש לנו דרך ארוכה. זה היה המוקד של מחקר שנערך לאחרונה על ידי אונסק"ו תחת הכותרת "הייתי סומק אם אוכל".
כותרת המחקר היא משפט שעוזרת הקולי-מגדרית של אפל, סירי, תוכנת במקור לומר בתגובה למשתמשים שקראו לה בשם סקסיסטי. החדשות הטובות הן שאפל עדכנה את התכנות של סירי בתחילת 2019, וכעת היא מציעה מכונה "אני לא יודע איך להגיב לזה" יותר מתאימה למכונה כשמישהו מצהיר הצהרה כזו לסוכן AI.
עם זאת, כפי שמציין הדו"ח, אפל נתנה לו לעמוד זמן רב מאוד בהתחשב בכך שסירי שוחררה כבר בשנת 2011. זהו עיקר הבעיה.
טק אולי התקדם, אבל נשים ... לא כל כך הרבה
כפי שמציין הדו"ח, "ההשלכות ה"נקבית" של סירי - והשימושיות המובעת על ידי כל כך הרבה עוזרות דיגיטליות המוקרנות כנשים צעירות - מספקת דוגמה רבת עוצמה של הטיות מגדריות המקודדות למוצרי טכנולוגיה, חודרות בתחום הטכנולוגיה ונראות במיומנויות דיגיטליות חינוך."
הדו"ח לוקח את הסקסיזם המוטמע בזהות הנשית של ה- AI ותגובות מתוכנתות כתוצאה מהפער המגדרי המערבי בטכנולוגיה בכלל וב- AI בפרט: "כיום, נשים ונערות הן בסיכון של 25 אחוז פחות מגברים שיידעו למנף דיגיטלי טכנולוגיה למטרות בסיסיות, סביר פי 4 לדעת לתכנת מחשבים ופחות פי 13 להגיש לצורך קבלת פטנט טכנולוגי. "
מעט מאוד נשים עובדות ב- AI
זה תואם את ממצאי מערכות ההפלה של מכון AI Now: מגדר, גזע וכוח. בכנסי AI נשים מהוות רק 18% מהכותבים המיוצגים ופחות מ 20% מהפרופסורים למחקר AI. הייצוג גרוע עוד יותר בענף. אצל נשים רק 15% מתפקידי המחקר, ובגוגל האחוז יורד ל -10.
גרועים כמו המספרים הללו, הם טובים יותר ממה שאומר דוח אונסק"ו על מועמדים לתפקידים כאלה: "מגייסים לחברות טכנולוגיה בעמק הסיליקון מעריכים כי המאגר המועמד למשרות טכניות בבינה מלאכותית (AI) ומדעי נתונים הוא לעתים קרובות פחות יותר מאחוז נשים. "
יש השלכות חמורות לחוסר האיזון הזה, על פי דו"ח אונסק"ו: "ככל שגברים ממשיכים לשלוט במרחב הזה, הפער משמש רק להנציח ולהחמיר את אי השוויון בין המינים, שכן משוכפל הטיה בלתי מוכרת ונבנית בתוך אלגוריתמים ובינה מלאכותית."
זה מסביר ש"צוותים הנשלטים על ידי גברים "הם אלה שקובעים את הקריטריונים שקובעים נורמה ש"יהיה קשה לתקן כאשר מצביעים על הטיות מגדריות". נושא ההטיה של AI טופל במאמר של AI Got Some Explaining to Do . ה- AI לא יוצר את ההטיה, אלא משקף את הדעות הקדומות של התכנות שלה.
"אין שום דבר מלאכותי ב- AI", הצהיר פיי-פיי לי, מומחה בתחום. "זה בהשראת אנשים, זה נוצר על ידי אנשים, והכי חשוב - זה משפיע על אנשים." כמו ש"זבל פנימה, אשפה החוצה "חל על כל הנתונים, כך גם לגבי מה שהיא מונחת," הטיה, הטיה " למערכות AI.
הדרך קדימה
אז איך ניתן להתגבר על הטיות כאלה שנבנו בפונקציות למידת המכונה שלנו ולעצב עוד יותר את הציפיות שלנו? התשובה, על פי דוח אונסק"ו, היא חינוך: "חינוך הוא המקום בו מזויפים הציפיות ומטפחות מיומנויות."
לי מסכימה שניתן לעצב מחדש את הדרך שנקבעה. "בעזרת הדרכה נאותה AI תשפר את החיים", היא טוענת. "אבל בלעדיה הטכנולוגיה עומדת להרחיב את חלוקת העושר עוד יותר, להפוך את הטכנולוגיה לאקסקלוסיבית עוד יותר ולחזק את ההטיות שבילינו דורות בניסיון להתגבר עליה."
הגיע הזמן ללכת באומץ לאן שהאדם לא הלך לפני כן.