תוֹכֶן
- יורה על ידי המכונה
- אוטומציה והפרעה בעבודה
- אין באגים, אין מתח - המדריך השלב אחר צעד שלך ליצירת תוכנה לשינוי חיים מבלי להרוס את חייך
- יישומים של מוצרי אלקטרוניקה
- השליטה בשליטה
- איך זה יכול לעבוד
מקור: Artinspiring / Dreamstime.com
להסיר:
על מנת שהאוטומציה תעבוד עם ובשביל האנושות ולא נגדה, אנו זקוקים לאמצעי אמצעי הגנה ובני אדם מושכלים אשר מוסמכים להפסיק או לתקן שגיאת מערכת.
"לטעות זה אנושי; כדי לאבד דברים באמת צריך מחשב. "ויליאם א. ווהן עשה את התצפית הזו עוד בשנת 1969. מתן שליטה למערכת אוטומטית גורמת למערכת להשתבש ולגרום נזק קשה לפני שהיא נבדקת.
אוטומציה אינה חדשה, אך היא הופכת לנפוצה בהרבה בזכות שילוב מערכות דיגיטליות ופיזיות. החלק האוטומטי בקנה מידה הוא יעילות רבה. אבל החיסרון של הסתמכות על מערכת להגדיר-ושכח-זאת היא שמישהו עלול להיכשל בהגדרתו כראוי.
עם מערכת שפשוט עוברת ללא התערבות ושום דרך לעצור את המכונות, אתה יכול להשפיע על הרס. לפיכך, טק יכול ליצור את הסיטואציה המתוארת ב"החניך של הקוסם ", כאשר מה שנראה שמקל על החיים למעשה יוצא מכלל שליטה.
יורה על ידי המכונה
אוטומציה ללא התערבות היא שהביאה לכך שעובד טק בבריטניה מצא את עצמו מחוץ למשרה ללא סיבה בשנה שעברה. איברהים דיאלו הבחין כי כרטיסי אישור האבטחה שלו לא עובדים בעבודה וגילה שזה בגלל שהוא לא עבד. "המכונה פיטרה אותי" הוא הכותרת שהעניק לפוסט הבלוג המורחב שלו באירוע.
בסופו של דבר, הגורם לסיום דיאלו לא היה הערכת אלגוריתם כלשהי שקבעה את מי צריך לחסל. הבעיה לא הייתה במערכת, אלא הייתה שגיאה אנושית. במקרה זה, זו הייתה כל התגובה האוטומטית לכישלונו של אדם להכניס מידע לחידוש החוזה של דיאלו.
זה לא שהמכונה החליטה שהוא צריך לפטר בגלל משהו מיוחד. זה פשוט ביצע את הצעדים שתוכננו לתוכו למישהו שמעמדו הופיע כבר לא מועסק. כפי שהוא מבהיר בתגובות, זה לא ממש AI אלא "סקריפט אוטומטי." (כדי ללמוד כיצד AI יכול לעזור (במקום להיפגע) בעסקים, בדוק מה AI יכול לעשות עבור הארגון.)
אוטומציה והפרעה בעבודה
סוג זה של השפעה הוא לא בדיוק מה שאנשים רואים כאשר הם מתארים את היתרונות הנפלאים שאנו יכולים לצפות בעתיד אוטומטי. התחזית האופטימית הרגילה לשינוי במשרות כאשר משימות מתבצעות על ידי אוטומציה, משרות יוגדרו מחדש - לא יופסקו על ידי מערכות אוטומטיות. אבל המציאות היא שחלק מהמשרות יבוטלו, והאנשים שהחזיקו בהם לא בהכרח יוכלו לעבור מעבר חלק לקריירות החדשות בתעשייה אוטומטית ברובה.
שיבוש בעבודה הוא אחד הסיכונים הקלים יותר שאלון מאסק צפה בגידול עליית ה- AI, אם כי החזון שלו עצמו לגבי ההשפעה על משרות הוא פסימי בהרבה מזו של פיצג'רלד. לדעתו של מאסק, AI זקוק לוויסות קפדני מכיוון שהוא מהווה "סיכון קיומי קיומי לתרבויות אנושיות."
אין באגים, אין מתח - המדריך השלב אחר צעד שלך ליצירת תוכנה לשינוי חיים מבלי להרוס את חייך
אינך יכול לשפר את כישורי התכנות שלך כאשר לאף אחד לא אכפת מאיכות התוכנה.
יישומים של מוצרי אלקטרוניקה
למרות אישורי הטכנולוגיה האישיים של מאסק, כמה מומחים בתחום כמו רודני ברוקס, שכיהן כמנהל המייסד של מעבדת המדע והבינה המלאכותית של MIT, והביעו את iRobot ו- Rethink Robotics כאחד, אומרים כי מאסק טועה ביחס לאיום הזה של AI וכיצד הרובוטיקה. למעשה פועלים.
בראיון ל- TechCrunch ציין ברוקס כי טיפשי לקרוא לתקנות מבלי שהטכנולוגיה הבשילה עד כדי כך שאנו יכולים לזהות בדיוק מה צריך להסדיר. הוא תגר את מאסק: "תגיד לי, איזו התנהגות אתה רוצה לשנות, אלון?"
ברוקס אכן הודה שרובוטים יביאו לעקירת עבודה. אבל הוא גם חושב שאפשר לשנות את הפרדיגמה בתעשייה לעקוב אחר זו של האלקטרוניקה הצרכנית.
האופן בו הוא אמר את זה בראיון TechCrunch היה: "יש לנו מסורת בייצור ציוד שיש לו ממשקי משתמש איומים וזה קשה וצריך לקחת קורסים, ואילו בתחום האלקטרוניקה צרכנו את המכונות בהן אנו משתמשים ללמד את האנשים איך להשתמש בהם. "
זה מה שהוא אמר שצריך להיות המטרה לשינוי האופן בו אנו מתייחסים ל"ציוד תעשייתי וסוגים אחרים של ציוד, בכדי לגרום למכונות ללמד את האנשים כיצד להשתמש בהם. "
השליטה בשליטה
מה שברוקס מציע עשוי להצביע עלינו לכיוון של פיתרון לבעיית הטעות האנושית שמגדילה את התהליך האוטומטי שנראה כאילו הוא מסתובב בשליטה. כדי לחזור למפתיע השגוי של מיקי בספר "החניך של המכשף", הבעיה נובעת מכל האדם שמפעיל את המערכת, אך אין לה דרך אמיתית לתקשר איתה כדי לגרום לה לעצור או לשנות כיוון.
אבל אם הממשק נוצר בקווי האלקטרוניקה הצרכנית ולא בדגמים תעשייתיים מסורתיים, זה ממש יכול להחזיר את השליטה לידיים אנושיות. כדי להיות אפקטיבי באמת, הממשק צריך להיות לא רק נגיש, אלא נועד לשמור על אנשים בקשר לגבי המתרחש, לספק נתונים על העדכונים שקיבלו ואילו פעולות הוא נקט.
איך זה יכול לעבוד
במקרה של סיום בשוגג של דיאלו, פירוש הדבר שהמערכת האוטומטית לא סתם תנעל אותו מחוץ למערכת ואז תספק למגייסו שהוא הופסק. תחילה יכיר בכך שחידוש החוזה לא נקבע במועד הצפוי. לפני שתתחיל בפעולות סיום, היא תציע למתקן ולגייס את העדכון על חוסר ההתחדשות וההשלכות שייווצרו תוך יום אם לא תנקוט בפעולה כלשהי.
התראה מסוג זה תאפשר לאנשים לקבל החלטות מושכלות אם לאפשר לאוטומציה להימשך או להתערב בכדי לתקן את הטעות האנושית שהייתה הגורם המקורי לבעיה. אבל אנשים כן צריכים לעשות את שלהם, להגיב לכוננות ולנקוט בפעולה המתאימה. במילים אחרות, התשובה לשאלה שברוקס הציב בנוגע להתנהגות חלה על בני אדם; הם צריכים להיות פחות פסיביים מול האוטומציה. (למידע נוסף על האופן בו בני אדם ומכונות יכולים לעבוד בשיתוף פעולה, ראה תקשור הגורם האנושי: מדיניות, נוהל ותהליך.)
כפי שכתב דיאלו בקטע ההערות בבלוג שלו, הסיבה לכך שהצליחה להגיע למצב שהוא עשה היא שאנשים סירבו להתנגד למכונה:
דבר נוסף שאי אפשר להתעלם ממנו הוא שלמרות שכולם ידעו שזו טעות אנושית שהפעילה אותה, וזו הייתה טעות גרידא, הם בחרו לעקוב אחר התקנות. זה כמו לשים שלט 'מותר לעשן' בבית החולים ואנשים מכבדים את השלט במקום להשתמש בשכל ישר.
בהתאם, המדיניות שאנחנו צריכים לנקוט בכדי שהאוטומציה תעבוד ועם האנושות ולא כנגדה, הן כפולות: מצד המכונה אנו זקוקים לממשקים נגישים ואינפורמטיביים, ובצד האנושי אנו זקוקים לאנשים להיות מוסמכת לזהות מתי משהו לא בסדר ולהיכנס לתיקונו.