תוֹכֶן
הוצג על ידי: AltaML
ש:
מדוע חברות מסוימות שוקלות להוסיף "בקרות משוב אנושי" למערכות AI מודרניות?
ת:
חברות מסוימות העובדות עם טכנולוגיית AI מתקדמת פועלות להנהלת בקרות אנושיות למערכות אלה, ומעניקות למידת מכונות וכלי למידה עמוקה פיקוח ישיר על אנוש. גם חברות אלה אינן שחקניות קטנות - DeepMind של גוגל ו- OpenAI של אלון מאסק הן שתי דוגמאות לחברות מרכזיות שמתעמקות בנוגע להתקדמות בבינה מלאכותית. עם זאת, התוצאות נבדלות זו מזו - למשל, DeepMind היה נושא למחלוקת בגלל חוסר הרצון הנתפס שלה לספק נתונים מרכזיים לציבור, בעוד ש- OpenAI היא הרבה יותר, ובכן, פתוח על עבודתה על בקרת בינה מלאכותית.
אפילו דברים רבים כמו ביל גייטס שקלו את הנושא, גייטס אומר שהוא אחד מהרבים המודאגים מהופעתה של אינטליגנציה-על מלאכותית שעלולה במובנים מסוימים לחרוג משליטה אנושית. מאסק מצדו גם הציג שפה מדאיגה באשר לאפשרות של "AI נוכלים".
זו כנראה הסיבה הדחופה ביותר לכך שחברות פועלות ליישום בקרות אנושיות על AI - הרעיון כי ייחודיות טכנולוגית כלשהי תביא לטכנולוגיה חיונית סופר עוצמתית שבני אדם פשוט לא יכולים לשלוט בה יותר. מאז שחר השאיפות האנושיות, שמנו כלים למקום כדי להבטיח שנוכל לשלוט בכוחות שאנו מחזיקים - בין אם מדובר בסוסים עם מושכות ורתמות, חשמל בחוטים מבודדים, או כל סוג אחר של מנגנון בקרה, שיש לנו השליטה היא פונקציה אנושית מולדת, ולכן יש בה כל תחושה בעולם שככל שהבינה המלאכותית מתקרבת יותר לפונקציונליות אמיתית, בני האדם מפעילים בקרות ישירות משלהם כדי לשמור על כוח זה בסימון.
עם זאת, פחד מרובוטים סופר-אינטליגנטים אינו הסיבה היחידה לכך שחברות מיישמות בקרות אנושיות על למידת מכונות ופרויקטים של AI. סיבה עיקרית נוספת היא הטיית מכונות - זהו הרעיון שלעיתים קרובות מערכות בינה מלאכותית מוגבלות באופן בו הם מעריכים את הנתונים המדוברים - כך שהם מגבירים את כל ההטיה הטמונה במערכת. רוב אנשי המקצוע העוסקים בלימוד מכונות יכולים לספר סיפורי אימה על מערכות IT שלא היו מסוגלים להתייחס לקבוצות משתמשים אנושיות כאחד - בין אם זה היה שונות מגדרית או אתנית, או כישלון אחר במערכת להבין באמת את הניואנסים של החברות האנושיות שלנו ו כיצד אנו מתקשרים עם אנשים.
במובן מסוים, אנו עשויים להפעיל מערכות בקרה אנושיות מכיוון שאנו חוששים שהם עשויים להיות חזקים מדי - או לסירוגין, מכיוון שאנו חוששים שהם אולי לא יהיו מספיק חזקים. בקרות אנושיות עוזרות למקד מערכי נתונים של למידת מכונות כדי לספק דיוק רב יותר. הם עוזרים לחזק רעיונות שהמחשב פשוט לא יכול ללמוד בכוחות עצמו, גם בגלל שהמודל לא מספיק מתוחכם, מכיוון שה- AI לא התקדם די רחוק, או בגלל שיש דברים שנמצאים רק במחוז ההכרה האנושית. בינה מלאכותית היא דבר נהדר עבור כמה דברים - למשל מערכת מבוססת תגמול וציון אפשרה לבינה מלאכותית לנצח שחקן אנושי במשחק הלוח המורכב ביותר "Go" - אך לדברים אחרים, מערכת מבוססת תמריצים זו היא לגמרי לא מספק.
על קצה המזלג, ישנן מספר סיבות משכנעות לגרום למשתמשים אנושיים להיות מעורבים ישירות באופן בו פרויקטים של בינה מלאכותית עובדים. אפילו מיטב טכנולוגיות הבינה המלאכותית יכולות לחשוב הרבה על עצמן - אך ללא מוח אנושי ביולוגי ממשי שיכול לעבד דברים כמו רגשות ומובנים חברתיים, הם פשוט לא יכולים לראות את התמונה הגדולה בצורה אנושית.
חברת למידת מכונות מיומנת יכול לעזור באיזון זה עם שילוב של מומחים לעסקים ולנושאים ומפתחי למידת מכונות עם הכישורים לפתור בעיות עסקיות גדולות.
