תוֹכֶן
ש:
מדוע מומחים אומרים כי AI "יהרוס את האותנטיות הדיגיטלית"?
ת:
למידת מכונות ובינה מלאכותית משנים במהירות תעשיות רבות, ומעצבות מחדש את הדרכים בהן אנו חושבים על התקדמות טכנולוגית. אבל הם גם מעורבים דיכוטומיות וסתירות מעניינות לגבי אופן ההתייחסות שלנו למחשבים ולמכשירי הסמארטפון שלנו או לממשקים חדשים אחרים שבאים במקרה.
אחת השאלות הגדולות בנושא בינה מלאכותית היא כיצד זה ישפיע על "האותנטיות" - או כיצד אנשים מאמתים ומוודאים את המציאות הקיימת, ב"מרחב הבשרים "או בעולם הדיגיטלי. כשאתה באמת בוחן איך זה עובד, אתה רואה סתירה אינהרנטית בין מגבלות הטכנולוגיה שלנו לבין הדרכים בהן אנו סומכים על הטכנולוגיה העומדת לרשותנו.
אחת הדוגמאות הטובות ביותר ניתן למצוא במאמר Wired שפורסם לאחרונה ומראה כיצד אנשים עם בינה מלאכותית ומשאבי למידה במכונה מסוגלים לצלם תמונה של סוס זז ולהטמיע פסי זברה בתהליך שהמחבר מכנה "זברה".
זה מסודר וחדש, אבל זה גם יכול להוות בעיה. כשאתה רואה זברה על מסך דיגיטלי, איך אתה יודע שהיא זברה ולא סוס עם פסי זברה שמונחים עליו בחוכמה על ידי איזה אדם בעל ידע טכני?
זה אולי נראה כמו שאלה תיאורטית, אבל אותם סוגים של שאלות הולכים לחול במהרה על החדשות שאנו מקבלים בצורה דיגיטלית - מפוליטיקה וכלכלה וכלה בדת, וכל זה מסתמך על היכולת שלנו לנפות מידע , לבדוק ולבדל בין אמת לבדיה, בין מיתוס למציאות. ככל שכלי בינה מלאכותית חדשים מציעים דרכים רבות יותר לתמרן את הווידיאו והווידיאו, הדבר יתקשה בהרבה.
דוגמא מצוינת נוספת היא טכנולוגיות קוליות חדשות. במאמר לפני מספר שנים, סקרנו פרויקט IT מופץ שלקח את קולם של אנשים מפורסמים ובנינו מנועי מודלים קוליים שיכולים לגרום לאנשים המפורסמים האלה לומר כל דבר מעבר לקבר.
שוב, זו טכנולוגיה מסודרת ומעניינת - זה נראה כמו דרך מהנה להשתמש בטכנולוגיות לעיבוד דיבור. אבל זה באמת יציג בעיה כשאנחנו מבצעים את הקפיצה מטכנולוגיית קול דיגיטלית אנלוגית ובלתי מעוטרת לקול סינטטי וטרומי. איך תדע מי מדבר אליך - בטלפון, בטלוויזיה או ממש באוזן?
באופן ספציפי, הרעיון לשנות אודיו, תמונה ווידיאו בדרכים מתוחכמות יכול להעצים את כמה מהרעיונות המוערכים ביותר שלנו כחברה. איך אנשים יסמכו על מה שהם שומעים ורואים בעולם הפוליטי? מה בנוגע לחוק - האם למאשימים בפשעים יהיו ערעורים מסוגים חדשים על בסיס שינוי ראיות?
דרך נוספת להבין כמה מהבעיות הללו היא להסתכל על כתיבת מדע בדיוני - החל מ"פרנהייט 451 "של ריי ברדבוריס ועד ג'ורג 'אורוולס" 1984 "ומעבר לכך, מספרי הסיפורים של גילאים קודמים הזהירו אותנו שוב ושוב שאפשר להשתמש בטכנולוגיה לשני שימושי. ומטרות בעייתיות. אחת הסיבות לכך שמומחים וראשי חברות IT רבים כל כך קוראים ל"בינה מלאכותית ניתנת להסביר "ופאנלים אתיים היא שהם מבינים את הנושא - שאם לא נשלט על טכנולוגיות ביסודיות, לא נוכל לבטוח בהן בכל מידה. במקום לעזור לנו להשיג את המטרות שלנו, הם עלולים לפגוע בנו, בחלקם על ידי גרימת סוגים של כאוס חברתי שקיים כשאנחנו לא מצליחים באמת להשיג את האמת והמציאות. עם זאת, חלק מהחדשות הטובות הן שטכנולוגיות כמו blockchain, המספקות אימות טרנזקציות, עשויות לעזור כאשר הן מיושמות על רשומות דיגיטליות.