תוֹכֶן
- לתפוס גנב. . .
- אין באגים, אין מתח - המדריך השלב אחר צעד שלך ליצירת תוכנה לשינוי חיים מבלי להרוס את חייך
- עצירת הממרח
מקור: Mast3r / Dreamstime.com
להסיר:
חוקרים פונים ל- AI כדי להילחם בחדשות מזויפות. אבל האם זה באמת יכול לעזור, או שזה רק יחמיר את המצב?
חדשות מזויפות צפויות להיות קוץ גדול בצד הבחירות הקרובות לנשיאות, שלא לדבר על השפעתן המאכלת הכוללת על השיח הציבורי שלנו בכלל. בחברה המחוברת של ימינו עובדת הבחנה מהספרות בדיונית הפכה קשה יותר ויותר, וזו הסיבה שחוקרים מסוימים מתחילים להתמקד בכוחה של בינה מלאכותית לטפל בבעיה זו.
התקווה היא כמובן שמכונות, או ליתר דיוק אלגוריתמים, יהיו טובות יותר מבני אדם באיתור שקרים. אך האם זו ציפייה מציאותית, או סתם מקרה אחר של השלכת טכנולוגיה על בעיה לכאורה בלתי נסבלת?
לתפוס גנב. . .
אחת הדרכים שמדענים נתונים מתכננים לחדד את השכלתו של AI בתחום זה היא לאפשר לה לייצר חדשות מזויפות. מכון אלן לאוניברסיטת וושינגטון באוניברסיטת וושינגטון פיתח ושחרר בפומבי את גרובר, מנוע לעיבוד שפות טבעיות שנועד ליצור סיפורי שווא במגוון רחב של נושאים. אמנם זה נראה אולי פרודוקטיבי בהתחלה, אך למעשה מדובר בטקטיקת אימונים נפוצה למדי של AI בה מכונה אחת מנתחת את התפוקה של אחרת. בדרך זו ניתן להעלות את הצד האנליטי למהיר הרבה יותר מהר מאשר להסתמך על חדשות מזויפות בפועל. המכון טוען כי גרובר כבר יכול לפעול בציון דיוק של 92%, אך חשוב לציין כי הוא מיומן רק בהבחנה בין תוכן שנוצר על ידי AI לבין תוכן שנוצר על ידי אנוש, כלומר אדם חכם יכול עדיין להגניב סיפור שגוי. עבר את זה. (למידע נוסף, עיין בטכנולוגיות סביב לחימה מזויפת.)
בידיים הנכונות, כמובן, גרובר יכול לקדם במהירות את הבנתנו כיצד נוצרות חדשות מזויפות ואיך הן מתפשטות, וניתן להשתמש בהן באופן תיאורטי כדי לסכל אותן בעולם האמיתי. אך כפי שציינה Futurism.com לאחרונה, כמה מומחים שלקחו את המערכת לביצוע מבחן נבהלים עד כמה זה יעיל ביצירת שקרים אמינים, ואף מחקים את סגנונות הכתיבה של חנויות חדשות לגיטימיות כמו וול סטריט ג'ורנל וניו יורק. זמנים.
אך מכיוון ששקר הוא מעשה אינטואיטיבי ומונע רגש מטבעו, האם יתכן שאפילו המכונות החכמות ביותר, שעדיין מונעות על ידי היגיון קר, קשה, יכולות אי פעם להשיג את רמת ההבנה החסכית הנחוצה כדי לאתר שקר? מריה אלמיידה של Unbabel ציינה לאחרונה כי אמנם איטרציות מסוימות עשויות להיות טובות בזה, אף אלגוריתם אינו יכול לקוות להשיג הבנה אנושית מלאה. משמעות הדבר היא ש- AI עשוי להיות מסוגל לבצע שיפורים דרמטיים בבדיקת עובדות ובניתוח השוואתי, אך השיחה הסופית מוטב להשאיר למומחים מיומנים.
אולם, באופן אירוני, יכולת זו תועיל ביותר לאיתור הסרטונים המזויפים העמוקים שמתחילים לעשות את הסיבוב במדיה החברתית. עם AI המסוגל לנתח נתונים חזותיים עד לפיקסלים בודדים, זה יהיה מיומן יותר לאיתור תמונות שהשתנו מאשר מילים ומושגים שהשתנו.
ועדיין, טוען צ'ארלס מגדלי קלארק-פורבס, הבעיה המרכזית בחדשות מזויפות היא לא שכמה אנשים יוצרים אותם, אלא שכל כך הרבה אנשים מושפעים ממנה. אנשים נוטים להאמין במה שהם רוצים להאמין, ולא במה שהעובדות מביאות אותם להאמין. כך שגם אם מנוע AI מפותח מאוד יכריז כי אמונתם שגויה, אנשים יהיו מתאימים יותר לפקפק במכונה מאשר בעצמם.
"יישום למידת מכונות למאבק בהפצת חדשות מזויפות ראוי להערכה", הוא אומר, "ויש צורך לטפל בבעיה זו מכיוון שהאמינות של גופי חדשות מרכזיים בתקשורת נשאלת בסימן שאלה. אבל עם התפשטות המידע השגוי שמוסיפה מדיה חברתית, האם גילוי וחשיפת המקורות של חדשות מזויפות יכול להתגבר על האינסטינקט האנושי להאמין במה שנאמר לנו? "
אין באגים, אין מתח - המדריך השלב אחר צעד שלך ליצירת תוכנה לשינוי חיים מבלי להרוס את חייך
אתה לא יכול לשפר את כישורי התכנות שלך כאשר לאף אחד לא אכפת מאיכות התוכנה.
האתגר האמיתי, אם כן, הוא לא לזהות ולהתחיל לחשוף חדשות מזויפות אלא להבין מדוע הם נוטים להפיץ ברחבי המדיה החברתית כל כך הרבה יותר מהר מאשר חדשות אמיתיות. בחלקו, הדבר נובע מאופיין של חדשות מזויפות עצמן, הנוטות להיות מרגשות ועקיצות מול הטדיום ההשוואתי של המציאות. בסופו של דבר, האם זה מציאותי לצפות שהטכנולוגיה תתקן את מה שבעצם מהווה בעיה לא טכנית? (למידע נוסף על האופן בו AI משנה מדיה, ראה 5 התקדמות AI בפרסום ומדיה.)
עצירת הממרח
זו הסיבה שחשוב למקד את ה- AI בפן הטכני של חדשות מזויפות, ולא בפן האנושי, אומר רובין האריס של ZDNet. ואכן, מרבית החוקרים מכשירים את ה- AI בכדי להיכנס לדברים כמו הבחנה בין דפוסי ריבוי טבעיים ומלאכותיים דרך רשתות חברתיות. ניתן להשתמש במדדים מרכזיים כמו שיעורי עץ המרה, תזמון מחדש מחדש ונתוני תגובה כלליים כדי לזהות ולנטרל קמפיינים דיס-אינפורמציה גם אם המקור שלה מוסתר תחת שכבות של תת-דחף דיגיטלי. במקביל, ניתן להשתמש ב- AI לניהול טכנולוגיות אחרות, כמו blockchain, לשמירה על ערוצי מידע הניתנים לאיתור וניתן לאימות.
העובדה היא כי חדשות מזויפות אינן תופעה חדשה. מהעיתונות העגומה של תחילת העשריםth המאה כל הדרך חזרה לתעמולה של התרבויות הקדומות ביותר, סחרור הציבור הוא מסורת מכובדת לזמן של ממשלות יושבות ומהפכנים כאחד. ההבדל כיום הוא שהטכנולוגיה הדיגיטלית דמוקרטיזציה את היכולת הזו עד כדי כך שכמעט כל אחד יכול לפרסם שקר ולראות אותו מתפשט ברחבי העולם תוך שעות ספורות.
טכנולוגיות כמו AI בהחלט יכולות לעזור להביא קצת בהירות לבלבול זה, אך רק אנשים יכולים להבין ולשפוט את האמת.