דיפפייק ותוכן שנוצר בבינה מלאכותית: איך לזהות ולמה זה חשוב לכולנו

לפני כמה שנים, זיוף משכנע של סרטון או של קול דרש ציוד יקר ומומחים. היום, כלים של בינה מלאכותית שזמינים לכל אחד מאפשרים ליצור בתוך דקות תמונה של אירוע שלא קרה, סרטון של אדם אומר משפטים שמעולם לא אמר, או הקלטה שנשמעת בדיוק כמו קול של קרוב משפחה. הטכנולוגיה עצמה אינה רעה, ויש לה שימושים יצירתיים ומועילים רבים. אבל היא גם פותחת פתח להונאות, להטעיה ולפגיעה בשם הטוב. המאמר הזה מסביר מה זה דיפפייק, איך אפשר לנסות לזהות אותו, ובעיקר איך להתגונן.

מה זה דיפפייק

המונח דיפפייק מתאר תוכן חזותי או קולי שנוצר או שונה בעזרת בינה מלאכותית, כך שהוא נראה או נשמע אמיתי. הדוגמאות המוכרות כוללות החלפת פנים בסרטון, יצירת קול סינתטי שמחקה אדם מסוים, ויצירת תמונות מציאותיות של אנשים ומקומות שאינם קיימים או של אירועים שלא התרחשו.

המערכות האלה לומדות מכמויות גדולות של תמונות, סרטונים והקלטות, ויכולות להפיק תוצרים חדשים בסגנון דומה. ככל שיש יותר חומר זמין על אדם מסוים, למשל דמות ציבורית עם הופעות רבות ברשת, כך קל יותר לזייף אותו. אבל גם כמה שניות של הקלטת קול מהרשתות החברתיות עשויות להספיק כדי ליצור חיקוי בסיסי.

למה זה מסוכן

הסכנות של דיפפייק מגוונות. בזירה הציבורית, סרטונים מזויפים של פוליטיקאים, אנשי צבא או אישי ציבור עלולים להטעות את הציבור, להשפיע על דעת הקהל ולזרוע בלבול, בייחוד בתקופות של בחירות או של מתיחות ביטחונית. בזירה הפרטית, תמונות וסרטונים מזויפים משמשים לעיתים להטרדה, לסחיטה ולפגיעה בפרטיות.

אחד האיומים המוחשיים ביותר הוא הונאות קוליות. נוכלים יכולים לחקות קול של בן משפחה, של מנהל בעבודה או של נציג בנק, ולבקש העברת כסף דחופה או פרטים אישיים. ההונאות האלה משתמשות בלחץ רגשי ובתחושת דחיפות, ועלולות לפגוע גם באנשים זהירים.

סימנים שעשויים להסגיר זיוף

הטכנולוגיה משתפרת כל הזמן, וחלק מהסימנים שהיו מובהקים בעבר כבר כמעט נעלמו. ובכל זאת, כדאי לשים לב לפרטים הבאים:

• תנועות פנים לא טבעיות, מצמוץ חריג או סנכרון לא מושלם בין שפתיים לדיבור.
• תאורה וצללים שאינם תואמים בין הפנים לסביבה.
• ידיים, אצבעות, שיניים או אוזניים עם צורה מוזרה בתמונות.
• טקסט מעוות או חסר משמעות על שלטים ובגדים ברקע.
• קול שטוח מבחינה רגשית, נשימות חסרות או מעברים חדים.
• רקע מטושטש או לא עקבי.

חשוב להדגיש: היעדר סימנים כאלה אינו מוכיח שהתוכן אמיתי. ככל שהכלים משתפרים, הזיהוי החזותי לבדו נעשה פחות אמין, ולכן ההקשר והמקור חשובים יותר.

בדיקת ההקשר והמקור

הכלי החזק ביותר אינו טכנולוגי אלא ביקורתי. שאלו מאיפה הגיע התוכן, מי פרסם אותו ראשון, והאם כלי תקשורת אמינים מדווחים על אותו אירוע. סרטון דרמטי של אישיות מוכרת שמופיע רק בקבוצת ווטסאפ או בחשבון אנונימי, בלי שום דיווח אחר, צריך לעורר חשד.

חיפוש תמונה הפוך יכול לחשוף את המקור או לגלות שהתמונה נוצרה מתמונה אחרת. ישנם גם כלים שמנסים לזהות תוכן שנוצר בבינה מלאכותית, אבל הם אינם מושלמים ועלולים לטעות לשני הכיוונים. כדאי להתייחס אליהם כאל עוד שיקול ולא כאל הכרעה סופית.

להתגונן מהונאות קוליות

כדי להתמודד עם הונאות שמחקות קולות של קרובים, אפשר לאמץ כמה הרגלים פשוטים. אם מקבלים שיחה בהולה מבן משפחה שמבקש כסף בדחיפות, כדאי לנתק ולהתקשר אליו בחזרה למספר המוכר. משפחות מסוימות קובעות מילת קוד שרק בני המשפחה מכירים, ושואלים אותה במקרה של בקשה חשודה.

בעבודה, מומלץ לקבוע נהלים שלפיהם העברות כספים או שינויים בפרטי חשבון מחייבים אישור נוסף בערוץ אחר, גם אם הבקשה נשמעת כאילו הגיעה מהמנהל. ובכל מקרה, אסור למסור סיסמאות, קודים או פרטי אשראי בטלפון, גם אם הקול נשמע מוכר ואמין.

הגנה על התמונות והקול שלכם

כל תמונה, סרטון או הקלטה שמתפרסמים ברשת עלולים לשמש חומר גלם לזיוף. אין צורך להיעלם מהרשתות, אבל כדאי לחשוב על הגדרות הפרטיות, על מי רואה את התכנים שלכם ועל כמה חומר אישי אתם משתפים, בייחוד של ילדים.

מי שנפגע מתוכן מזויף, למשל תמונה מבזה או סרטון שמשייך לו דברים שלא אמר, יכול לדווח לפלטפורמה שבה פורסם התוכן, לתעד את הפרסום, ובמקרים חמורים לפנות למשטרה. התייעצות עם עורך דין שמתמחה בתחום יכולה לעזור להבין את האפשרויות המשפטיות.

רגולציה ואחריות הפלטפורמות

בעולם ובישראל מתנהל דיון ער על הדרך הנכונה להסדיר את התחום. יש הצעות לחייב סימון של תוכן שנוצר בבינה מלאכותית, להטיל אחריות על הפלטפורמות ולהחמיר את הענישה על שימוש זדוני. חברות טכנולוגיה מפתחות סימני מים דיגיטליים ושיטות לאימות מקור התוכן.

התהליכים האלה לוקחים זמן, ובינתיים האחריות מוטלת במידה רבה על המשתמשים עצמם. חינוך לאוריינות דיגיטלית, בבתי הספר ובבית, הוא אחד הכלים החשובים ביותר.

איך לדבר על זה עם הורים מבוגרים

אנשים מבוגרים הם לעיתים יעד מועדף להונאות קוליות, בין השאר כי הם פחות מכירים את היכולות של הטכנולוגיה החדשה. שיחה רגועה עם ההורים והסבים, שמסבירה שהיום אפשר לחקות קול של נכד או של בן משפחה, יכולה למנוע נזק גדול. כדאי לסכם איתם מראש שכל בקשה לכסף בטלפון, גם אם היא נשמעת אמינה לגמרי, תאומת בשיחה חוזרת למספר מוכר או מול בן משפחה נוסף.

לסיכום, דיפפייק ותוכן סינתטי הם חלק מהמציאות החדשה, והם ילכו ויהיו משכנעים יותר. הדרך להתמודד היא לא לפחד מכל תמונה, אלא לפתח הרגלים של בדיקה: לשאול מאיפה התוכן הגיע, לבדוק את ההקשר, לאמת בקשות דחופות בערוץ נוסף ולשמור על הפרטיות שלנו. ספקנות בריאה היא היום מיומנות הכרחית.