בזמן שבכנסת מקדמים חקיקה לסימון סרטוני תעמולה שנעשו בבינה מלאכותית, רועי ששון, מנהל המחלקה הציבורית בארגון 'פייק ריפורטר', מזהיר בראיון ל'דבר' מפני הסכנות מקיפות את מערכת הבחירות הראשונה בישראל בעידן ה-AI: לא רק זיופים נקודתיים ודיפ-פייקים, אלא הצפה מתמשכת שמחלישה את היכולת להבחין בין אמת לשקר.

לדברי ששון, הפתרון לא יכול להיות רק טכנולוגי: מעבר לחקיקה שמקודמת עכשיו לסימון ברור של תכנים לקראת הבחירות יש לקיים ניטור אקטיבי ולהשית על הרשתות החברתיות אחריות על הבמה שהם מאפשרים וקידום חינוך ציבורי לחשיבה ביקורתית.

בחירות בעידן ה-AI

פייק ריפורטר הוא ארגון ישראלי שהוקם בשנת 2020 כדי להיאבק בפעילות זדונית ברשת, הכוללת הפצת דיסאינפורמציה וקונספירציות, מבצעי השפעה זרים, שיח שנאה והתארגנויות אלימות. הארגון הוקם על ידי פעילים חברתיים, מומחים וחוקרי רשת ונעזר באזרחים המדווחים על תכנים זדוניים כדי ליצור מרחב דיגיטלי בטוח יותר.

ממה אתם חוששים לקראת הבחירות?
"החשש שלנו מבוסס גם על ניסיון העבר שלנו, גם על מה שאנחנו רואים עכשיו בשטח, וגם על ניסיון מהעולם. הסכנה העיקרית היא לא משיבושים ביום ההצבעה עצמו, אלא העיקר הוא שיבוש עמוק של דעת הקהל. מה שקורה עכשיו כבר מונע מהאזרחים לקבל החלטות פוליטיות רציונליות.

"ישראל נכנסת למערכת הבחירות הראשונה שלה מאז השקת צ'אט ג'יפיטי (מודל הבינה המלאכותית Chat-GPT מבית חברת Open AI – א.ג.ל) בנובמבר 2022. זה עידן חדש לחלוטין, ובתוכו אנחנו נחשפים לשתי סכנות שקשורות לבינה מלאכותית בבחירות".

הפייק הנקודתי הוא קצה הקרחון

"הסכנה הראשונה היא זו שמוכרת ומדוברת יותר ולגביה מתנהל תהליך חקיקה, זה הפייק נקודתי, דיפ-פייק או תוצר בינה מלאכותית שמציגים מועמד או אירוע באופן מסולף או מעוות", מסביר ששון. "דוגמה לכך קרתה בינואר האחרון: לאחר מפגש של ראשי המפלגות הערביות שקראו להתאחד בבחירות, הליכוד פרסם תמונה שבה נראו אותם ארבעה ראשי המפלגות הערביות יחד עם בנט ולפיד, מרימים ידיים, כאילו הם מאוחדים פוליטית. אנחנו פרסמנו שזה מזויף, זו דוגמה לפייק נקודתי.

"דוגמא נוספת הובאה בדיון אצל יו"ר ועדת הבחירות, השופט נעם סולברג: הוצג לו סרטון מזויף שבו נראה כביכול סולברג מודיע על אירוע ביטחוני ובעקבותיו על סגירת הקלפיות. רצו להראות לו כמה זה מסוכן. זו עוד דוגמה לחשש מפני מה שיכול להיות לקראת הבחירות.

זה ביבי או טיבי
אינשאללה #התחלנו pic.twitter.com/mEAZatD4J5

— יונתן אוריך (@jonatanu) February 18, 2026

"אז ועדת הבחירות בכנסת מנסה לדאוג שתמונות או סרטוני כאלו יסומנו, אבל זה קצה הקרחון. כשאני מדבר על קצה הקרחון, אני מתכוון לפייק נקודתי על מועמד מסוים שקר שמתחזה לאמת. אבל האיום העמוק יותר אינו זיוף אחד פה ושם, אלא ההצפה המתמשכת. הקרחון עצמו, הוא הרבה יותר משפיע והרבה יותר הרסני".

הרעשה מתמדת, אפקט מצטבר

"הסוג השני הוא למשל קמפיין המסכות, שבו דמויות מלאכותיות של יאיר לפיד ונפתלי בנט כביכול מורידות מסכה והופכות למנסור עבאס ואחמד טיבי", מדגים ששון. "זה נראה לנו קצת מגוחך, אבל בסוף נוצר דימוי. יכול להיות שזו עמדה פוליטית לגיטימית ויכול להיות שלא; זה לא העניין. העניין הוא שבסוף הדימוי נצרב".

אבל תעמולה פוליטית תמיד נשענה על הפצה של דימויים ושקרים. מה ההבדל?
"נכון. החידוש כאן הוא ההרעשה האינסופית. אני יכול לפגוש את זה בטלפון, ביד שלי, 24 שעות ביממה, 7 ימים בשבוע. אני יכול לפגוש את זה ברשתות, בטלוויזיה, כל הזמן ובכל מיני כלים. זה לא כמו פעם, כשפגשת מודעה בעיתון עם סימון של מודעה, או שלטי חוצות שאני יודע שהם פרסומת. זה פוגש אותך כל הזמן, ויש לזה אפקט מצטבר.

"ישראל פגיעה במיוחד לזה בגלל שילוב של שני גורמים. מצד אחד, הישראלים הם צרכנים כבדים מאוד של רשתות חברתיות. סקר של איגוד האינטרנט מראה רמת שימוש גבוהה במיוחד בוואטסאפ, בטלגרם, ביוטיוב וברשתות נוספות. מצד שני, למרות שאנחנו אומת הסטארט-אפ, האוריינות הדיגיטלית של הציבור בישראל נמוכה בהשוואה בינלאומית. כלומר, היכולת שלנו לזהות מניפולציות ולשים לב למניפולציות נמוכה יותר".

הבחירות המקומיות בנתניה כפרומו

"כדי להסביר את השפעות הקמפיינים ברשותות, ואת כוחם של הזיופים באמצעות בינה מלאכותית, נותן ששון כדוגמה את הבחירות לעיריית נתניה, שהתקיימו בינואר האחרון. "הבחירות המקומיות בישראל יכולות לשמש כפרומו. למשל אחרי פטירתה ראשת העיר נתניה של מרים פיירברג-איכר התקיימו בחירות.

"בקבוצת הפייסבוק 'נתניה העיר שלי', שבה היו כ-40 אלף חברים, הופצו תכנים נגד טלי מולנר, סגנית ראש העיר לשעבר ואחת המועמדות בבחירות. הקבוצה נוהלה על ידי ארבעה אווטארים פיקטיביים שהציפו שם דימויים ותכנים שנוצרו בבינה מלאכותית נגד מולנר.

"הקבוצה עצמה לא נועדה במקור למטרות פוליטיות. היה שם מהלך של השתלטות והצפה. למשל, היה פרסום שנועד להציג את מולנר כמי שנתמכת על ידי ארגון 'אחים לנשק', כדי לצייר אותה כרדיקלית בעיני קהלים מסוימים. זה נעשה באמצעות בינה מלאכותית.

"תנאי הסף היום להיכנס לעולם הזה נמוכים מאוד: זה כמעט לא דורש כסף, זה נגיש, אפשר לעשות את זה מהר מאוד ובלי הבנה טכנולוגית גדולה מדי. אתה לא צריך לשכנע עם טיעונים אתה פשוט מציף את ההכרה של אנשים באינסוף דימויים.

מבצעי זיוף משפיעים על בחירות ברחבי העולם

לדברי ששון, ניתן לזהות שימוש רחב היקף בזיופים מבוססי בינה מלאכותית בבחירות כלליות שהתקיימו בעולם. כדוגמא לכך, הוא מספר שבבחירות בסלובקיה ב-2023, רגע לפני פתיחת הקלפיות, הופצה הקלטה קולית מזויפת של מועמד פרו-מערבי, שבה הוא נשמע כביכול משוחח עם עיתונאית ואומר שהוא מתכוון לגנוב את הבחירות.

"זה דיפ-פייק שמשתמש בקול", הוא מסביר. "זו דוגמא למשהו שועדת הבחירות בכלל לא התייחסה אליו. היא הופצה בטלגרם, ומשם הגיעה לפייסבוק וקיבלה מאות אלפי חשיפות. בסלובקיה, מדינה של חמישה מיליון אנשים, אלה אחוזי חשיפה גבוהים מאוד. אותו מועמד הפסיד לבסוף. תחקירים עצמאיים גילו שמקור ההקלטה הוא ערוץ טלגרם המקורב לקרמלין".

כדוגמה נוספת מספר ששון על הודעה קולית מזויפת שיוחסה לג'ו ביידן ב-2024, ובה נקראו מצביעים דמוקרטים שלא לצאת להצביע בבחירות האמצע "כדי לשמור כוחות לבחירות לנשיאות".

"הסכנה אינה רק פרסום המוני", הוא מדגיש. "זה לא חייב להגיע לכל המדינה. זה יכול להגיע לקהלים מאוד מסוימים. כשאנחנו מדברים על בינה מלאכותית, אנחנו מדברים בעיקר על התוצרים הוויזואליים. אנחנו לא מדברים מספיק על היכולת לעשות מיקרו-טירגוט (הכוונת מסרים ותכנים מסויימים לקהלים ספציפיים – א.ג.ל), להגיע לאנשים מסוימים ולקהלים ספציפיים, לנסות עליהם מסרים ולראות אם זה מצליח.

"יש גם דוגמאות רחבות יותר של מבצעי השפעה זרים. ברומניה היו בחירות שהתבטלו בגלל קמפיין השפעה זר שעשה שימוש בבינה מלאכותית. במולדובה נחשף קמפיין פרו-רוסי מקיף להטיית הבחירות ברשת. זו תופעה גלובלית, וישראל נמצאת עכשיו בחזית שלה, כי אנחנו בבחירות סופר-רגישות".

"אף אחד לא כותב שהוא עושה קמפיין הכפשה דיגיטלי"

ששון מסביר שיצירה ותפעול של קמפיינים דיגיטליים הם כבר היום כלים הנמצאים בשימוש של חברות פרסום, יועצי תקשורת, קמפיינרים דיגיטליים ועוד. "אף אחד לא כותב באופן גלוי שהוא עושה קמפיין הכפשה דיגיטלי. בגלל שהטכנולוגיה זמינה וזולה גם לא תמיד עומד שם איזה בעל מקצוע. אחת הדמויות שעמדו מאחורי הקמפיין הבחירות הזה בנתניה היה יועץ בשכר של ח"כ עידית סילמן, ויש גם יועצי עבר של גורמים מהשמאל שמציעים שירותים כאלו.

"אחת הבעיות המרכזיות היא שהחוק וההסדרה של הבחירות בישראל מתמודדים בעיקר עם מפלגות ופוליטיקאים, ולא עם גורמים חיצוניים. אם מתברר שמישהו אחר עושה את זה, גורם חיצוני שהוא לא המפלגה, אין לוועדת הבחירות שום סמכות מול האנשים האלה”.

איך המדינה יכולה להתמודד עם התופעה הזו?
"הצעד הראשון הוא שקיפות. סימון תוכן תעמולה בבינה זה שלב ראשון בהתמודדות עם התופעה וצריך לברך על כך שזה הכיוון שוועדת הבחירות מקדמת. אני מודה שלצערי אני סקפטי לגבי קידום החוק בקונסטלציה הנוכחית, אבל גם אם החקיקה עוברת כדי להתמודד עם התופעה נדרש הרבה יותר.

"צריך להקים מערך ניטור אפקטיבי ופעיל של כלל הגורמים הרלוונטיים: מערך הסייבר, המשטרה, אפילו שב"כ. הרי יש פה גם ניסיונות למבצעי השפעה זרים וסכנה לביטחון הלאומי, גם מבקר המדינה הזהיר שבבחירות הקרובות יהיו כאן מבצעי השפעה זרים.

"מערך כזה לא יכול לחכות רק לעתירות שמוגשות לוועדת הבחירות. הוא צריך לדעת לצאת ולזהות בעצמו, להגיע למקומות שבהם יש מחוללי שיח, לזהות מילות מפתח, מפלגות ומועמדים, להבין שמתחיל שיח מסוים, לעקוב אחריו ולראות איך הוא מתפתח. כל זה צריך להיעשות בלי להגביל את חופש הביטוי, אלא כדי להביא לשקיפות, ואם יש פעילות זדונית – לסכל אותה בזמן".

"נדרש קמפיין הסברה לאומי לזיהוי פייק ניוז"

"צריך להבין שאין פתרון טכנולוגי לדבר הזה", מדגיש ששון. "זו נקודת מוצא חשובה: הטכנולוגיה תמשיך להתפתח מהר יותר מהרגולציה ומהנורמות הפוליטיות. לכן גם נדרש לטפל בפיל שבחדר, הרשתות החברתיות. בסופו של דבר זו הזירה שבה התכנים מופצים, ומי שמרוויחות באופן ישיר בזרימת השקרים בתוכם וכל עוד זה משתלם להם התופעה תמשיך.

"דרך שלישית היא לפתח את השכל הישר של הציבור. בפייק ריפורטר אנחנו מפרסמים מדריכים שמלמדים איך לצרוך תוכן ברשת בצורה ביקורתית: איך לזהות תוכן שנוצר באמצעות בינה מלאכותית, איך לזהות משתמש שמפיץ תכנים מזויפים מתוך אינטרס, ואיך להבחין בין תעמולה מבית לבין פעילות של גורמים זרים, זה צריך להיות קמפיין הסברה לאומי. כמו שיש קמפיין לקראת הבחירות — איך מגיעים לקלפי ומה צריך לעשות — אותו דבר צריך לעזור לציבור לזהות מה פייק ומה לא.

אי אפשר להפריז בחשיבות העניין, בסוף האבחנה בין אמת ושקר זה הבסיס של החברה, בלי זה אנחנו לא יכולים לנהל דיאלוג ולא יכולים לנהל חברה במשותף, גם בשלושת החודשים שנותרו לנו, לא מאוחר לנסות להגן על הציבור.