כשגילי דרוב-היישטיין הזמינה בכיר במערכת הביטחון להרצות בכנס 'דיפנס-טק' שארגנה, היא לא הבינה על מה הוא כועס. בשיחת הטלפון הקצרה ביניהם הוא זעם על כך שכבר חודשיים הוא מנהל איתה, כביכול, תיאומים לקראת הרצאתו בכנס. אלא שדרוב-היישטיין, מנהלת מרכז בלווטניק למחקר סייבר בינתחומי באוניברסיטת תל אביב, לא דיברה ולא התכתבה איתו מעולם על הכנס, ואפילו לא שוחחה איתו ישירות זה שלוש שנים.

באותה שיחה הזויה, שבה היא התעקשה להבין מדוע הוא בטוח שכבר שובץ להרצאה וכועס על קיצור הזמן שניתן לו, נחשף הסיפור כולו: לא היא עומדת מאחורי ההתכתבות, אלא האקרים איראניים שהתחזו אליה בווטסאפ במשך שבועות ארוכים, תוך שליחת חומרים שנראו אמיתיים, ואפילו שיבוץ מדומה בלו"ז הכנס. בעוד מערכת האבטחה המוסדית הצליחה לחסום את המיילים החשודים, ההתכתבות בווטסאפ נמשכה באין מפריע.

"עלינו על ההונאה רק בזכות דבר אחד", סיפרה דרוב-היישטיין בכנס שבוע הסייבר באוניברסיטת תל אביב, שנערך בחודש שעבר, "זה שהם שיבצו אותו לשעה שלמה, במקום 15 הדקות הרגילות שלנו. אחרת לא היינו מגלים את זה עד יום הכנס".

הקספרוב של ימינו בדרך להפסיד להאקרים

אלוף השחמט האגדי גארי קספרוב התמודד פעמיים מול המחשב 'כחול עמוק' של חברת IBM. במפגש הראשון, שנערך ב-1996, ניצח קספרוב את המחשב. "קיבלתי הצצה ראשונה לבינה מלאכותית", כתב קספרוב בעקבות ניצחונו. "שיחקתי כבר מול הרבה מחשבים, אך אף פעם לא חוויתי דבר כזה. הרגשתי, הרחתי, שמולי בשולחן יש תבונה מסוג חדש". קספרוב כינה את התבונה הזו "משונה וחסרת גמישות", והעריך שנותרו לו "כמה שנים יפות". אך כעבור שנה אחת בלבד, ב-1997, הביס כחול עמוק את קספרוב בטורניר חוזר. מאז, אף שחקן אנושי לא הגיע ליכולות המחשבים בשחמט.

מני ברזילי, מומחה אבטחת סייבר ואחד ממארגני כנס שבוע הסייבר, השתמש בסיפור על קספרוב וכחול עמוק כהמחשה לשלב הנוכחי של הונאות סייבר ובינה מלאכותית. "עכשיו זה ה-1996 של ההאקינג", הוא אמר בכנס, "תבוא 1997, והמחשבים ינצחו את בני האדם בכל פעם. לא נחזור ל-1996 לעולמים". הכנס, בהשתתפות אלפי מומחים לאבטחת מידע מהארץ ומהעולם, הלוחמים נגד הריגול והפשע הדיגיטליים, הציג סכנות חדשות, וגם כלים להתמודד איתן.

סוכני AI תוקפים בכל חזית

במהלך הכנס עלה שהבעיה היא עמוקה הרבה יותר מהתכתבויות בווטסאפ או בדואר אלקטרוני. במציאות החדשה, גם שיחת טלפון אינה מבטיחה חסינות מהונאה וריגול. בהרצאות רבות בכנס חזר על עצמו סיפור עלייתן של תקיפות סייבר שבהן התוקפים מתגלמים בדמות חבר, קרוב משפחה או אפילו האדם עצמו. "אנחנו כבר לא בהגנה מול בני אדם", אמר קובי אביטן, ראש המעבדה הביומטרית במערך הסייבר הלאומי, "אלא מול אלגוריתמים שמייצרים בני אדם".

התופעה שנקראת "בינה מלאכותית של סייבר סוכנותי" (Agentic Cyber-AI) מופיעה במסכים בשתי צורות: מצד אחד התחזויות "דיפ-פייק" (זיוף עמוק) למכרים אישיים, ומהצד השני דמויות זרות שנראות אמיתיות לגמרי, למרות שהן בדויות לחלוטין. ד"ר רועי צזנה, עמית בסדנת יובל נאמן למדע, טכנולוגיה וביטחון באוניברסיטת תל אביב ומרצה בטכניון, הזהיר שהמודלים של דיפ-פייק צריכים דגימת קול מוקלט של שניות ספורות בלבד כדי לשכפל את הצליל, המנגינה, סגנון הדיבור, ואפילו איך נשמע הבכי של אדם שאליו יתחזו.

צזנה הציג סטטיסטיקות ממחקר שהתפרסם בשנה האחרונה, שמשתתפיו האנושיים נכשלו באופן עקבי בהבחנה בין הקלטות של קולות אנושיים לכאלו שנוצרו בבינה מלאכותית. 80% מהמשתתפים במחקר זיהו שהקול המושמע שייך לאדם המוכר להם, אך רק 60% חשדו שההקלטות מזויפות.

אותו מחקר, שנערך באוניברסיטת ברקלי בקליפורניה, מזהיר כי "איכותן ומציאותיותן של מדיות המיוצרות בבינה מלאכותית משתפרות במהירות". המחקר מוסיף כי "בקרוב קולות שנוצרו בבינה מלאכותית לא יהיו ניתנים להבחנה מקולות אמיתיים, הן מבחינת טבעיותם והן מבחינת זהותם". דבר זה מעלה, לטענת עורכי המחקר, חששות משמעותיים לביטחון הציבור.

"אמא מכירה את הבת שלה, הבכי שלה היה כל כך אמיתי"

ד"ר צזנה הוסיף כי ייתכן שאחד מכל עשרה ישראלים כבר קיבלו שיחה ממתחזה AI קולי, ובמקרים רבים גם נפלו קורבן להונאה. הוא הדגים בסיפור מצמרר מ-2023 על אישה אמריקאית שקיבלה שיחת טלפון, ובה בתה המפצירה בבכי שתשלח עשרות אלפי דולרים כופר לחוטפיה. אפילו כאשר אישה אחרת בסביבה אמרה לה שהאירוע נראה כהונאה, האם התקשתה להאמין. "אמא מכירה את הבת שלה", אמרה. "הקול שלה היה כל כך אמיתי, הבכי שלה והכול היה כל כך אמיתי."

גדי מזור, מנכ"ל חברת BioCatch, הציג הערכה מנתונים בנקאיים בארה"ב בשנת 2024: בעוד היקף ההפסדים מפריצות של האקרים לחשבונות הגיע לכ-15 מיליארד דולר, היקף ההפסדים כתוצאה מהונאות 'הנדסה חברתית', שבהן בעלי החשבונות משתכנעים להעביר לנוכלים את כספם, התעלה על כך והגיע ל-17 מיליארד דולר. מזור הדגיש כי סכום ההפסדים שדווח כתוצאה מהנדסה חברתית ככל הנראה נמוך בכ-7 מיליארד דולר מהסכום האמיתי. "באירוע פריצת חשבון, הבנק יחזיר לך את הכסף שנגנב, ואילו במקרי הונאה אף אחד לא יחזיר לך, ואתה תושפל מזה שנפלת בתרגיל. בגלל זה מניחים שכ-40% בכלל לא מדווחים".

הדפוס לא מוגבל רק לקורבנות אינדיבידואליים. ד"ר שלומית ווגמן, עמיתת מחקר באוניברסיטת הרווארד ולשעבר מנכ"לית הרשות לאיסור הלבנת הון ומימון טרור, שיתפה אירוע מטריד שאירע ב-2024 בהונג קונג, שבו עובדים בתאגיד גדול, שהמשטרה המקומית סירבה לפרסם את שמו, העבירו להאקרים סכום של יותר מ-25 מיליון דולר בעקבות שיחת וידאו שבה הופיע סמנכ"ל הכספים של החברה יחד עם עובדים אחרים, כולם יצירי AI. "אני שומעת שיש הרבה מקרים כאלה", אמרה ד"ר ווגמן. "החברות מנסות להסתיר את זה מרוב בושה, אבל זה קורה יום יום".

ד"ר ווגמן אמרה למשתתפי הכנס שלאף אחד אין חיסון מהתופעה. "כל אחד מכם יקבל הצעה שמתאימה בול לצרכים, לציפיות ולמשאלות שלו, לעשות איזה פרויקט גדול, הרצאה, מה שזה לא יהיה". לדבריה, גם מומחי הסייבר שבקהל עתידים ליפול להונאה. "מה שעומד מולנו היום זה צונאמי של הונאות מיוצרות דיפ-פייק. הנדסה חברתית נהייתה כל כך פשוטה להפקה".

איראן שלחה מסרונים מטעם פיקוד העורף

בישראל, הצונאמי כבר מתפרץ בעוצמה יוצאת מן הכלל. ישראל, המדינה ה-98 בעולם בגודל אוכלוסייתה, זכתה במחצית 2025 הראשונה במקום השלישי בעולם בשיעור תקיפות הסייבר נגד ארגונים במדינה. כך לפי דוח ממייקרוסופט, שלפיו אחת מכל חמש תקיפות סייבר במזרח התיכון מכוונת לישראל.

ראש מערך הסייבר הלאומי, תת-אלוף (במיל') יוסי כראדי, חשף  בכנס שבמהלך 12 ימי המלחמה עם איראן (מבצע עם כלביא) זוהו כמעט 1,200 מבצעי הנדסה חברתית. "כל אחד מהם הגיע לאלפי ישראלים", אמר, "המשמעות היא שכל אזרח ישראל 'טורגט' (הוצב כיעד לתקיפה, י"ר) פעמים רבות תוך 12 ימים בלבד".

לדברי כראדי, לא מדובר רק בהונאה אלא בנשק מסוג חדש, שדורש היערכות מחודשת ברמה הלאומית והבינלאומית. הוא הגדיר את המצב כיום כ"לוחמה היברידית, המאופיינת בסינרגיה בין אמצעים קינטיים וסייבר בתיאום מבצעי". כדוגמה לכך הוא סיפר שבמהלך אחד ממטחי הטילים של עם כלביא, איראן יזמה קמפיין התחזות לפיקוד העורף, שלחה מסרונים המורים לאנשים שלא להיכנס למרחבים המוגנים, והפיצה התראות מזויפות על מחסורי דלק ומזון. כלומר, מבצע הנדסה החברתית יכול להתחפש גם למדינה עצמה, עם פוטנציאל קטלני.

כבר לא צריך האקרים

ברזילי תיאר בכנס קפיצת מדרגה פרדיגמטית בהונאה, בחסות הקלות הבלתי-נתפסת של יצירת דמויות פיקטיביות, וארגונים ותיעודים פיקטיביים. לדבריו, "הבינה המלאכותית היוצרת תשנה כל היבט של הפשע". אילו בעבר מרגל היה יוצר לעצמו שם ורקע בדויים, היום מייצרים בבינה מלאכותית "מציאות בדויה שלמה". אפשר לייצר, למשל, אלפי אתרים של חברות מזויפות, עם עובדים מזויפים שיש להם תמונות פרופיל מזויפות, וכל אלה יעמדו מאחורי הדמות המזויפת שתיצור קשר עם המשתמש, ובכלל לא תציג את עצמה כ'נסיך ניגרי', אלא כאדם רגיל להפליא.

את המציאות הבדויה הזו מודלי בינה מלאכותית כבר יודעים ליצור מאפס, בתוך שניות. לכן, רבים מהמרצים והמרצות בשבוע הסייבר טענו שכבר לא צריך האקרים או מרגלים אנושיים כדי לנהל את תהליך היצירה של מציאות בדויה. ברזילי הסביר שהם יוחלפו ב"מערכת האקינג אוטונומית", שיכולה לייצר באופן עצמאי אלפי מציאויות בדויות, כדי לגשת לאלפי מטרות במקביל. לדברי המומחים בכנס, מול מתקפות כאלה כולם פגיעים ועלולים ליפול בפח – האזרח הקטן, הבכיר הביטחוני או התאגידי, וגם מנהל הגנת הסייבר של כל בנק ומשרד באשר הוא.

בינה מלאכותית תגן מתקיפות בינה מלאכותית

התשובה ההגיונית היחידה מול מערכות הבינה המלאכותית מצד ההתקפה היא מערכות בינה מלאכותית גם בצד ההגנה, כך הסכימו בכנס. בנימה יותר אופטימית, הדגיש כראדי כי אותם כלי בינה מלאכותית שמחוללים את האיומים החדשים, הם גם הכלים העוצמתיים ביותר שיש מול אותם איומים בהגנת הסייבר.

הבינה המלאכותית מייצרת נתונים בכמות שמעבר ליכולות האנושיות לעבד ולנתח, אך היא גם יכולה לעבד ולנתח אותן. הבינה המלאכותית מייצרת קולות וידאו דיפ-פייק שמתעתעים בנו, אך היא גם יכולה לנתח ולגלות את הסימנים האנומליים שלא נראים לעינינו: חוסר עקביות בפיקסלים, תנועות זעירות שלא מסתדרות עם הפיזיקה, וכדומה – כדי לזהות את הזיוף. הבינה המלאכותית כותבת קוד אוטומטי, כך שכל וירוס ונוזקה (תוכנה עוינת) הוא מוטציה ייחודית וקשה לגילוי, אך היא גם יכולה לזהות דפוסים שמסמנים קוד המיועד להתקפה, אפילו מתוך זרם נתונים מוצפן. הבינה המלאכותית מאתרת במהירות על-אנושית נקודות פגיעות להתקפה בקוד שרץ במערכת, אך הוא גם יכול לתקן את הקוד באותה מהירות.

רעות מנשה, מנכ"לית חברת 'טטריספונס' לייעוץ אבטחת מידע וסייבר, שיתפה בסיפור טרי מ'שדה הקרב' שממחיש את חוקי המשחק החדשים של הגנת סייבר המבוססת על בינה מלאכותית: "3:00 לפנות בוקר במערכת ענן גלובלית, מפתח גישה בעל הרשאות יתר למערכת נופל בידיים רעות. בעולם הישן, כאן מתחיל פרק זמן של השהייה, והתוקף נע באיטיות כדי להישאר מתחת לרדאר. אולי אנליסט אנושי יעלה עליו בעוד ארבע שעות, אולי בעוד ארבעה ימים."

בעולם החדש, המצב שונה לחלוטין. אף אחד לא נקרא לטפל בפריצה, אך בכל זאת "התנהלה מלחמה": סוכן בינה מלאכותית תקף את המערכת, סוכן בינה מלאכותית הגנתי זיהה את התקיפה ועצר אותה, והמערכה כולה התחילה והסתיימה תוך 400 מילישניות. "בני אנוש לא נלחמו בקרב. בני אנוש בכלל לא ראו אותו. רק קראנו עליו ביומני המערכת בבוקר על כוס קפה".

"גנרלים של צבאות AI"

מעבר לתמונת המדע הבדיוני של קרב הבזק בין לוחמים מכניים אוטונומיים, מסיפורים כאלה עולה מתח שקיבל ביטוי במהלך שבוע הסייבר ביחס לסוגיה המכונה "אדם בלולאה". לצד הסכמה רחבה שרק בינה מלאכותית הגנתית מאפשרת להתמודד עם תקיפות בינה מלאכותית, נשארת השאלה מהו צריך להיות תפקידם של בני האדם, והאם יש להפקיד את ביטחוננו בידי האדם או בידי הבינה המלאכותית? כלל הדוברים תיארו שיתוף פעולה בין השניים, ללא תפיסה אחידה לגבי האופן שבו שיתוף הפעולה הזה צריך להיראות.

ראש השב"ג לשעבר, רונן בר, אמר ש"עלינו להשתמש בבינה המלאכותית כמעין טייס משנה שמודיע כשאנחנו טועים" כתיאור לקשר הרצוי. בר השווה את יישום הבינה המלאכותית המבצעי לכניסת ה-GPS לשימוש הצבא בדור הקודם. "למפקדים עלתה בעיה – אם ניתן לחיילים יכולת GPS, הם לא ילמדו לנווט כראוי. אבל ה-GPS מנווט טוב יותר מהם". לדבריו, הפשרה הייתה שלוחם אחד יושב מאחורי הנווט עם מכשיר GPS, ומותר לו לדבר רק כאשר הנווט טועה. "גם במצב הזה, מקבל ההחלטה הסופית היה הנווט".

לעומת הגישה הזהירה שהציע בר, דוברים אחרים בכנס טענו שמקבלי החלטות אנושיים פשוט לא יעמדו בהיקף ובמהירות של תקיפות בינה מלאכותית. "כשחושבים על טייס קרב מול רחפן שמכוון ב-AI, אם לוקח לטייס שלושה רבעי שניה כדי לקבל החלטה, זו תקופת חיים עבור ה-AI", אמר ברזילי. לדברי מנשה, "מהירות הקרב היא בהרבה מעבר לקצב של הקוגניציה האנושית".

נוסף על בעיית המהירות, קיימת גם בעיית ההיקף. "ה-AI הוא בעצם בלתי מוגבל, ולכן במקום מאות תקיפות מדובר במאות מיליוני תקיפות", אמר ראש הממשלה לשעבר נפתלי בנט, והציע דימוי דרמטי: "דמיינו עשרים מיליון סוכנים, כל אחד לוחם סייבר מבריק, צונחים מאחורי קו העימות אל תוך המדינה, נכנסים לכל מיני משרדים ומבנים ומתחילים בעבודה, מסתגלים ומתפתחים תוך כדי. מול זה אנחנו עומדים".

רבים מהמומחים, כמו ד"ר דורית דור, לשעבר מנהלת הטכנולוגיות בחברת צ'קפוינט, העריכו שבפועל מנהלי מערכות אבטחת המידע יתעקשו על שליטה ידנית עד הרגע שבו תחל מתקפת סוכני בינה מלאכותית בקנה מידה עצום, מה שיאלץ אותם להפעיל הגנה אוטונומית מלאה, וסביר להניח שהם לא יחזרו לשליטה ידנית לאחר מכן. לדברי דור, זו תהיה נקודת מפנה של מעבר לפרדיגמה הגנתית חדשה: "לא ה-AI עוזר לבני האדם, אלא בני האדם עוזרים ל-AI". מנשה סיכמה את מקומם של בני האדם בהגנה מול מתקפות סוכני בינה מלאכותית: "אנחנו נהיים לגנרלים של צבאות AI".

'1997' כבר עברה

תחזיתו של מני ברזילי, שה"1997" של הבינה המלאכותית תגיע כאשר מחשבים יתגברו לצמיתות על יכולתם של האקרים אנושיים, נאמרה ביום סיומו של שבוע הסייבר, ב-11 בדצמבר. יום לפני כן הקדים אותו צוות חוקרים מאוניברסיטת סטנפורד, ופרסם מחקר שלפיו מערכת AI אוטונומית מנצחת תשעה מתוך עשרה מומחי סייבר אנושיים, "בהערכה מקיפה בסביבה החיה בסטנדרט תעשייתי". במסגרת המחקר, מומחי הסייבר התחרו במערכות ה-AI באיתור נקודות תורפה ברשת של אוניברסיטה גדולה, במטרה למצוא כמה שיותר אפשרויות לחדור למערכת.

בהפסדו של גארי קספרוב נגד כחול עמוק ב-1997 המאזן עמד על 3.5 ניצחונות לבינה המלאכותית מול 2.5 לקספרוב. בהשוואה למאזן 9-1 של מומחי סטנפורד נגד מערכות ה-AI, נראה כי בעת שחזה ברזילי את הגעתה הקרבה, ייתכן שה'1997' של הסייבר בעצם כבר עברה. אפשר אולי להיזכר במה שאמר קספרוב אחרי ההפסד ההוא: "התבוסה עזרה לי להבין שהתחרות בין מכונות לבני אדם תיכף תסתיים, והגיע הזמן לשיתוף פעולה".