חוויה נפוצה בעידן הבינה המלאכותית: מקבלים מהצ'אט מידע, ולמרות נימת הביטחון והמומחיות שבנוסח התשובה, משהו מעורר חשד. מבקשים בירור והצ'אט אומר כי אכן טעה והנה המידע האמיתי – שגם הוא מסתבר כהמצאה מוחלטת. אך מה ניתן לעשות כש"הזיות AI" כאלה מגיעות לא מאפליקציה בפלאפון, אלא מהלשכה המשפטית של העירייה? במקרה של תלמיד חינוך מיוחד מרמת גן, הדבר הגיע לפתחו של בית המשפט העליון. למרות שאביו של התלמיד הראה לעירייה שהתשובה התבססה על 'הזיות' ופנה לבתי המשפט, גם תגובות העירייה בהליכים המשפטיים כללו שימוש לא מבוקר בבינה מלאכותית – שהוביל את השופטים לפסוק לטובתו הוצאות משפט בסך 30 אלף ש"ח.

הוריו של התלמיד חיים בנפרד מאז 2016. כשאביו עבר ב-2023 לגור בדירה מרוחקת מבית הספר, הוא ביקש מהעירייה להסדיר הסעות לבנו גם מביתו שלו. בהתחלה העירייה אישרה והתלמיד נסע בהסעה, אך כעבור כמה חודשים בוטלה הזכאות בטענה שהמשמורת היא רק של האם.

אביו של התלמיד לא ויתר ושלח מכתב מעורך דין. בתגובה, במאי 2025 עובדי העירייה שלחו מכתב רשמי ומפורט שבו דחו את בקשתו. כדי להצדיק את הסירוב, הם ציטטו בהרחבה נוהל מחוזר מנכ"ל של משרד החינוך ופסקי דין, שקבעו כביכול שהילד לא זכאי להסעה.

אלא שכאשר אלון סוקניק, עורך דינו של האב, עבר על מכתבה של העירייה וחיפש את האסמכתאות המבססות את הסירוב, התברר כי הנוהל שהוזכר בהן היה, לדבריו, "פשוט המצאה". בשיחה עם 'דבר' הוא מספר ש"‫גם‬ ‫הקביעות‬ ‫כביכול‬ ‫מתוך‬ ‫פסקי‬ ‫הדין‬ ‫הנזכרים‬ ‫במכתב‬ ‫–‬ ‫לא ‬‫היו‬ ‫ולא‬ ‫נבראו"‬. גם במשרד החינוך אמרו כי החוזר שהעירייה הפנתה אליו לא מוכר להם. הכול היה כנראה פרי דמיונה של בינה מלאכותית.

האב הגיש עתירה נגד העירייה בבית המשפט המחוזי תל-אביב. ביולי הסכימה העירייה לפנים משורת הדין להחזיר לילד את הזכאות להסעות. התיק נסגר, אך בין הצדדים נותרה מחלוקת בשאלת הוצאות המשפט. בעוד האב טען שהפשרה התקבלה אך ורק בשל פנייתו לבית המשפט, ולכן העירייה צריכה לשאת בהוצאות, העירייה התנגדה בטענה שבסופו של דבר התקבל פתרון לטובתו ללא הליך משפטי. אך גם תשובת העירייה שהוגשה לבית המשפט התבססה על הזיות ממוחה הקודח של בינה מלאכותית – שמות התיקים היו קיימים, אך התוכן והקביעות המשפטיות בתוכם היו מומצאים לחלוטין.

למרות זאת, בית המשפט המחוזי קיבל את עמדת העירייה, וקבע שהעירייה לא תישא בהוצאות המשפט, בשל ההגעה לפשרה וכן בשל פגמים טכניים בניהול ההליך מצידו. "אביו של הקטין חש כעס ותסכול גדולים", אומר עו"ד סוקניק, "הוא חש שנעשה לו חוסר צדק מהותי, ולא הגיוני שהוא נאלץ לפנות לבית משפט עקב חוסר האחריות והשרירות מצד העירייה בהענקת זכות בסיסית שמגיעה לבן שלו".

בעקבות זאת ערער האב לבית המשפט העליון על החלטת בית המשפט המחוזי שלא לפסוק לטובתו הוצאות המשפט. גם בתגובה לערעור, הדפוס של עיריית רמת גן חזר על עצמו, וגם בכתבי הטענות שהגישה לשופטי בג"ץ, העירייה שוב ציטטה פסקי דין מומצאים.

ובמילים אחרות: עיריית רמת גן הגישה תגובה שנהזתה על ידי בינה מלאכותית, לערעור בבית המשפט העליון של אזרח שנפגע מהחלטת העירייה שהתבססה על הזיות בינה מלאכותית.

עיריית רמת גן חויבה ב-30 אלף ש"ח

הרכב השופטים בבית המשפט העליון, בראשות המשנה לנשיא נועם סולברג, והשופטים עופר גרוסקופף וגילה כנפי-שטייניץ, הזדעזעו מהתנהלות זו. בפסק הדין שפורסם בראשון השבוע הם קיבלו את הערעור, וקבעו שמדובר בשימוש "מופקר" ובלתי מבוקר בבינה מלאכותית. השופט סולברג ציין בפסק הדין כי מדובר בהתנהלות שחזרה על עצמה בשלבים רבים, וכי למרות שהמערער כבר הצביע על כך הציטוטים המפוברקים, עיריית רמת גן המשיכה לפעול באותה הדרך.

השופטים הדגישו את חומרת ההתנהלות של העירייה בתור נותן שירות לציבור. כאשר גוף ציבורי שולח לאזרח מכתב עם ציטוטים משפטיים, האזרח הפשוט מאמין לו, ואין לו דרך לדעת אם הכול הומצא על ידי מחשב. בית המשפט העליון חייב את עיריית רמת גן לשלם לאב הוצאות משפט בסך 30 אלף שקלים, כדי להעביר מסר ברור נגד שימוש רשלני בבינה מלאכותית בשירות הציבורי.

עם זאת, ובניגוד למקרים אחרים, השופטים בחרו שלא להטיל על עורכת הדין בלשכה המשפטית של עיריית רמת גן הוצאות אישיות, נוהג ששמור למקרים חריגים בהם עורך הדין פוגע בהתנהלותו התקינה של בית המשפט או חורג מכללי האתיקה.

בעיריית רמת גן לא השיבו לבקשה לתגובה.

"ההזיות המשפטיות" מתפשטות בעולם

חלחול ה"הזיות" של בינה מלאכותית להליכים משפטיים הפכו בשנים האחרונות לתופעה נפוצה בישראל ובעולם. כבר ב-2023 נשיא בית המשפט העליון בארה"ב ג'ון רוברטס הדגיש כי "כל שימוש ב-AI דורש זהירות וענווה", והוסיף כי ציטוט פסקי דין שלא קיימים הוא "תמיד רעיון לא טוב".

דמיאן שרלוטין, חוקר בבית הספר היוקרתי למנהל עסקים HEC בפריז, הקים ומתחזק בסיס נתונים להזיות ה-AI. הוא אוסף בו מקרים מרחבי העולם של קביעות משפטיות המכילות תוכן שהומצא על ידי הבינה המלאכותית. "לפני אביב 2025 קיבלנו אולי שני מקרים כל שבוע", אמר שרלוטין בראיון בסיום אוקטובר האחרון, "עכשיו זה כבר שני מקרים, שלושה, כל יום". לפי היום נספרו כבר מעל ל-1,174 מקרים, הכוללים 787 בארה"ב ו-43 בישראל.

במקרה חמור במיוחד בישראל, שאירע במאי ב2025, ביקש אברהים מחאגנה שמשטרת ישראל תחזיר לו טלפון שנתפס בחקירה – והמשטרה הגישה לבית המשפט ציטוט של חוק דמיוני שהומצא ב-AI, כדי להצדיק את המשך החזקת המכשיר. השופט אהוד קפלן נדהם מהצגת הסעיף ש"לא היה קיים בדמיונו של אף אדם עד כה", ומתח ביקורת חריפה על המשטרה: "אם חשבתי שראיתי הכול ב-30 השנים שאני על כס השיפוט, כנראה שטעיתי".

בפסק הדין בפרשת תלמיד החינוך המיוחד, השופטת גילה כנפי-שטייניץ הציגה ממצאים מחקריים המצביעים על שורש השימוש הלא מבוקר של עורכי דין ב-AI. היא הצביעה על "הטיית האוטומציה", נטייה אנושית הגורמת למפקחים "להסתמך יתר על המידה על תוצרי המערכת במקום להפעיל שיקול דעת עצמאי". היא הזהירה כי אסור להפוך את המעורבות האנושית ל"הכשר לפיקוח אנושי פורמלי בלבד", שכן השפה המשכנעת של המכונה יוצרת אשליה של אמינות שמובילה ל"הסתמכות עיוורת" על נתונים מומצאים. בהתייחס למקרה ברמת גן בפרט, עו"ד סוקניק אמר כי הוא משער שהוא קשור ל"עייפות ורשלנות".

השופטים מאבדים סבלנות: עורכת דין נקנסה

בתחילת 2025 בית המשפט העליון בישראל דן במקרים שבהם הוגשו מסמכים על ידי עורכי דין עם עשרות ציטוטים מומצאים. הוא קבע כי עורך דין המגיש תוכן בדוי כזה "מועל בחובותיו כלפי לקוחו, בית המשפט והמקצוע". בפסק הדין בעניין תלמיד החינוך המיוחד השופטים החריפו את תגובתם, והשופט סולברג כתב כי "העת לסבלנות והבנה כלפי כתבים שגויים הנובעים משימוש בלתי מבוקר בבינה מלאכותית בהליכי משפט – חלפה עברה".

עוד דוגמא למיצוי סבלנותם של השופטים אירע אתמול (שני), כאשר בית הדין הארצי לעבודה הטיל לראשונה הוצאות אישיות בסך 2,500 ש"ח על עורכת דין שהגישה הזיות AI. בתיק בין קיבוץ בית ניר לרונן מרסיאנו, הגישה ליאת פייגל, עורכת דינו של המשיב, כתב טענות שכלל "הפניות לפסקי דין שאינם קיימים" וציטוטים ש"לא היו ולא נבראו", שנוצרו בסבירות גבוהה על ידי שימוש בבינה מלאכותית.

בניגוד לטענת עו"ד פייגל כי מדובר ב"טיוטה שהוגשה בשגגה" הכוללת "ליקויים טכניים נקודתיים", בית הדין קבע שמדובר ב"ליקויים של ממש" ובהגשת "טיעוני כזב" לבית המשפט. בעוד שבתיק רמת גן השופט סולברג בחר "להימנע, זו הפעם, מהטלת הוצאות אישיות" על עורכי הדין והשית את הקנס על העירייה, בתיק בית ניר הפך האיום למציאות.

שופטי בג"ץ קבעו כי הבינה המלאכותית היא כלי עזר בלבד ואינה מחליפה את שיקול הדעת האנושי והאחריות המקצועית, וכי המשפט מציב "תמרור אזהרה" ברור נגד שימוש מופקר בטכנולוגיה בשירות הציבורי. השופטים קבעו כי חובה לקיים בקרה אנושית ביקורתית על תוצרי ה-AI לפני שנעשה בהם שימוש, וכי לעורך דין אחריות מלאה על כל מילה שהוא מגיש.

השופט סולברג התייחס לכך בפסק הדין בעניין תלמיד החינוך המיוחד: "לא ניתן להסכין עם מצב שבו רשות מינהלית מתפרקת משיקול דעתה, ומבססת את החלטתה באופן בלעדי או כמעט בלעדי על פלט של מערכות".

עו"ד סוקניק אומר כי "ככל שעובר הזמן והשימוש בבינה מלאכותית הולך ונהיה נפוץ יותר, על עורכי דין – שמצופה מהם לסטנדרט התנהגות ראוי מעצם תפקידם – להקפיד ולשמור על האחריות המקצועיות הן כלפי הלקוח שלהם, הן כלפי בית המשפט והן כלפי עצמם."