עדן הולין, חוקרת אתיקה של בינה מלאכותית, סבורה שחייבים להחיל רגולציה על תהליכי גיוס עובדים באמצעות מערכות בינה מלאכותית, ואף סבורה שלישראל עשויה להיות תרומה חלוצית בתחום. "מערכות בינה מלאכותית מפלות באופן מובנה, ובמדינה מגוונת כמו שלנו, יש חשיבות גדולה להבין איך מרסנים את ההשפעה המפלה שלהן, בלי להטיל משקולת כבדה מדי שתמנע שילוב טכנולוגיות חדשות בשוק העבודה". ויש לה גם הצעה איך לעשות את זה.

מערכות בינה מלאכותית משמשות כיום בתהליכי גיוס ומיון עובדים ברחבי העולם, משלב ניסוח דרישות התפקיד ומודעת הדרושים, דרך פרסום המשרה ואיתור מועמדים, סינון ודירוג אוטומטי של קורות חיים ובמקומות מסוימים אף מקיימות ריאיונות עם מועמדים או מנתחות את הריאיונות שמבצע מראיין אנושי. נכון ל-2024, 99% מהחברות ברשימת Fortune 500 עושות שימוש במערכות כאלו בתהליכי גיוס העובדים.

"השילוב של הטכנולוגיות האלה בעולם משאבי האנוש בישראל נמצא מעט מאחור, משום שהמערכות הגדולות בשוק הגלובלי עדיין אינן מותאמות מספיק לעברית, והשוק המקומי קטן מכדי להפוך את ההתאמה הזו לכדאית עבורן. אבל גם אנחנו בדרך לשם, וגם בישראל כבר נעשה שימוש בטכנולוגיות האלה".

אשליית הניטרליות: "האפליה היא הדיפולט"

למרות הדימוי של מערכות בינה מלאכותית כ'אובייקטיביות' או 'ניטרליות' יותר משיקול דעת אנושי, שעשוי להיות מוטה גם ברמה הלא מודעת, הולין טוענת כי השימוש בהן לסינון ודירוג קורות חיים לא רק שאינו פותר את בעיית האפליה, אלא מעמיק אותה.

"אפליה היא לא תוצאה חריגה של מערכות בינה מלאכותית, היא תוצר מובנה של האופן שבו הן פועלות. זה הדיפולט שלהן". המערכות מאומנות על מאגרי נתונים גדולים של מועמדים, מזהות בהם דפוסים, ומסיקות על בסיסם מסקנות לגבי מועמדים חדשים. "המערכת מסיקה דברים על הפרט מתוך דפוסים שהיא זיהתה אצל אנשים אחרים שסיווגה כבעלי מאפיינים דומים לשלו, מה שמוביל בהכרח ל'אפליה סטטיסטית'".

לדבריה, את הבעיה הזו לא ניתן לפתור לגמרי, אך היא סבורה שצריך למצוא את נקודת האיזון הראויה בין התועלת הכלכלית והטכנולוגית של מערכות אלו, לבין שמירה על הערכים החברתיים של שוויון ומניעת אפליה. "ברגע שנסכם על נקודה כזו, צריך למצוא כלים שבודקים אם המערכות הללו עומדות בכללים שקבענו".

מדיני עבודה לאתיקה טכנולוגית

החיפוש אחר כלים כאלה עמד במרכז עבודת התזה של הולין בלימודי תואר שני באתיקה של בינה מלאכותית באוניברסיטת אדינבורו שבסקוטלנד. "גדלתי בבית של משפטנים. אבי וסבי הם עורכי דין לדיני עבודה, ותמיד חשבתי שאלך בעקבותיהם, מה שבסופו של דבר כנראה יקרה, כי היום אני לומדת משפטים. אבל כשהשתחררתי מהצבא, מאבחנת תעסוקתית המליצה לי לבחון את העולם הטכנולוגי, והיא צדקה – נפתח לי עולם חדש". כשהחלה ללמוד ב-2019, עולם האתיקה של הבינה המלאכותית עוד היה בחיתוליו, והיו מי שהרימו גבה על הבחירה שלה לשלב בלימודיה לתואר ראשון במדעי המחשב גם לימודי פילוסופיה, אבל היא כבר נמשכה לעולם הזה. כשנרשמה ללימודי תואר שני בסקוטלנד, עוד הייתה האוניברסיטה באדינבורו אחד המוסדות האקדמיים היחידים בעולם שהציעו מסלול לימודי באתיקה של בינה מלאכותית, והולין השתתפה בו במחזור הראשון.

עבודת התזה שלה, הצפויה להתפרסם בקרוב כמאמר בכתב העת 'עבודה, חברה ומשפט', עסקה בגיבוש רגולציה הולמת למערכות בינה מלאכותית המסננות קורות חיים עבור מעסיקים. "היה לי חשוב לצאת מהפילוסופיה אל הפרקטיקה. בחרתי להתמקד בשלב סינון קורות החיים כי אפשר אומנם לשלב בינה מלאכותית בכל שלב בתהליך הגיוס ובכל שלב כזה עלולה להיות גם אפליה. אבל אם המערכת נתנה לקורות החיים שלך ציון נמוך רק בגלל שאת אישה או בגלל מאפיין מוגן אחר – אף אחד לא יראה אותם בכלל, ולא ידע שהגשת מועמדות למשרה. בעיניי יש בזה משהו שמבטל את עצם הקיום האנושי, שפוגע בזכות לשוויון ובכבוד האדם במובן הכי מהותי וחוקתי שלו, וזה לא תרחיש תיאורטי, זו מציאות קיימת ותופעה שחייבים למגר אותה".

המודלים בעולם: חוקים יפים על הנייר, כושלים במציאות

לדבריה, כיום קיימים שני מודלים מרכזיים לרגולציה על הנושא, ושניהם אינם מוכיחים את עצמם. באיחוד האירופי חוקקו את ה-AI Act, שהגדיר מערכות לגיוס עובדים כמערכות 'בסיכון גבוה' לפגיעה בזכויות אדם. לפיכך, קבעו שהן החברות הטכנולוגיות והן המשתמשים יידרשו לעמוד בשורת עקרונות להבטחת ההוגנות של המערכות. עם זאת, אומרת הולין, מעבר לשרטוט העקרונות הכלליים, האיחוד טרם הצליח להשלים את החקיקה ולצקת תוכן מעשי והנחיות ברורות כיצד ליישם עקרונות אלה. החקיקה הייתה אמורה להיכנס לתוקף בעוד כחצי שנה, אולם טיוטת התקנות שהייתה אמורה להתפרסם לפני כשנה טרם פורסמה, והדבר קשור גם ללחצים כבדים המוטלים מצד החברות הטכנולוגיות, המעסיקים ואף מדינות אירופיות החוששות לעכב את ההתפתחות הטכנולוגית בהשוואה למקומות אחרים בעולם.

המודל השני שאומץ בניו יורק הוא מודל רגולציה רכה יותר, המתבססת על שקיפות כלפי הציבור ובחינה רטרואקטיבית. על פי מודל זה, כל מעסיק שמשתמש בבינה מלאכותית כדי לסנן קורות חיים, נדרש להזמין פעם בשנה גורם חיצוני בלתי תלוי שיבדוק אם המערכת שלו מפלה מועמדים ולפרסם את התוצאות באינטרנט. הבדיקה הקבועה במודל הניו יורקי בודקת את הפערים הדמוגרפיים בין קבוצת מגישי המועמדות לבין אלו שהתקבלו לעבודה, ואם קיים פער גדול מדי – היא מניחה שזו אינדיקציה לכך שמשהו בתהליך המיון פועל לרעת הקבוצות המוחלשות, ושיש בכך ביטוי של אפליה.

"הבעיה המרכזית בשתי השיטות האלה היא שהן לא עובדות", אומרת הולין, ומצביעה על כך שהמודל האירופי בפועל מתקשה להיכנס לשלב היישום, ואילו המודל הניו יורקי מתגלה כחשוף מאוד למניפולציות ולא יעיל, דבר שהצביע עליו גם מבקר מדינת ניו יורק בדו"ח שפרסם בדצמבר 2025. לצד זאת, היא מצביעה על כך שהמודל הניו יורקי בוחן רק חמש קבוצות אוכלוסייה: לבנים, שחורים, היספנים, אסיאתיים ו'אחרים', ואילו החברה הישראלית מגוונת בהרבה, בפרט ביחס לגודלה.

מבחן ההוגנות האישית: להערים על האלגוריתם

הולין מציעה מבחן אחר, המותאם יותר לשוק העבודה הישראלי המגוון ולחקיקת שוויון ההזדמנויות המקובלת בישראל, לבדיקת ההוגנות של מערכות בינה מלאכותית בתהליכי קבלת ההחלטות במיון קורות חיים. "המבחן שאני מציעה בודק אם הציון שנתנה המערכת היה משתנה אילו שינינו מאפיין דמוגרפי בנתונים של המועמד. בכל פעם מזינים למערכת קורות חיים זהים לחלוטין תוך שינוי של מאפיין מוגן בודד".

את המודל שלה בחנה באמצעות יצירת מאגר גדול של קורות חיים 'סינתטיים', המבוססים על הנתונים של מפקד האוכלוסין הבריטי. "בדקתי מערכת בינה מלאכותית שעוברת בהצלחה את המבחן הניו יורקי, ומדדתי את הציונים שהיא נתנה למועמדים שיצרתי עבור משרות שונות, שמזוהות על פי רוב, היסטורית וסטריאוטיפית, עם מגדר מסוים או אוכלוסייה מסוימת. לכל דמות סינתטית יצרתי כמה גרסאות שונות, כפילים, שקורות החיים שלהם זהים – רק שגרסה אחת היא גבר, השנייה אישה, אחת צעירה ואחת מבוגרת, אחת בריטית ואחת ערבייה – כך יכולתי לבדוק מה ההשפעה של השינוי של אותו מאפיין ספציפי על הציון שהמערכת נתנה לגרסה הזאת של אותה הדמות". התוצאות אישרו לה את ההנחה. אף שהניסוי נערך על מערכת מסחרית אמריקאית שמשמשת מעסיקים רבים ועומדת בסטנדרט הקבוע בחוק, המודל שלה חשף את העובדה שהמערכת מפלה מועמדים, באופן מובהק, על בסיס מאפיינים הנחשבים למוגנים הן בדין הבריטי והן בדין הישראלי.

הפתרון: לתמרץ את המעסיק, להטיל אחריות על המפתחים

"בניגוד למודל הניו יורקי, שמבוסס על הוגנות קבוצתית, המודל שאני מציעה מבוסס על 'הוגנות אישית', ובכך הוא תואם יותר את הלך הרוח של חוק שוויון ההזדמנויות בעבודה בדין הישראלי", מסבירה הולין, ומוסיפה שמדובר במנגנון שנועד לבדוק את מידת ההוגנות של המערכות, ולא לתקן אותן. לצד זאת, היא מחדדת שכיום החוק בישראל מטיל אחריות במקרה של אפליה רק על המעסיק, ולכן רגולציה בנושא מחייבת גם הרחבה של האחריות כך שתחול גם על החברות שמפתחות את המערכות. "אחרת נוצר ואקום, כי לא המעסיק עושה את הסינון הראשוני, אלא מערכת שגורם אחר פיתח – והמועמד נשאר בלי שום כתובת שמחויבת משפטית להימנע מלהפלות אותו.

"ההצעה שלי היא שמעסיקים וספקי טכנולוגיה שיכפיפו את המערכות שלהם לבדיקות תקופתיות בכלי שבניתי יזכו לחזקת הגנה משפטית מפני טענה של מועמדים לאפליה אלגוריתמית, אם המערכות יוכיחו בעקביות שהן עומדות במבחן. המנגנון הזה נועד ליצור תמריץ כלכלי ומשפטי לפתח ולהטמיע כלים הוגנים מראש, כלומר רגולציה שמונעת אפליה ולא רק מגיבה אליה בדיעבד". עם זאת, ההצעה מחדדת שגם חזקת ההגנה המשפטית שתינתן לחברות ולספקי הטכנולוגיה יהיו כאלו שניתנות לסתירה בהליך המשפטי.