בינה מלאכותית יכולה ללמוד להפלות לפי הנתונים שעליהם הוא מתאמנת, במיוחד אם מדובר בנתונים היסטוריים, שעלולים לבטא גישות מפלות שהיו מקובלות יותר בעבר.

אמזון פסלה את פרויקט האלגוריתמים לגיוס עובדים שלה לפני כמעט עשור, לאחר שנמצא כי הוא מוטה לטובת מועמדים גברים. הבינה המלאכותית הוכשרה להעריך קורות חיים חדשים על ידי לימוד קורות חיים שהוגשו בעבר – בעיקר מועמדים גברים. האלגוריתם לא ידע את המגדר של כל מועמד/ת, אך הוא הוריד דירוג לקורות חיים שציינו מכללות לנשים או שהכילו את הצירוף "של נשים". וחלק מהסיבה לכך היא שאלו מיעוט להופיע בנתונים ההיסטוריים מהם למד.

"אם אתה נותן ל-AI ללמוד מהחלטות שמנהלים קיבלו בעבר, והמנהלים האלו העדיפו סוגים מסוימים של אנשים לעומת אחרים, זה מה שהטכנולוגיה תלמד", אמרה כריסטין וובר, עורכת הדין בתביעה ייצוגית על תוכנות AI שמפלות שחורים והיספנים המבקשים להשכיר דירות.

מסמכי בית המשפט מתארים את התגובה הסתמית שקיבלה אחת התובעות, אישה שחורה בשם מרי לואיס: "שירות הצד השלישי שאנו משתמשים בו כדי לסנן את כל הדיירים הפוטנציאליים פסל אותך מלהיות זכאית לדיור". חוסר השקיפות והאחריותיות שמשתקפים במקרה הזה הוא חלק ממה שהצעות החוק מבקשות להתמודד איתו.

המענים: מתחומים ספציפיים להצעות חוצות תעשיות

לפי הצעות החוק, חברות המשתמשות ב"כלי ההחלטה אוטומטיים" הללו יצטרכו לבצע "הערכות השפעה", שיכללו תיאורים של תפקיד הבינה המלאכותית בהחלטה הנתונים שנאספו וניתוח של הסיכון לאפליה, יחד עם הדרכים בהן החברה תפעל כדי למנוע אותה. לפי הצעות החוק, הערכות כאלו יוגשו למדינה, או שהרגולטורים יוכלו לבקש אותן.

חלק מההצעות גם יחייבו חברות לעדכן את הלקוחות שבינה מלאכותית שימשה בקבלת החלטה, ולאפשר להם, תחת סייגים מסוימים, לבחור שלא להשתתף בהליך כזה.

כמעט 200 הצעות חוק הנוגעות לבינה מלאכותית עלו לדיון במוסדות החקיקה של מדינות ארה"ב בשנה שעברה, אך רק כתריסר מתוכן הפכו לחוק – כך לפי איגוד יצרני התוכנה (BSA). זאת לצד יותר מ-400 הצעות חוק בנושא שנידונו השנה. כמעט 200 מהצעות החוק נועדו להגביל את השימוש ב"זיוף עמוק" (deep fake), טכנולוגיה ששימשה למשל לזיוף תמונות פורנוגרפיות של הזמרת טיילור סוויפט שזכו לתפוצה רחבה בתחילת השנה. הצעות אחרות מנסות לרסן תוכנות צ'אטבוט דוגמת ChatGPT, כדי להבטיח שהם לא יציגו תוצאות לא רצויות כמו הוראות ליצירת פצצה.

הצעות אלו מתייחסות ברובן לתחומי AI ספציפיים. לעומת, ההצעות שמקודמות כעת ב-7 מדינות חוצות תעשיות שונות, ונועדו לפקח על בעיות האפליה, שנחשבת מורכבת ביוחד.

חוקרי אפליה בבינה מלאכותית אומרת שהמדינות נמצאות בפיגור גדול אחרי התקדמות הטכנולוגיה. השימוש בבינה מלאכותית כדי לקבל החלטות משמעותיות, מה שמכונה  "כלי החלטה אוטומטיים" – הוא נפוץ, אך נסתר במידה רבה מעיני הציבור.

לפי ההערכות, כ-83% מהמעסיקים משתמשים באלגוריתמים כדי לסייע בגיוס עובדים. ב-500 החברות הגדולות ביותר לפי דירוג פורצ'ן, השיעור עולה ל-99% כך לפי נציבות שוויון ההזדמנויות בעבודה האמריקאית.

המכשול: החברות מתנגדות לשקיפות 

לא פשוט להעביר חוקים שיגבירו את החוקים על בינה מלאכותית. הצעת חוק במדינת וושינגטון כבר נפלה בדיונים בוועדה הרלוונטית, וגם הצעה מקליפורניה שהוצגה ב-2023, הצעה שרבות מההצעות הנוכחיות מבוססות עליה, שונתה מאוד. חברת אסיפת המחוקקים של קליפורניה, רבקה באואר-קאהן, ריככה את הצעת החקיקה שלה משנה שעברה, בלחץ חברות כמו Microsoft.

למרות שהצעות החוק הללו הן צעד בכיוון הנכון, אמר ונקטסובראסובראניאן, לא ברור עד כמה הן מסוגלות להשפיע ולמנוע הטיות. ללא שקיפות גדולה יותר של הדו"חות, שנותרת מוגבלת ברבות מההצעות, קשה אפילו לדעת אם אדם הופל לרעה על ידי AI.

שיטת זיהוי מדויקת היא "ביקורת הטיה": עריכת בדיקות אם תוכנה מסוימת מפלה, ופירסום התוצאות לציבור. התעשייה הודפת הצעות כאלו, בטענה שהן יובילו לחשיפת סודות מסחריים.

דרישות לבדיקה שגרתית של מערכת בינה מלאכותית לא מופיעות ברוב הצעות החקיקה, שכמעט כולן עדיין רחוקות מלהפוך לחוק. ובכל זאת, זו תחילת המאבק של מחוקקים ומצביעים עם הצד האפל של טכנולוגיה שתישאר איתנו תמיד.

"זה נוגע לכל דבר בחיים שלנו" אמר ונקטסובראסובראניאן, "רק בגלל זה, צריך להיות לנו אכפת".