אפל קארד, כרטיס האשראי הנוצץ של חברת אפל, מתהדר בהיותו "כרטיס מסוג חדש". החידוש, כפי שמסתמן כעת, הוא אפליה כנגד נשים. בניו יורק נפתחה חקירה רשמית בגין מקרים בהם הליך הבדיקה הפיננסית מעניק לנשים מסגרות אשראי נמוכות עד פי 20 או אף מניעת גישה לכרטיס מלכתחילה.

דייויד היינמאייר הנסון, יזם היי-טק, פרסם בשבוע שעבר כיצד הוא ואשתו, הנשואים זמן רב עברו אותו הליך בדיקה פיננסית לקבלת 'אפל קארד', אך הוא זכה למסגרת אשראי גדולה פי 20, למרות שנתוניהם הכספיים זהים ומדווחים ביחד.

הציוץ זכה לכמעט 10,000 שיתופים ולתגובה מרתקת במיוחד של סטיב ווזניאק, ממייסדי אפל, שנתקל בעצמו בתופעה דומה, בו הוא קיבל מסגרת גדולה פי 10 מזו של אשתו, למרות שבני הזוג אינם מחזיקים בחשבונות או נכסים נפרדים.

בעקבות הפרסום, נזכרה בוני גיפסון שבקשתה לאפל קארד נדחתה לחלוטין, וביקשה מבעלה לבקש גישה. הוא דווקא קיבל כרטיס בלי בעיה, למרות שדירוג האשראי שלה גבוה משלו ב-40 נקודות.

לינדה לייסוול, רגולטורית מהמחלקה לשירותים פיננסיים במדינת ניו-יורק, הודיעה על פתיחה בחקירה כנגד אפליה מגדרית בנושא. לפי הודעתה, חברות שירותים פיננסיים אחראיות לפרקטיקות מפלות, גם אם הן לא נעשו בכוונה, כפי שכנראה קרה במקרה זה, המבוסס של שימוש באלגוריתם ממוחשב לקביעת הזכאות לכרטיס ומסגרת האשראי. המחלקה פנתה לציבור, וביקשה עדות מכל מי שלדעתה היא קורבן לאפליה בהקשר זה.

ווזניאק כתב שלדעתו, במקרה זה, לא נכון להטיל את כל האחריות על הבנק, ואפל אמורה לשאת בחלק ממנה. דובר מטעם הבנק מסר כי "כמו בכל כרטיס אשראי אחר, הבקשה נבחנת באופן אישי, אנו בודקים את עמידות האשראי של המבקש שכוללת נתונים כמו דירוג אשראי אישי, כמה חוב יש לו, ובאיזה אופן הוא מנוהל. על בסיס גורמים אלו, ייתכן ששני בני משפחה שונים יזכו להחלטות אשראי שונות. בכל המקרים, לא נקבל החלטות על בסיס מגדר" – תגובה אשר מנוגדת לעובדות הפשוטות, כפי שדיווחו הלקוחות ברשת.

לאחרונה, נפתחה חקירה דומה כנגד חברת יונייטד הלת' גרופ, אשר מספקת שירותים רפואיים, בטענה כי אלגוריתם שהיא מפעילה מפלה לרעה מטופלים שחורים לעומת לבנים. לפי המחקר שהוביל לחקירה, אלגוריתם של החברה, הנמכר לבתי חולים, מעניק דירוג סיכון זהה לחולים שחורים ולבנים, גם כאשר מצבם הרפואי של השחורים חמור יותר, ובכך מסיט את בית החולים מלתעדף את הטיפול בהם.

מהו האפל קארד ומדוע הוא מפלה נשים ?

אפל קארד, הוא כרטיס אשראי מתוצרת אפל שהשוק בספטמבר האחרון, שמשווק כ"כרטיס מסוג חדש, שנוצר על ידי אפל, לא על ידי בנק". כעת, כאשר מתגלות הפרקטיקות של אפליה נגד נשים, בחברה ממהרים להעביר את האחריות לבנק המפעיל של הכרטיס, גולדמן סאקס. הכרטיס אמור לאפשר מעקב נח אחר סוגי ההוצאות ומקודם באמצעות הסדרי החזרים של 1%-3% בגין רכישות שונות וחיבור נח לתשלום באמצעות האייפון.

הסיפור תפס תאוצה לאחר פרסומים באתרים כלכליים כמו בלומברג וביזנס אינסיידר, אך בינתיים לא התברר סופית מי מנהל את הליך בדיקת הבקשות –  חברת אפל או הבנק גולדמן סאקס?

לפי הנסון, הבעיה נעוצה בכך שאותם אלגוריתמים, פועלים כ-"קופסא שחורה", הם לא שקופים ופתוחים לציבור, ובאופן תיאורטי, ייתכן שגם מפעיליהם לא מבינים עד הסוף את שיטת פעולתם, ככל שהם מבוססים על טכניקות של "למידת מכונה", בהן מפתחת אינטילגנציה מלאכותית המאתרת דפוסים חוזרים בקרב כמויות מידע עצומות, ומפתחת לעצמה קריטריונים להערכה, מבלי שאלו הוכתבו מראש.

גם אם היום החברות המפעילות נדרשות לעמוד בכללים ברורים לגבי שירות שוויוני, העברת יותר ויותר החלטות מבני אדם לאלגוריתמים ממוחשבים מגדילה את הסיכון לתוצאות בעייתיות, גם אם לא תוכנתו כך מראש.