הסנאטורית הדמוקרטית והמועמדת לנשיאות ארה"ב, אליזבת וורן, נזפה ביום רביעי, שותפה הפיננסית של אפל קארד, גולדמן זאקס, על תגובת החברה לטענות לפיהן האלגוריתמים שלה מציגים הטיית מסגרת אשראי כלפי נשים.
יתר על כן, הסנאטור רון ווידן (D-Ore.), חבר בדירוג ועדת הכספים של הסנאט, ביום רביעיאמר שהוא חוקרהאמיתות של לאחרונהכרטיס אפלטענות הטיה.
בשבוע שעבר, גולדמן ואפל ספגו אש בגלל מה שנראה כמו אהטיה מגדריתבתהליך היישום של Apple Card. לקוחות החלו לבכות קשות לאחר שהיזם דיוויד היינמאייר הנסון פוצץ את החברות בסדרת ציוצים לאחר שהוענקה לו מסגרת אשראי גבוהה פי 20 מזו של אשתו.
גולדמן, שעומד בפני חקירה שהוכרזה מטעם המחלקה לשירותים פיננסיים בניו יורק, פרסמה תגובות מרובות בתחילת השבוע שהפריכה את הטענות של הנסון ואחרים במונחים לא ברורים.
"לא קיבלנו ולעולם לא נקבל החלטות על סמך גורמים כמו מגדר", אמרה מנכ"לית בנק גולדמן זקס, קארי הליו.הצהרה ביום שני. "למעשה, איננו יודעים את המגדר או הסטטוס המשפחתי שלך במהלך תהליך הגשת הבקשה לכרטיס Apple."
הליו המשיכה ואמרה ללקוחות שהתהליך זלזל בהם שהם יכולים לבקש הערכה מחדש, אותה הבנק ימלא "על סמך מידע נוסף שאנו מבקשים".
תוכנית התגובה של גולדמן אינה מספקת, אמר וורןבראיוןעִםבלומברג.
"כן, נהדר. אז בואי פשוט נגיד לכל אישה באמריקה, אולי הופלת לרעה, על פי אלגוריתם לא ידוע, עליך לטלפן לגולדמן סאקס ולומר להם לסדר את זה", אמר וורן. "סליחה חבר'ה, לא ככה זה עובד."
תומכי צרכנים וקובעי מדיניות כמו וורן הביעו דאגה לגבי אלגוריתמי מחשב, שחלקם עלולים להניב תוצאות מוטות אפילו תוך חסימת נקודות נתונים כמו גזע ומגדר, נכתב בדו"ח.
וורן קרא לגולדמן לייצר מידע על האופן שבו תוכנן האלגוריתם שלו וכיצד הוא משפיע על הפונים. אם הוא לא מסוגל לעשות זאת, היא הוסיפה, הבנק צריך "להוריד אותו".
"כולנו מתחילים להבין טוב יותר שאלגוריתמים טובים רק כמו הנתונים שנארזים בהם", אמר וורן. "ואם הרבה נתונים מפלים נדחסים פנימה, במילים אחרות, אם ככה העולם עובד, והאלגוריתם לא עושה כלום חוץ מלמצוץ מידע על איך העולם עובד, אז האפליה מונצחת".
מעבר להבטחות להערכה מחדש של קו האשראי, גולדמן אמרה היום שהיא תציג תכונה חדשה המאפשרת לבני משק בית לחלוק מסגרת אשראי של אפל קארד, על פי הדו"ח. נכון לעכשיו, Apple Card אינו תומך בשיתוף חשבונות בין בני משפחה, יכולת נפוצה בקרב כרטיסים מתחרים.
