Prowadzone postępowanie to skutek skarg, że algorytmy ustalające wysokości dopuszczalnych limitów na karcie mogą być z gruntu stronnicze wobec kobiet. Autorem jednej z takich skarg jest Steve Wozniak, współzałożyciel Apple'a.
Nowojorski wydział usług finansowych (DFS) skontaktował się już w tej sprawie z bankiem Goldman Sachs, obsługującym Apple Card. Urząd podkreślił, że każda dyskryminacja, zamierzona czy też nie, stanowi naruszenie prawa.
BBC podkreśla, że banki i inne instytucje finansowe coraz częściej wykorzystują technologię uczenia maszynowego, aby obniżyć koszty i zwiększyć liczbę rozpatrywanych wniosków kredytowych. Programiści zwracają uwagę, że również algorytmy mogą dyskryminować.

Jak podała w sobotę agencja Bloomberga, przedsiębiorca technologiczny David Heinemeier Hansson napisał na Twitterze, że na karcie Apple'a przyznano mu limit kredytowy 20-krotnie wyższy niż jego żonie, choć to ona może pochwalić się lepszą oceną wiarygodności kredytowej. Potem Steve Wozniak podał, że to samo przydarzyło się jemu i jego żonie, mimo tego, że nie mają oddzielnych kont bankowych ani odrębnego majątku.

BBC podkreśla, że banki i inne instytucje finansowe coraz częściej wykorzystują technologię uczenia maszynowego, aby obniżyć koszty i zwiększyć liczbę rozpatrywanych wniosków kredytowych. Jednak programiści zwracają uwagę, że również algorytmy mogą dyskryminować.

Hansson we wpisie na Twitterze uznał, że Apple Card to "system seksistowski" i podkreślił, że niezależnie od tego, jakie były intencje przedstawicieli Apple'a, "ważne jest, jak działa algorytm, w który wierzyli. A działa - dyskryminując". Przedsiębiorca zaznaczył, że gdy tylko poruszył tę kwestię, limit kredytowy jego żony został zwiększony.

Producent iPhone'a na swojej stronie reklamuje Apple Card jako "nowy rodzaj karty kredytowej, stworzony przez Apple, a nie bank".

DFS zapowiedział, że "będzie prowadził dochodzenie w celu ustalenia, czy doszło do naruszenia prawa Nowego Jorku oraz zapewnienia równego traktowania wszystkich konsumentów bez względu na płeć". "Każdy algorytm, który - celowo lub nie - powoduje dyskryminujące traktowanie kobiet lub innej chronionej grupy, narusza prawo Nowego Jorku" - podkreślono w oswaidczeniu urzędu.