Prowadzone postępowanie to skutek skarg, że algorytmy ustalające wysokości dopuszczalnych limitów na karcie mogą być z gruntu stronnicze wobec kobiet. Autorem jednej z takich skarg jest Steve Wozniak, współzałożyciel Apple'a.
Nowojorski wydział usług finansowych (DFS) skontaktował się już w tej sprawie z bankiem Goldman Sachs, obsługującym Apple Card. Urząd podkreślił, że każda dyskryminacja, zamierzona czy też nie, stanowi naruszenie prawa.
BBC podkreśla, że banki i inne instytucje finansowe coraz częściej wykorzystują technologię uczenia maszynowego, aby obniżyć koszty i zwiększyć liczbę rozpatrywanych wniosków kredytowych. Programiści zwracają uwagę, że również algorytmy mogą dyskryminować.

Jak podała w sobotę agencja Bloomberga, przedsiębiorca technologiczny David Heinemeier Hansson napisał na Twitterze, że na karcie Apple'a przyznano mu limit kredytowy 20-krotnie wyższy niż jego żonie, choć to ona może pochwalić się lepszą oceną wiarygodności kredytowej. Potem Steve Wozniak podał, że to samo przydarzyło się jemu i jego żonie, mimo tego, że nie mają oddzielnych kont bankowych ani odrębnego majątku.

BBC podkreśla, że banki i inne instytucje finansowe coraz częściej wykorzystują technologię uczenia maszynowego, aby obniżyć koszty i zwiększyć liczbę rozpatrywanych wniosków kredytowych. Jednak programiści zwracają uwagę, że również algorytmy mogą dyskryminować.

Hansson we wpisie na Twitterze uznał, że Apple Card to "system seksistowski" i podkreślił, że niezależnie od tego, jakie były intencje przedstawicieli Apple'a, "ważne jest, jak działa algorytm, w który wierzyli. A działa - dyskryminując". Przedsiębiorca zaznaczył, że gdy tylko poruszył tę kwestię, limit kredytowy jego żony został zwiększony.

Producent iPhone'a na swojej stronie reklamuje Apple Card jako "nowy rodzaj karty kredytowej, stworzony przez Apple, a nie bank".

DFS zapowiedział, że "będzie prowadził dochodzenie w celu ustalenia, czy doszło do naruszenia prawa Nowego Jorku oraz zapewnienia równego traktowania wszystkich konsumentów bez względu na płeć". "Każdy algorytm, który - celowo lub nie - powoduje dyskryminujące traktowanie kobiet lub innej chronionej grupy, narusza prawo Nowego Jorku" - podkreślono w oswaidczeniu urzędu.

W sobotę bank inwestycyjny Goldman Sachs w komentarzu dla Bloomberga zapewnił, że jego decyzje kredytowe opierają się na zdolności kredytowej konkretnego klienta i nie biorą pod uwagę czynników takich jak płeć, rasa, wiek czy orientacja seksualna, co jest zabronione przez prawo.

Wprowadzona w sierpniu karta Apple to pierwsza karta kredytowa Goldman Sachs. Bank inwestycyjny z Wall Street oferuje klientom szereg produktów za pośrednictwem swojego internetowego banku Marcus.

Według analityków bez dostępu do komputerów banku trudno ocenić, co się wydarzyło; jak podkreślają, sam fakt istnienia korelacji między płcią a wysokością przyznanego limitu nie oznacza jeszcze związku przyczynowego. Można jednak podejrzewać, że do systemu wkradły się niezamierozne uprzedzenia, np. wskutek opracowania algorytmów na zbiorze danych, w którym kobiety rzeczywiście stanowiły większe ryzyko finansowe niż mężczyźni, co nie musi być prawdziwe dla całej populacji.