Apple es una marca que siempre parece estar en la vanguardia. De manera reciente, lanzó al mercado una apuesta tan prometedora como emocionante: la Apple Card.
Se trata de una tarjeta de crédito que se fabricó en conjunto con la entidad financiera Goldman Sachs (GS). Apenas se anunció su llegada tangible, el nuevo producto de la marca de la manzana fue solicitado por sus clientes más fieles.
No obstante, enseguida se presentó una gran polémica de la mano de David Heinemeier Hansson —influyente desarrollador del videojuego Ruby on Rails. Fue él quien denunció vía Twitter, que los algoritmos de la Apple Card eran sexistas. En particular, citó el caso que vivió junto a su esposa.
Teniendo el mismo historial crediticio, e incluso tomando en cuenta que pagan impuestos de manera conjunta, Jamie Heinemeier Hansson (compañera de David) inició con 20 veces menos crédito en su tarjeta que él.
David acusó a Apple de sexismo y aseguró que no entendía el "raquítico" crédito de su esposa. Incluso resaltó que ella debía tener prioridad: Jamie es estadounidense y, aunque vive con David desde hace años, él es danés:
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
«La @AppleCard es un maldito programa sexista. Mi esposa y yo presentamos declaraciones de impuestos conjuntas, vivimos en un estado de propiedad comunitaria y llevamos mucho tiempo casados. Sin embargo, el algoritmo de "caja negra" de Apple, cree que merezco 20 veces el límite de crédito que ella tiene. Ninguna apelación ha funcionado».
En teoría, los créditos bancarios estadounidenses son más accesibles y dan más línea de efectivo a los ciudadanos de nacimiento, por encima de residentes legales o ciudadanos naturalizados.
¿Qué respondieron los empleados de Apple?
Algunos trabajadores de la "compañía de la manzana", atendieron las quejas que David dio en Twitter, pero ni siquiera ellos sabían qué ocurría con seguridad, sólo le repetían el mismo argumento:
Lejos de tranquilizar a David, esta explicación lo enfureció más: se mostró frustrado y descontento. Según su visión, si nadie entendía el algoritmo y los graves problemas que podía causar, ¿para qué lo habían programado de cualquier forma?:
So nobody understands THE ALGORITHM. Nobody has the power to examine or check THE ALGORITHM. Yet everyone we’ve talked to from both Apple and GS are SO SURE that THE ALGORITHM isn’t biased and discriminating in any way. That’s some grade-A management of cognitive dissonance.
— DHH (@dhh) November 8, 2019
«Entonces nadie entiende EL ALGORITMO. Nadie tiene el poder de examinar o verificar EL ALGORITMO. Sin embargo, todas las personas con las que hemos hablado, tanto de Apple como de GS, ESTÁN SEGURAS DE QUE EL ALGORITMO es imparcial y no discrimina de ninguna manera(...)»
En aras de apoyar a David, otros usuarios se unieron a su causa, exponiendo que les pasaba lo mismo: sus compañeras o cualquier otra mujer cercana a ellos habían obtenido un crédito ridículamente menor comparado con el de ellos.
El propio Steve Wozniak —cofundador de Apple— publicó que su esposa había pasado por algo similar: él obtuvo un crédito 10 veces superior que el de su compañera. De nuevo, a pesar de llevar un historial financiero muy parecido.
Medios como Bloomberg aseguran que la tarjeta de crédito de Apple está totalmente gestionada por Goldman Sachs. La entidad, se ha deslindado públicamente, mientras que Apple no ha emitido posicionamiento.
La reflexión de David y las respuestas que recibió demuestran que los algoritmos, los códigos o hasta la Inteligencia Articial por sí mismos no son tan objetivos como parecen. Después de todo, hay mentes humanas detrás, con sus propios criterios e ideologías arraigadas.
Al final y después de miles de quejas, Jamie obtuvo un crédito igual al de David, pero el "misterio del algoritmo" para el resto de las usuarias, permanece. ¿Qué opinas de este caso? ¡Cuéntanos en los comentarios!
Ya que estás aquí: