Así amenaza la IA con robarte tu dinero sin que te des cuenta

Cuando volvía de Londres en avión hace unas semanas, me metí en un bucle del que ya no he salido. Tenía totalmente claro cuánto pagué por mi asiento, cuántos puntos utilicé para ir en una clase mejor y cuántos kilómetros había recorrido para ganar cada uno de esos puntos. Lo que no sabía era si la mujer de al lado había gastado esos mismos puntos o si había pagado los 10.000 dólares (unos 9.250 euros) que podía llegar a costar el viaje. 

Reservar un vuelo es un juego del que solo la aerolínea conoce las reglas. Hay innumerables códigos de reserva, programas de fidelización y cambios de tarifas que convierten tus datos en armas contra tu bolsillo. Tras aterrizar, me di cuenta de que esa misma estrategia está en todas partes: en cada viaje en Uber, en cada pedido de Amazon, en cada viaje al supermercado. 

Todas estas empresas saben tanto sobre mí que pueden ver un número parpadeando sobre mi cabeza: el precio exacto que estoy dispuesto a pagar. Ese mismo número está también sobre tu cabeza en estos momentos. En la era de los algoritmos, los precios variables se están introduciendo cada vez más en el comercio digital, con oscilaciones en tiempo real.

Pero lo que resulta mucho más inquietante es el auge de los precios personalizados, una práctica de los minoristas de explotar tus propios datos para cobrarte el precio exacto que saben que pagarás, y que puede ser diferente del que pagaría otra persona. Los precios personalizados no solo son sesgados y pueden generar inflación, sino que crean un mundo en el que nunca sabes cuándo te están timando tus aplicaciones.

Ahora, cuando estoy a punto de pagar algo en mi teléfono o en mi portátil, me pregunto si el precio sería inferior desde la cuenta de otro usuario.

Aún recuerdo la sorpresa de hace una década, cuando me enteré de que la discriminación de precios es perfectamente legal en Estados Unidos. En la facultad de Derecho, mi profesor de antimonopolio nos presentó la oscura Ley Robinson-Patman contra la discriminación, de la época de la Depresión, destacando rápidamente que esta ley no hacía honor a su título. 

En virtud de dicha regulación, las empresas pueden enfrentarse a enormes sanciones por discriminación de precios, pero solo si discriminan a otras empresas. Si un mayorista cobraba de más a una tienda, ésta podía llevarla a los tribunales, pero nada impedía entonces (ni ahora) que la tienda hiciera lo mismo con sus clientes. Es decir, los propietarios de las tiendas tienen más protección de precios que sus clientes. Si una tienda suele cobrar más a unos clientes que a otros por su sexo, raza u otras características protegidas por la ley, sin duda es ilegal. Pero cuando las empresas quieren sacar a cada cliente lo máximo que está dispuesto a pagar, son libres de cometer un atraco a mano armada.

En la Unión Europea la situación no es del todo diferente. "Los minoristas pueden utilizar algoritmos para rastrear tus preferencias o tus hábitos de navegación en línea y fijar precios en consecuencia", explica la propia UE. La práctica no es ilegal, pero como consumidor "tienes derecho a una total transparencia de precios". Eso significa que los vendedores tienen la obligación de informar al usuario de que el precio que figura sobre un producto o servicio está personalizado.

"La legalidad o ilegalidad de los precios personalizados debe decidirse en función del caso concreto y de si, para discriminar, el dominante limita la libertad de los consumidores o la de los potenciales competidores", precisa el blog Almacén de derecho.

No es lo mismo discriminar a un grupo poblacional por su raza, sexo o religión (lo que es ilegal, como constatan las sentencias a discotecas por fijar precios diferentes a mujeres y hombres por las entradas) que el vendedor perfila el precio según el comprador, lo que en el mundo real puede equivaler al regateo en un mercadillo. Pero ahora esa estrategia está creciendo en todas partes a escala global.

El auténtico precio que pagaremos por un futuro basado en la IA: más soledad

La personalización de precios, que puede entenderse perfectamente como discriminación de precios, no es algo nuevo, si bien en esta era del big data puede llevarse a cabo de una forma mucho más refinada para las empresas, que consiguen exprimir al máximo al consumidor. 

Por ejemplo, antiguamente, estrategias como los cupones de descuento o las tarjetas de fidelización (que sigue existiendo, por supuesto), permitían a las empresas vender el mismo producto en la misma tienda al mismo tiempo y a precios diferentes, pero no se consideraba abusivo debido a que daba a los clientes la posibilidad de elegir. 

Algunos compradores dedicaban mucho tiempo a buscar las mejores ofertas, y los menos ahorradores pagaban el precio completo. 

No obstante, cuando la discriminación de precios es algorítmica, se elimina esa posibilidad, y los métodos utilizados son mucho más invasivos de lo que puedas pensar. Por ejemplo, cuando pediste tu último Uber, sabías el precio exacto por la distancia recorrida, sabiendo que en hora punta el precio es más elevado, algo a lo que nos hemos acostumbrado. Pero, ¿sabías que el nivel de batería también influye en el cálculo del precio? Probablemente no, y de hecho es algo que Uber niega rotundamente. Ahora bien, si la acusación es cierta, es fácil ver una lógica: los que tienen menos batería están más desesperados, y aquellos cuyos teléfonos están a minutos de morir no dudarán en pagar casi cualquier precio para conseguir un coche antes de quedarse tirados.

Como detalló recientemente The American Prospect, este tipo de precios individualizados está proliferando en casi todos los sectores de la economía (streaming, comida rápida e incluso aplicaciones de citas), y las variables pueden ser sorprendentes. En la década de 2010, los minoristas se basaban en datos algo rudimentarios para perfeccionar los precios. Los clientes podían pagar más por un vuelo que reservaban en un Mac (frente a un PC) o pagar una tarifa más alta por la preparación de un examen en determinados códigos postales. Pero en los últimos años las empresas han pasado de la discriminación de precios a nivel de barrio a la fijación de precios individualizada.

Minoristas como Amazon tienen mucha información sobre lo que compras, tanto en su plataforma como fuera de ella, y no tienes forma de saber cómo afecta esta a los precios, al menos en Estados Unidos. En 2018, fue noticia que Amazon ajustó los precios 2,5 millones de veces al día. Dado su crecimiento Amazon y el de la IA, es probable que el número sea mayor hoy en día. 

Por si fuera poco, para otros minoristas como Walmart no es suficiente con utilizar el historial de compras de sus clientes. En febrero, la empresa acordó la compra del fabricante de televisores inteligentes Vizio por más de 2.000 millones de dólares, lo que podría proporcionar una gran cantidad de datos de los consumidores. Los televisores inteligentes no solo controlan lo que vemos, sino que rastrean otros dispositivos cercanos con balizas ultrasónicas e incluso pueden escuchar lo que decimos en la intimidad de nuestros hogares. Vizio ha sido multada con millones de dólares por espiar ilegalmente a sus clientes.

Las empresas de ventas al por menor no solo saben lo que has comprado y cuánto ganas, sino dónde estás, cómo te va el día y cuál es tu estado de ánimo, todo lo cual puede ser perfectamente sintetizado por redes de inteligencia artificial para calcular cuánto pagarías por un artículo determinado en un momento dado.

Tu edad, sexo y orientación sexual podrían determinar lo que la IA decide que debes pagar por amor

Ningún ámbito del comercio es demasiado personal para quedar fuera de sus límites. Las aplicaciones de citas recopilan datos de nuestra vida romántica, pero algunas se jactan abiertamente de hacerlo para aumentar su rentabilidad. Muchas de las que no revelan el uso de precios personalizados siguen haciéndolo. 

Tinder no suele hablar de su tecnología de precios, pero Mozilla y Consumers International descubrieron que la app utilizaba docenas de variables para ajustar radicalmente los precios a los usuarios, lo que le valió una reprimenda de la UE por no informar a los usuarios. Tu edad, sexo y orientación sexual pueden determinar lo que la IA decide que tienes que pagar por amor.

Lo que necesitas saber para estar informado

¿Te gusta lo que lees? Comienza tu día sabiendo qué piensan y qué les preocupa a los ejecutivos de las principales empresas del mundo con una selección de historias enviada por Business Insider España a primera hora cada mañana.

Recibe la newsletter

Si no se controlan, los precios personalizados tendrán efectos muy negativos en toda la sociedad. Nikolas Guggenberger, profesor adjunto del Centro de Derecho de la Universidad de Houston, afirma que "la discriminación de precios algorítmica oculta puede minar la confianza pública en los mecanismos de fijación de precios y, por tanto, socavar el mercado". 

La fijación de precios mediante IA implica también que quienes están más desesperados y son más vulnerables pagarán más. Peor aún, las personas podrían ser penalizadas por su raza, edad o clase social. Tomemos el ejemplo de la batería del teléfono. Las personas mayores tienen más del doble de probabilidades que los usuarios más jóvenes de tener un teléfono de al menos tres años. Como los smartphones más antiguos suelen tener menos batería, las personas mayores podrían acabar pagando más que los jóvenes por los mismos trayectos en Uber.

"La discriminación algorítmica de precios puede automatizar básicamente la usura. Si tu batería está a punto de agotarse y estás fuera del país, una aplicación para compartir coche puede subir drásticamente tu 'precio personalizado'", afirma Guggenberger.

Gran parte de los precios calculados por IA actúan como un impuesto regresivo, cobrando menos a los que más tienen. Para las personas que viven en zonas desatendidas, con menos tiendas y menos alternativas, a menudo no les queda más remedio que hacer clic en "comprar ahora", aunque les duela. Como dijo a The American Prospect la profesora de Derecho y defensora de los consumidores Zephyr Teachout, no se debería considerar esta práctica como unos precios personalizados, sino como precios de vigilancia.

Sabemos cómo demostrar la discriminación humana. Si una tienda de un barrio de mayoría negra cobra más que su homóloga de un barrio de mayoría blanca, los examinadores pueden ir a cada tienda, recopilar los precios y presentar una demanda. Este tipo de pruebas ha sido la base de la protección de los consumidores durante casi todo un siglo. Pero, ¿cómo se demuestra que un algoritmo discrimina? No hay tiendas que visitar, ni etiquetas de precios que comparar, solo millones de pantallas en los bolsillos de la gente. 

El resultado puede ser un círculo vicioso en el que solo se pueden obtener datos suficientes para demostrar la discriminación demandando a una empresa, pero no se puede demandar a la empresa sin tener antes esos datos. Podríamos asistir al surgimiento de un perverso y extraño mundo legal en el que las empresas que utilizan una IA que ajusta los precios de forma prejuiciosa, tienen menos vigilancia legal que las tiendas físicas.

Mi esperanza es que esta situación sea de un abuso tan claro, que ni siquiera una democracia tan disfuncional como esta lo permita. Los legisladores han sido muy lentos a la hora de frenar los daños de las nuevas tecnologías, incluso cuando resultan evidentes. Incluso en estos tiempos tan polarizados, este abuso que se produce con los precios gracias a la IA puede ser una de esas raras cuestiones que una a todos el mundo por indignación.

Conoce cómo trabajamos en BusinessInsider.

Etiquetas: Inflación, Inteligencia artificial, Comercio electrónico, Consumo