Racionalidad: Algoritmos de precios aprenden solitos a hacer colusión

Inteligencia artificial, precios algorítmicos y colusión

Emilio Calvano, Giacomo Calzolari, Vincenzo Denicolò, Sergio Pastorello

VOX CEPR Portal

A las agencias antimonopolio les preocupa que los algoritmos de precios autónomos cada vez más utilizados por los proveedores en línea puedan aprender a confabularse. Esta columna utiliza experimentos con algoritmos de fijación de precios impulsados por AI en un entorno controlado para demostrar que incluso los algoritmos relativamente simples aprenden sistemáticamente a jugar estrategias colusivas sofisticadas. Lo más preocupante es que aprenden a coludir por ensayo y error, sin conocimiento previo del entorno en el que operan, sin comunicarse entre sí, y sin estar específicamente diseñados o instruidos para conspirar.




¿Recuerdas tu última compra en línea? Lo más probable es que el precio que pagaste no fue establecido por los humanos, sino por un algoritmo de software. Ya en 2015, más de un tercio de los proveedores en Amazon.com tenían precios automatizados (Chen et al. 2016), y la participación ciertamente ha aumentado desde entonces, con el crecimiento de una industria de software de revisión de precios que suministra sistemas de precios llave en mano, incluso los vendedores más pequeños ahora pueden pagar precios algorítmicos.

A diferencia de los sistemas tradicionales de gestión de ingresos que las empresas como las aerolíneas y los hoteles utilizan desde hace mucho tiempo, en los que el programador sigue siendo el responsable de las opciones estratégicas, los programas de precios que están surgiendo ahora son mucho más "autónomos". Estos nuevos algoritmos adoptan la misma lógica que los programas de inteligencia artificial (IA) que han alcanzado recientemente actuaciones sobrehumanas en entornos estratégicos complejos como el juego de Go o el ajedrez. Es decir, el programador instruye al algoritmo solo sobre el objetivo del ejercicio: ganar el juego, por ejemplo, o generar el mayor beneficio posible. No se le dice específicamente cómo jugar el juego, sino que aprende de la experiencia. En una fase de entrenamiento, el algoritmo experimenta activamente con las estrategias alternativas jugando contra clones en entornos simulados, adoptando con mayor frecuencia las estrategias que mejor se desempeñan. En este proceso de aprendizaje, el algoritmo requiere poca o ninguna guía externa. Una vez que se completa el aprendizaje, el algoritmo se pone a trabajar.

Desde el punto de vista antimonopolio, la preocupación es que estos algoritmos de precios autónomos pueden descubrir de forma independiente que, para obtener el mayor beneficio posible, deben evitar las guerras de precios. Es decir, pueden aprender a coludir incluso si no se les ha indicado específicamente que lo hagan, e incluso si no se comunican entre sí. Esto es un problema. Primero, el "buen desempeño" desde el punto de vista de los vendedores, es decir, los altos precios, es malo para los consumidores y para la eficiencia económica. En segundo lugar, en la mayoría de los países (incluidos Europa y EE. UU.) Tal colusión 'tácita', que no se basa en la intención y la comunicación explícitas, actualmente no se considera ilegal, ya que es improbable que ocurra entre agentes humanos y eso, incluso si ocurrió, sería casi imposible de detectar. La sabiduría convencional, entonces, es que la aplicación agresiva de la ley antimonopolio podría producir muchos falsos positivos (es decir, condenar una conducta inocente), mientras que una política tolerante resultaría en relativamente pocos falsos negativos (es decir, excusando una conducta anticompetitiva). Sin embargo, con la llegada de los precios de la IA, la preocupación es que el equilibrio entre los dos tipos de error podría verse alterado. Aunque hasta el momento no se ha producido evidencia real de colusión algorítmica autónoma, 1 agencias antimonopolio están debatiendo activamente el problema.

Quienes están preocupados (por ejemplo, Ezrachi y Stucke 2015) argumentan que los algoritmos de AI ya superan a los humanos en muchas tareas, y no parece haber ninguna razón por la que los precios deban ser diferentes. Estos comentaristas se refieren también a una literatura de informática que ha documentado el surgimiento de cierto grado de precios no competitivos en simulaciones en las que los algoritmos independientes de fijación de precios interactúan repetidamente. Algunos académicos (por ejemplo, Harrington 2018), están desarrollando caminos para hacer que la colusión de AI sea ilegal.

Los escépticos dicen que estas simulaciones no utilizan el modelo canónico de colusión, por lo que no representan los mercados reales (por ejemplo, Kuhn y Tadelis 2018, Schwalbe 2018) .3 Además, el grado de precios anticompetitivos parece ser limitado, y en cualquier caso los precios altos como tales no necesariamente indican colusión, que en cambio debe incluir algún tipo de esquema de recompensa y castigo para coordinar el comportamiento de las empresas. Según los escépticos, lograr una auténtica colusión sin comunicación es una tarea desalentadora no solo para los humanos sino también para los programas de inteligencia artificial más inteligentes, especialmente cuando el entorno económico es estocástico. Cualquiera que sea el exceso de precios que se encuentre en las simulaciones podría deberse a la falla de los algoritmos para aprender el equilibrio competitivo. Si esto fuera así, entonces habría pocas razones para preocuparse, dado que el problema probablemente se desvanecerá a medida que la inteligencia artificial se desarrolle más.

Para informar este debate de políticas, en un artículo reciente (Calvano et al. 2018a) construimos agentes de precios de AI y los dejamos interactuar repetidamente en entornos controlados que reproducen el modelo canónico de colusión de los economistas, es decir, un juego de precios repetidos con movimientos simultáneos y precio completo. flexibilidad. Nuestros hallazgos sugieren que en este marco, incluso los algoritmos de precios relativamente simples aprenden sistemáticamente a jugar sofisticadas estrategias colusivas. Las estrategias aplican castigos que son proporcionales a la extensión de las desviaciones y son de duración finita, con un retorno gradual a los precios de la desviación previa.

La Figura 1 ilustra las estrategias de castigo que los algoritmos aprenden a jugar de manera autónoma. Partiendo de los precios (colusorios) en los que los algoritmos han convergido (la línea de puntos gris), anulamos la elección de un algoritmo (la línea roja), forzándolo a desviarse hacia abajo al precio competitivo o de Nash (la línea de puntos naranja) para uno período. El otro algoritmo (la línea azul) sigue jugando según lo prescrito por la estrategia que ha aprendido. Después de esta desviación exógena en el período, ambos algoritmos recuperan el control del precio.

Figura 1 Respuestas de los precios ante la desviación del recorte de precios.


Nota: Las líneas azul y roja muestran la dinámica del precio a lo largo del tiempo de dos algoritmos de precios autónomos (agentes) cuando el algoritmo rojo se desvía del precio colusivo en el primer período.

La figura muestra la trayectoria del precio en los periodos posteriores. Claramente, la desviación se castiga inmediatamente (el precio de la línea azul cae inmediatamente después de la desviación de la línea roja), lo que hace que la desviación no sea rentable. Sin embargo, el castigo no es tan severo como podría ser (es decir, la reversión al precio competitivo), y es solo temporal; luego, los algoritmos regresan gradualmente a sus precios de pre-desviación.

Lo que es particularmente notable es el comportamiento del algoritmo de desviación. Claramente, está respondiendo no solo al rival sino también a su propia acción. (Si respondiera solo al rival, no habría ninguna razón para reducir el precio en el período t = 2, ya que el rival ha cobrado el precio colusivo en el período t = 1). Este tipo de comportamiento autorreactivo es un signo distintivo de colusión genuina, y sería difícil explicarlo de otra manera.

La colusión que encontramos es típicamente parcial: los algoritmos no convergen con el precio de monopolio, sino uno más bajo. Sin embargo, mostramos que la propensión a coludir es obstinada: la colusión sustancial continúa prevaleciendo incluso cuando las empresas activas son tres o cuatro en número, cuando son asimétricas y cuando operan en un entorno estocástico. La literatura experimental con sujetos humanos, por el contrario, ha encontrado consistentemente que prácticamente no pueden coordinarse sin una comunicación explícita, salvo en el caso más simple, con dos agentes simétricos y sin incertidumbre.

Lo más preocupante es que los algoritmos no dejan rastro de acción concertada: aprenden a coludir simplemente por prueba y error, sin conocimiento previo del entorno en el que operan, sin comunicarse entre sí y sin estar diseñados o instruidos específicamente. para conspirar Esto plantea un verdadero desafío para la política de competencia. Si bien se necesita más investigación antes de considerar medidas políticas, el llamado de atención de las agencias antimonopolio parece estar bien fundamentado.

Referencias

Calvano, E, G Calzolari, V Denicolòand S Pastorello (2018a), “Artificial intelligence, algorithmic pricing and collusion,” CEPR Discussion Paper 13405.

Calvano, E, G Calzolari, V Denicolòand S Pastorello (2018b), “Algorithmic Pricing What Implications for Competition Policy?” forthcoming in Review of Industrial Organization.

Chen, L, A Mislove and C Wilson (2016), “An Empirical Analysis of Algorithmic Pricing on Amazon Marketplace”, in Proceedings of the 25th International Conference on World Wide Web, WWW'16, World Wide Web Conferences Steering Committee, pp. 1339-1349.

Ezrachi, A and M E Stucke (2015), "Artificial Intelligence and Collusion: When Computers Inhibit Competition", Oxford Legal Studies Research Paper No. 18/2015, University of Tennessee Legal Studies Research Paper No. 267.

Harrington, J E, Jr (2018), “Developing Competition Law for Collusion by Autonomous Price-Setting Agents,” working paper.

Schwalbe, U (2018), “Algorithms, Machine Learning, and Collusion,” working paper.

Kühn K U and S Tadelis (2018), “The Economics of Algorithmic Pricing: Is collusion really inevitable?”, working paper.

Notas finales

1. El único caso antimonopolio que involucraba precios algorítmicos fue el desafío exitoso por parte de las agencias antimonopolio estadounidenses y británicas de un software de precios supuestamente diseñado para coordinar el precio de los carteles de múltiples vendedores en línea. Ver Wired Magazine, U.S. v. Topkins, 2015 y caso CMA 2015 n. 50223.
2. Véanse, por ejemplo, los comentarios de M. Vestager, Comisionado Europeo, en la 18ª Conferencia sobre Competencia de Bundeskartellamt, Berlín, 16 de marzo de 2017 ("Algoritmos y Competencia"), y el discurso de M. Ohlhausen, Presidente interino de la FTC, en la Conferencia de Concurrencias Antimonopolio en la Conferencia del Sector Financiero, Nueva York, 23 de mayo de 2017 ("¿Debemos temer las cosas que suenan en la noche? Algunos pensamientos iniciales sobre la intersección de la Ley Antimonopolio y el Precio Algorítmico"). La OCDE patrocinó una mesa redonda sobre algoritmos y colusión en junio de 2017, y en septiembre de 2017, la Oficina de Competencia de Canadá publicó un documento de discusión sobre la capacidad de los algoritmos para coludir como un tema importante para la aplicación de la ley antimonopolio (“Big data e Innovación: implicaciones para la política de competencia en Canadá"). Más recientemente, la CMA británica publicó un libro blanco sobre "Algoritmos de precios" el 8 de octubre de 2018. Por último, la séptima sesión de las Audiencias de la FTC sobre competencia y protección del consumidor, del 13 al 14 de noviembre de 2018, se centró en el "impacto de los algoritmos y la artificialidad". Inteligencia."
3. Estas simulaciones suelen utilizar modelos de precios escalonados que no encajan bien con los precios algorítmicos (Calvano et al. 2018a, 2018b).

Read more »