Una y otra vez, destacados científicos, tecnólogos y filósofos han hecho conjeturas espectacularmente terribles sobre la dirección de la innovación. Ni siquiera Einstein fue inmune y afirmó: “No hay el más mínimo indicio de que alguna vez se pueda obtener energía nuclear”, apenas diez años antes de que Enrico Fermi completara la construcción del primer reactor de fisión en Chicago. Poco después, el consenso pasó a ser temores de un inminente holocausto nuclear. De manera similar, los expertos actuales advierten que el fin del mundo de la inteligencia artificial general (AGI) es inminente. Otros replican que los grandes modelos lingüísticos (LLM) ya han alcanzado la cima de sus poderes. Es difícil discutir la influyente tesis de David Collingridge de que intentar predecir los riesgos que plantean las nuevas tecnologías es una tontería. Dado que nuestros principales científicos y tecnólogos suelen estar tan equivocados acerca de la evolución tecnológica, ¿qué posibilidades tienen nuestros formuladores de políticas de regular eficazmente los riesgos tecnológicos emergentes de la inteligencia artificial (IA)? Deberíamos prestar atención a la advertencia de Collingridge de que la tecnología evoluciona de manera incierta. Sin embargo, existe una clase de riesgo de IA que generalmente se puede conocer de antemano. Estos son riesgos que surgen de la falta de alineación entre los incentivos económicos de una empresa para beneficiarse de su modelo de IA patentado de una manera particular y los intereses de la sociedad sobre cómo se debe monetizar e implementar el modelo de IA. La forma más segura de ignorar esa desalineación es centrarse exclusivamente en cuestiones técnicas sobre las capacidades de los modelos de IA, divorciadas del entorno socioeconómico en el que estos modelos operarán y serán diseñados con fines de lucro. Centrarse en los riesgos económicos de la IA no se trata simplemente de prevenir el “monopolio”, la “autopreferencia” o el “dominio de las grandes tecnologías”. Se trata de garantizar que el entorno económico que facilita la innovación no incentive riesgos tecnológicos difíciles de predecir a medida que las empresas “se mueven rápido y rompen cosas” en una carrera por obtener ganancias o dominar el mercado. También se trata de garantizar que el valor de la IA se comparta ampliamente, evitando una consolidación prematura. Veremos más innovación si las herramientas de IA emergentes son accesibles para todos, de modo que pueda surgir un ecosistema disperso de nuevas empresas, empresas emergentes y herramientas de IA. OpenAI ya se está convirtiendo en un actor dominante con 2 mil millones de dólares (£ 1,6 mil millones) en ventas anuales y millones de usuarios. Su tienda GPT y sus herramientas de desarrollo deben devolver valor a quienes la crean para garantizar que los ecosistemas de innovación sigan siendo viables y dispersos. Al interrogar cuidadosamente el sistema de incentivos económicos que subyacen a las innovaciones y cómo se monetizan las tecnologías en la práctica, podemos generar una mejor comprensión de los riesgos, tanto económicos como tecnológicos, que genera la estructura de un mercado. La estructura del mercado no es simplemente el número de empresas, sino la estructura de costos y los incentivos económicos en el mercado que se derivan de las instituciones, las regulaciones gubernamentales adyacentes y el financiamiento disponible. Degradar la calidad para obtener mayores ganancias Es instructivo considerar cómo las tecnologías algorítmicas que sustentaban las antiguas plataformas de agregación (pensemos en Amazon, Google y Facebook, entre otras) inicialmente implementadas para beneficiar a los usuarios, finalmente fueron reprogramadas para aumentar las ganancias de la plataforma. Los problemas fomentados por las redes sociales, la búsqueda y los algoritmos de recomendación nunca fueron una cuestión de ingeniería, sino una cuestión de incentivos financieros (de crecimiento de ganancias) que no se alineaban con la implementación segura, efectiva y equitativa de los algoritmos. Como dice el refrán : la historia no necesariamente se repite pero sí rima. Para comprender cómo las plataformas se asignan valor a sí mismas y qué podemos hacer al respecto, investigamos el papel de los algoritmos y la configuración informativa única de los mercados digitales en la extracción de las llamadas rentas económicas de los usuarios y productores de las plataformas. En teoría económica, las rentas son “beneficios sobrenormales” (beneficios que están por encima de lo que se podría lograr en un mercado competitivo) y reflejan el control sobre algún recurso escaso. Es importante destacar que las rentas son un puro retorno a la propiedad o algún grado de poder monopólico, más que un retorno obtenido de producir algo en un mercado competitivo (como muchos productores que fabrican y venden automóviles). Para las plataformas digitales, extraer rentas digitales suele implicar degradar la calidad de la información que se muestra al usuario, basándose en que éste “posee” el acceso a una masa de clientes. Por ejemplo, los millones de usuarios de Amazon confían en sus algoritmos de búsqueda de productos para mostrarles los mejores productos disponibles para la venta, ya que no pueden inspeccionar cada producto individualmente. Estos algoritmos ahorran tiempo y dinero a todos: ayudan a los usuarios a navegar a través de miles de productos para encontrar los de mayor calidad y precio más bajo, y amplían el alcance de mercado de los proveedores a través de la infraestructura de entrega de Amazon y su inmensa red de clientes. Estas plataformas hicieron que los mercados fueran más eficientes y aportaron un enorme valor tanto a los usuarios como a los proveedores de productos. Pero con el tiempo, una desalineación entre la promesa inicial de proporcionar valor al usuario y la necesidad de ampliar los márgenes de ganancias a medida que el crecimiento se desacelera ha impulsado un mal comportamiento de la plataforma. El negocio publicitario de Amazon es un ejemplo de ello. la publicidad de amazon En nuestra investigación en Amazon, descubrimos que los usuarios todavía tienden a hacer clic en los resultados del producto en la parte superior de la página, incluso cuando ya no son los mejores resultados sino ubicaciones de publicidad paga. Amazon abusa de la confianza habitual que los usuarios han llegado a depositar en sus algoritmos y, en cambio, asigna la atención y los clics de los usuarios a información patrocinada y de calidad inferior de la que se beneficia inmensamente . Descubrimos que, en promedio, los productos patrocinados (anuncios) con más clics eran un 17% más caros y un 33% peor clasificados según los propios algoritmos de optimización de calidad, precio y popularidad de Amazon. Y como los proveedores de productos ahora deben pagar por la clasificación de sus productos que antes obtenían gracias a la calidad y la reputación de sus productos, sus ganancias disminuyen a medida que aumentan las de Amazon, y los precios aumentan a medida que parte del costo se traslada a los clientes. Amazon es uno de los ejemplos más sorprendentes de una empresa que se aleja de su misión “virtuosa” original (“ser la empresa más centrada en el cliente del mundo”) hacia un modelo de negocio extractivo. Pero no está ni mucho menos solo. Google, Meta y prácticamente todos los demás grandes agregadores en línea han llegado, con el tiempo, a preferir sus intereses económicos a su promesa original a sus usuarios y a sus ecosistemas de proveedores de contenidos y productos o desarrolladores de aplicaciones. El escritor y activista de ciencia ficción Cory Doctorow llama a esto la “enshittificación” de las plataformas de las Big Tech. Pero no todos los alquileres son malos. Según el economista Joseph Schumpeter, las rentas que recibe una empresa por innovar pueden ser beneficiosas para la sociedad . Las plataformas de las grandes tecnologías avanzaron gracias a avances algorítmicos superiores y altamente innovadores. Los actuales líderes del mercado de IA están haciendo lo mismo. Entonces, si bien las rentas schumpeterianas son reales y justificadas, con el tiempo y bajo presión financiera externa, los líderes del mercado comenzaron a utilizar su poder de mercado algorítmico para capturar una mayor proporción del valor creado por el ecosistema de anunciantes, proveedores y usuarios con el fin de mantener las ganancias. creciente. Las preferencias de los usuarios se redujeron en importancia algorítmica a favor de contenido más rentable. Para las plataformas de redes sociales, se trataba de contenido adictivo para aumentar el tiempo pasado en la plataforma a cualquier costo para la salud del usuario . Mientras tanto, los proveedores finales de valor para su plataforma (los creadores de contenido, los propietarios de sitios web y los comerciantes) han tenido que entregar una mayor parte de sus ganancias al propietario de la plataforma. En el proceso, las ganancias y los márgenes de ganancia se han concentrado en manos de unas pocas plataformas, lo que dificulta la innovación por parte de empresas externas. No se puede justificar una plataforma que obligue a su ecosistema de empresas a pagar tarifas cada vez más altas (a cambio de nada de valor proporcional en ninguno de los lados de la plataforma). Es una luz roja que la plataforma tenga un grado de poder de mercado que esté explotando para extraer rentas no ganadas. Las divulgaciones trimestrales más recientes de Amazon (cuarto trimestre de 2023) muestran un crecimiento interanual en las ventas en línea del 9%, pero un crecimiento en las tarifas del 20% (servicios de vendedores externos) y del 27% (ventas de publicidad). Lo que es importante recordar en el contexto del riesgo y la innovación es que este despliegue de tecnologías algorítmicas para extraer rentas por parte de las grandes tecnologías no es un riesgo incognoscible, como lo identifica Collingridge. Es un riesgo económico predecible. La búsqueda de ganancias mediante la explotación de recursos escasos bajo el propio control es una historia tan antigua como el comercio mismo. Las salvaguardias tecnológicas sobre los algoritmos, así como una divulgación más detallada sobre cómo las plataformas monetizaban sus algoritmos, pueden haber impedido que se produjera tal comportamiento. Los algoritmos se han convertido en guardianes del mercado y asignadores de valor, y ahora se están convirtiendo en productores y árbitros de conocimiento. Riesgos que plantea la próxima generación de IA Los límites que ponemos a los algoritmos y los modelos de IA serán fundamentales para dirigir la actividad económica y la atención humana hacia fines productivos. ¿Pero cuánto mayores son los riesgos para la próxima generación de sistemas de IA? Ellos darán forma no sólo a la información que se nos muestra, sino también a cómo pensamos y nos expresamos. Centralizar el poder de la IA en manos de unas pocas entidades con fines de lucro que probablemente enfrentarán futuros incentivos económicos por mal comportamiento es sin duda una mala idea. Afortunadamente, la sociedad no está indefensa a la hora de dar forma a los riesgos económicos que invariablemente surgen después de cada nueva innovación. Los riesgos derivados del entorno económico en el que se produce la innovación no son inmutables. La estructura del mercado está determinada por los reguladores y las instituciones algorítmicas de una plataforma (especialmente sus algoritmos que realizan asignaciones similares a las del mercado). Juntos, estos factores influyen en la fuerza de los efectos de red y las economías de escala y alcance en un mercado, incluidas las recompensas por el dominio del mercado. Mandatos tecnológicos como la interoperabilidad , que se refiere a la capacidad de diferentes sistemas digitales para trabajar juntos sin problemas; o "side-loading", la práctica de instalar aplicaciones de fuentes distintas a la tienda oficial de una plataforma, han dado forma a la fluidez de la movilidad de los usuarios dentro y entre los mercados y, a su vez, a la capacidad de cualquier entidad dominante de explotar de forma duradera a sus usuarios y su ecosistema. Los protocolos de Internet ayudaron a mantener Internet abierto en lugar de cerrado. El software de código abierto le permitió escapar del control del monopolio dominante de la era de las PC. ¿Qué papel podrían desempeñar la interoperabilidad y el código abierto para que la industria de la IA siga siendo un mercado más competitivo e inclusivo? La divulgación es otra poderosa herramienta para dar forma al mercado. Las divulgaciones pueden requerir que las empresas de tecnología proporcionen información y explicaciones transparentes sobre sus productos y estrategias de monetización. La divulgación obligatoria de la carga de anuncios y otras métricas operativas podría haber ayudado a evitar que Facebook, por ejemplo, explotara la privacidad de sus usuarios para maximizar el dinero destinado a publicidad procedente de la recopilación de datos de cada usuario. Pero la falta de portabilidad de los datos y la incapacidad de auditar de forma independiente los algoritmos de Facebook significaron que Facebook continuó beneficiándose de su sistema de vigilancia durante más tiempo del que debería. Hoy en día, OpenAI y otros proveedores líderes de modelos de IA se niegan a revelar sus conjuntos de datos de entrenamiento, mientras surgen preguntas sobre la infracción de derechos de autor y quién debería tener derecho a beneficiarse de las obras creativas asistidas por IA . Las divulgaciones y los estándares tecnológicos abiertos son pasos clave para intentar garantizar que los beneficios de estas plataformas emergentes de IA se compartan lo más ampliamente posible. La estructura del mercado, y su impacto sobre “quién obtiene qué y por qué”, evoluciona a medida que evoluciona la base tecnológica sobre cómo se permite a las empresas competir en un mercado. Así que tal vez sea hora de desviar nuestra mirada regulatoria de intentar predecir los riesgos específicos que podrían surgir a medida que se desarrollen tecnologías específicas. Después de todo, ni siquiera Einstein podría hacer eso. En lugar de ello, deberíamos tratar de recalibrar los incentivos económicos que sustentan las innovaciones actuales, alejándolos de los usos riesgosos de la tecnología de IA y acercándolos a algoritmos de IA abiertos y responsables que respalden y distribuyan el valor de manera equitativa. Cuanto antes reconozcamos que los riesgos tecnológicos son con frecuencia una consecuencia de incentivos económicos desalineados, más rápidamente podremos trabajar para evitar repetir los errores del pasado. No nos oponemos a que Amazon ofrezca servicios de publicidad a empresas en su mercado de terceros. De hecho, una cantidad adecuada de espacio publicitario puede ayudar a empresas o productos menos conocidos, con ofertas competitivas, a ganar terreno de manera justa. Pero cuando la publicidad desplaza casi por completo los resultados de productos orgánicos mejor clasificados, la publicidad se convierte en un dispositivo de extracción de rentas para la plataforma. Un portavoz de Amazon dijo: No estamos de acuerdo con una serie de conclusiones extraídas de esta investigación, que tergiversa y exagera los datos limitados que utiliza. Ignora que las ventas de vendedores independientes, que están creciendo más rápidamente que las de Amazon, contribuyen a los ingresos por servicios, y que muchos de nuestros servicios publicitarios no aparecen en la tienda. Amazon se obsesiona con hacer la vida de los clientes más fácil y una gran parte de eso es garantizar que los clientes puedan encontrar y descubrir rápida y cómodamente los productos que desean en nuestra tienda. Los anuncios han sido una parte integral del comercio minorista durante muchas décadas y cada vez que los incluimos, están claramente marcados como "Patrocinados". Proporcionamos una combinación de resultados de búsqueda orgánicos y patrocinados basados ​​en factores que incluyen relevancia, popularidad entre los clientes, disponibilidad, precio y velocidad de entrega, junto con filtros de búsqueda útiles para refinar sus resultados. También hemos invertido miles de millones en herramientas y servicios para los vendedores para ayudarlos a crecer y los servicios adicionales como publicidad y logística son completamente opcionales. AUTORES Tim O'Reilly Profesor invitado de práctica en el Instituto de Innovación y Propósito Público de la UCL, UCL Ilan Strauss Jefe de Investigación de Economía Digital, UCL Mariana Mazzucato Profesor de Economía de la Innovación y el Valor Público y Director Fundador del UCL IIPP, UCL Roca Rufus Investigador, Instituto de Innovación y Propósito Público, UCL