Por Catalina Miller En The Tech Coup: How to Save Democracy from Silicon Valley (El golpe tecnológico: cómo salvar la democracia de Silicon Valley) , Marietje Schaake, investigadora del Instituto de Políticas de Inteligencia Artificial Centradas en el Ser Humano de Stanford, pretende concienciar al público sobre una grave amenaza: el poder descontrolado de las empresas privadas. Además de ejercer un enorme poder económico, las empresas tecnológicas están asumiendo funciones que normalmente están reservadas a los gobiernos y, en el proceso, están causando estragos en el estado de derecho democrático. Desde la ciberseguridad hasta los sistemas utilizados para la policía, las elecciones y la política de defensa militar, las empresas tecnológicas, grandes y pequeñas, están desempeñando un papel descomunal. Su libro ilustra esta tesis con ejemplos extraídos de sus experiencias como miembro del Parlamento Europeo de 2009 a 2019 y como observadora comprometida de la cultura tecnológica mientras era investigadora del Cyber ​​Policy Center de Stanford y del Stanford HAI . Aquí, Schaake analiza por qué ceder poder a las empresas tecnológicas perjudica la democracia y describe algunas soluciones extraídas de su libro. ¿De qué manera las empresas privadas están asumiendo cada vez más funciones que normalmente asumían los Estados? En el ámbito digital, el control de la información, la autonomía de acción y el poder de acción de las empresas casi han superado a los de los gobiernos. Por ejemplo, en el sector de inteligencia privada, empresas como NSO Group Technologies, con sus productos de software espía Pegasus, están creando y vendiendo la capacidad de piratear los dispositivos de las personas. Esto significa que cualquiera con los recursos financieros para comprar el software espía Pegasus puede acceder a las capacidades de los servicios de inteligencia y piratear la información muy privada de oponentes políticos, jueces, periodistas, empleados importantes, competidores y otros. Otro ejemplo llamativo es el de las capacidades cibernéticas ofensivas. Con el pretexto de defender a sus clientes o sus redes, las empresas atacan a los piratas informáticos a través de las fronteras, utilizando la “ofensa como defensa”. Y observen que no estoy hablando solo de las grandes empresas tecnológicas , sino también de las pequeñas, porque existe un poder de facto que proviene del desarrollo de tecnologías digitales. Empresas como NSO o Clearview con su software de reconocimiento facial, o empresas que producen tecnologías electorales; estas no son las llamadas Big Tech, pero son igualmente ilustrativas de algunos de los desafíos que estoy señalando, [como] Elon Musk decidiendo quién en Ucrania debe y quién no debe tener acceso a las conexiones de Internet de Starlink. Así, vemos que estas capacidades, estas decisiones y estos poderes que solían ser dominio exclusivo del Estado ahora se están filtrando a manos de empresas privadas, pero sin los controles y equilibrios que queremos en sociedades que funcionan según el estado de derecho. ¿Qué se puede hacer para que las entidades democráticas vuelvan a tomar el control? En primer lugar, es necesario que haya más conciencia y comprensión de las formas en que las empresas ejercen su poder sobre la gobernanza, la democracia y el derecho internacional. Y luego tenemos que llevar al ámbito digital el mismo nivel de claridad jurídica, mecanismos de rendición de cuentas y medidas de transparencia que esperamos en relación con otras innovaciones, como los medicamentos, los productos químicos, los alimentos, los automóviles o incluso procesos como la decisión de participar en un conflicto extranjero. Comparemos cómo respondió Estados Unidos a la guerra de Ucrania en el mundo físico y cómo lo hizo en el ciberespacio. Como parte de la OTAN, Estados Unidos lo tiene claro: no quiere ver tropas sobre el terreno, pero en el ciberespacio, las actividades ofensivas estadounidenses continúan. Esa discrepancia política puede continuar debido a la zona gris legal en el ámbito digital. Por lo tanto, lo que estoy diciendo es que los marcos jurídicos en los que nos apoyamos en otras industrias, así como los enfoques que adoptamos en el aspecto físico de los conflictos extranjeros, deben estar a la par con el ámbito digital y deben seguir el ritmo de la evolución de la tecnología. Básicamente, se trata de ponerse al día a través del derecho internacional, las regulaciones y la aplicación de las leyes, para asegurarnos de que las ideas que tenemos sobre cómo es un mandato democrático, cómo es la rendición de cuentas y cómo es la supervisión sean realmente significativas siempre que se produzcan actividades en la esfera digital. Hasta cierto punto, usted está pidiendo que se implementen tipos tradicionales de leyes y regulaciones en el ámbito digital, pero ¿hay también alguna manera en la que esté pidiendo algo nuevo: una reinvención de los gobiernos democráticos para abordar los desafíos de la digitalización? Sí, hay una serie de cambios nuevos, tanto a gran como a pequeña escala, que recomendaría. Por ejemplo, así como las legislaturas dependen de equipos jurídicos independientes para ayudar a redactar leyes que sobrevivan a los desafíos judiciales, también necesitan expertos independientes en tecnología a los que puedan recurrir para obtener información fiable. Poner a disposición de los legisladores conocimientos tecnológicos contribuiría en gran medida a reducir la eficacia de los grupos de presión y a garantizar que los legisladores comprendan cómo afecta la tecnología a cuestiones como la atención sanitaria, la educación, la justicia, la vivienda y el transporte. Dado que la tecnología afecta a todo, los legisladores no pueden controlarla si participan en un único comité. Necesitan consultar a expertos independientes. Otro ejemplo: los gobiernos están subcontratando cada vez más todo tipo de procesos a empresas tecnológicas. Y si una empresa tecnológica opera en nombre de un gobierno, debería ser tan responsable como el gobierno. Yo lo llamo “la extensión de la rendición de cuentas pública”. Suena simple, pero sería un gran cambio. En este momento, a medida que los gobiernos subcontratan cada vez más funciones gubernamentales críticas a empresas tecnológicas, también descargan la responsabilidad gubernamental. Por ejemplo, en muchas jurisdicciones, a la policía no se le permite piratear los dispositivos de los sospechosos. En su lugar, contratan a una empresa de piratería informática que lo haga por ellos. La policía puede decir entonces que no piratea, pero en realidad obtiene acceso por medios alternativos. De manera similar, los gobiernos estatales y locales de los Estados Unidos no están autorizados constitucionalmente a discriminar entre ciudadanos sobre la base de categorías sensibles, pero a menudo la tecnología que utilizan hace exactamente eso sin que se les exijan responsabilidades. Un tercer ejemplo: las solicitudes de la Ley de Libertad de Información (FOIA). Los periodistas tienen derecho a saber lo que hace el gobierno en nombre de los ciudadanos, pero a veces los gobiernos contratan a empresas privadas para realizar el trabajo gubernamental o para recopilar y almacenar información gubernamental, y si las empresas no mantienen la información en el estándar requerido para las entidades públicas, o si las empresas son reacias a proporcionar información debido a preocupaciones de propiedad, entonces la efectividad de la FOIA se erosiona. Hay muchos ejemplos de cómo los gobiernos básicamente se esconden detrás de las empresas, incluidas las tecnológicas, para evitar la rendición de cuentas, y la extensión de la rendición de cuentas abordaría ese problema. En su libro, usted señala otra tensión: el uso de energía que hacen las empresas tecnológicas en las comunidades a las que llegan. Señala que el público necesita una mayor comprensión para poder supervisar mejor los centros de datos que sustentan nuestra vida digital. ¿A qué se refiere? No existen normas ni obligaciones de información que obliguen a las empresas a indicar cuánta energía o agua utilizan o planean utilizar. Tenemos estimaciones de casos individuales, pero no conocemos la suma total del consumo energético de los centros de datos. Y, a menudo, las grandes empresas tecnológicas que buscan construir centros de datos en una comunidad presentan sus ofertas para esos proyectos bajo un seudónimo, un nombre de empresa que oculta el hecho de que Amazon, Google o Microsoft están detrás de la oferta. Los abogados y consultores que contratan las empresas tecnológicas para presentar estas ofertas suelen pintar un panorama optimista de todos los beneficios económicos que obtendrán las comunidades que permitan que se construyan los centros de datos. Hacen todo lo posible por ocultar información crítica sobre quiénes son y las necesidades energéticas de los centros de datos. Y esta total falta de transparencia en cuanto al uso de recursos escasos obstaculiza una gobernanza transparente y buena. En los Países Bajos, hubo algunos casos en los que esto fue un gran problema. Los concejales municipales a tiempo parcial tuvieron que tomar decisiones sobre si permitir o no un centro de datos a gran escala en sus territorios. Y se enfrentaron a empresas multimillonarias y a todos sus abogados, contables, consultores y firmas de relaciones públicas. La asimetría de poder era enorme, y creo que al estandarizar los requisitos de transparencia y presentación de informes (incluido quién está detrás de los proyectos y las métricas del uso de energía), esto podría convertirse en un debate público mucho más justo sobre los tipos de centros de datos que una comunidad puede albergar de manera viable. Esta mayor transparencia no aborda siquiera la cuestión de si la sociedad quiere que haya más centros de datos que consuman recursos energéticos escasos en una era de cambio climático. Pero no podemos responder a esa pregunta de costo-beneficio si no sabemos cuál es el costo y todo lo que nos dicen es beneficio, beneficio, beneficio en una presentación sospechosa. Y, por supuesto, el otro problema real, especialmente en Estados Unidos, es la capacidad de las redes eléctricas. En los Países Bajos, que es una economía avanzada, como en Estados Unidos y el Reino Unido, ya hemos visto informes de que las redes están funcionando a niveles cercanos a la emergencia: código rojo. Las redes están al límite de su capacidad, se averían y los cortes son más frecuentes. Y, sin embargo, hay muchos centros de datos en proceso que se acordaron hace años. Cuando entren en funcionamiento en dos o tres años, podemos enfrentarnos a una ola de desastres. ¿Puede hablarnos del principio de precaución que ya forma parte de la legislación de la UE y cómo podría ayudar a controlar el poder de las empresas tecnológicas, especialmente la IA? Básicamente, el principio de precaución exige una pausa para evaluar el impacto social de una innovación cuando es nueva y antes de que se implemente o se utilice de forma generalizada. Está consagrado en la legislación de la UE, pero las autoridades no lo han invocado para innovaciones tecnológicas como la IA porque existe una gran presión para utilizarla y también porque la UE acaba de aprobar una ley independiente que trata de la IA. Pero creo que el principio de precaución es un concepto útil para abordar situaciones en las que los ingenieros de las empresas tecnológicas se sorprenden por el comportamiento de los modelos de IA, o en las que la sociedad, los legisladores y los ciudadanos no saben o no entienden cómo una innovación en particular afectará sus vidas. Por eso nos gustaría crear procesos que realmente sirvan al público mediante el uso del principio de precaución para evaluar e investigar antes de que los problemas no deseados, pero aún así evitables, se propaguen demasiado. ¿Han tardado los estadounidenses en comprender la amenaza que representan las empresas tecnológicas para la democracia? En todo el mundo, desde hace mucho tiempo se han visto señales de los daños que ha causado la toma de poder por parte de las empresas tecnológicas, pero los estadounidenses han tendido a considerarlas acontecimientos distantes. En 2017, la gente de Myanmar utilizó Facebook para pedir un genocidio. En 2018, nos enteramos de que Cambridge Analytica extrajo y analizó los datos de millones de usuarios de Facebook y permitió que las campañas políticas los utilizaran para elaborar perfiles psicológicos de maneras que pueden haber afectado al voto del Brexit en el Reino Unido. Y luego, en 2020, se produjo el asalto al Capitolio de Estados Unidos, que en parte se alimentó de la desinformación en las redes sociales y que ha llevado a decenas de millones de estadounidenses a perder la confianza en el proceso electoral. Así pues, algunos de los problemas que la gente afrontaba en otros lugares han vuelto a los estadounidenses bastante tarde, como un bumerán. Usted nos invita a todos nosotros, como ciudadanos democráticos, a ayudar a dar forma a una agenda que anteponga la supervivencia de los principios democráticos a los beneficios económicos a corto plazo. ¿Cómo se vería eso para un ciudadano común? Hay muchas opciones que los consumidores pueden elegir sobre cómo quieren utilizar la tecnología y los servicios, pero no creo que eso sea suficiente porque hay una enorme asimetría entre el poder del usuario individual de Internet o del dispositivo y las empresas tecnológicas. Si la gente entiende que las empresas que ofrecen todas estas herramientas digitales entretenidas, eficientes y útiles también participan en dinámicas de poder que afectan al capital y a la política nacional y global, entonces también entenderán la necesidad de una supervisión independiente y de poderes compensatorios, tal como tenemos en casi todos los demás aspectos de nuestra sociedad. Por eso espero que la gente lleve sus preocupaciones a la agenda política y exija más a sus líderes, especialmente en los EE. UU. Creo que a mucha gente en los Estados Unidos le gustaría ver una ley federal de protección de datos; protecciones para los niños en línea; mejor ciberseguridad; y un medio eficaz para abordar la desinformación sobre la atención médica y las elecciones, pero no hay una mayoría política en el Congreso para hacer que estas cosas sucedan. Y el triste resultado es que la gente se vuelve derrotista y piensa que es más fácil simplemente no plantear estas cuestiones. Pero es importante que la gente siga planteando sus inquietudes, y hacerlo a nivel estatal es una opción interesante porque muchos estados están tomando medidas para aprobar leyes y regulaciones en torno a la tecnología, dado que el gobierno federal no puede o no quiere hacerlo.