Por Shana Lynch urante su año sabático en Google como científica jefe de IA en la nube, Fei-Fei Li fue testigo de la rápida integración de la inteligencia artificial en la industria: desde los productores japoneses de pepinos hasta las empresas de seguros y los conglomerados energéticos, la IA estaba remodelando las prácticas tradicionales. Reconociendo el profundo impacto de la IA, Li imaginó un futuro en el que la tecnología sirva a la humanidad con justicia y dignidad. Con la rica historia de Stanford en la investigación de IA y su liderazgo tanto en tecnología como en humanidades, sabía que podía encabezar un nuevo esfuerzo aquí. Ahora entrando en su quinto año, el Instituto de Stanford para la Inteligencia Artificial Centrada en el Ser Humano (HAI) ha dado pasos significativos hacia la ambiciosa visión de Li. Al fomentar una comunidad de investigación interdisciplinaria diversa, canalizar fondos sustanciales hacia la investigación de la IA, establecer centros especializados y colaborar con los responsables políticos y los líderes de la industria, HAI se ha posicionado como pionera en la configuración del desarrollo ético e inclusivo de la IA. "HAI fue la primera institución en el sector público que se creó dedicada no solo a la innovación de esta tecnología de vanguardia, sino también a involucrar a la política, la industria y la sociedad civil para garantizar que esta tecnología se desarrolle con los humanos en el centro", dijo Li. "Hemos dado grandes pasos en la política y el liderazgo intelectual", dijo el codirector John Etchemendy, ex rector y uno de los fundadores originales de HAI, "y tenemos grandes pasos por delante". Investigación novedosa Stanford HAI ha canalizado más de 40 millones de dólares a la investigación de IA centrada en el ser humano, apoyando a más de 300 académicos de Stanford en todas las disciplinas. Esos investigadores construyeron asistentes de enseñanza de IA, se asociaron con gobiernos para prevenir la trata de personas, mejoraron el asentamiento de refugiados a través del aprendizaje automático y desarrollaron formas más sostenibles para que las empresas mineras encuentren minerales. "Nuestra investigación ya está teniendo un impacto en el mundo real", dijo la directora de programas de investigación de HAI, Vanessa Parli. "Desde la robótica hasta la atención médica, los algoritmos técnicos, la ciencia cognitiva, las aplicaciones en las redes sociales, la educación y más, estamos empujando los límites de lo que la IA puede hacer mientras mantenemos a los humanos a la vanguardia". Educación Interdisciplinaria Además del apoyo financiero, Stanford HAI ha priorizado la construcción de una comunidad educativa multidisciplinaria. Iniciativas como una pista de IA centrada en el ser humano en la especialidad de Sistemas Simbólicos, grupos de afinidad estudiantil, un programa de becarios de posgrado y becas de tecnología y políticas tienen como objetivo nutrir a la próxima generación de líderes de IA. Los talleres y conferencias atraen a profesores multidisciplinarios y crean nuevos equipos de investigación diversos. "Vimos que la IA sería una tecnología que afectaría a todas las áreas", dijo el director asociado Chris Manning, quien ayudó a desarrollar el concepto inicial de Stanford HAI. "Afectaría a la medicina, al derecho, a los negocios, a la economía. Hay muchas cuestiones éticas y filosóficas. Necesitábamos un enfoque de "toda la universidad". Stanford HAI realmente ha permitido muchas de esas colaboraciones más amplias en toda la universidad". A la vanguardia de los principales cambios de la IA Reconociendo las tendencias emergentes en IA, Stanford HAI lanzó rápidamente dos nuevos centros: el Laboratorio de Economía Digital de Stanford (el Laboratorio) y el Centro de Investigación sobre Modelos de Fundación (CRFM). El laboratorio explora el impacto de la IA en la economía y la naturaleza del trabajo. A medida que las capacidades de la IA crecen exponencialmente, el lado humano (habilidades, organizaciones, institutos) no ha seguido el ritmo, dijo el director del laboratorio, Erik Brynjolfsson: "En esa brecha creciente es donde creo que se encuentran una gran fracción de los desafíos y oportunidades de nuestra sociedad. El Laboratorio está enfocado en abordar esa brecha". Iniciado en 2020, el trabajo del laboratorio incluye comprender las implicaciones de la IA en la productividad y lo que significa para el crecimiento, el empleo, los ingresos y la desigualdad. El laboratorio también estudia las empresas que emplean la IA (véanse los resultados de un proyecto de centro de llamadas). CRFM se lanzó en 2021 para comprender y dar forma al desarrollo de modelos de cimentación. "Pensamos que esta revolución tecnológica no era solo algo que deberían hacer los tecnólogos o las personas de las empresas, sino que Stanford tenía un papel importante que desempeñar en la configuración de la forma en que se desarrollaron las cosas", dijo el director de CRFM, Percy Liang. El centro se centra tanto en los avances técnicos como en el impacto social. CRFM se lanzó con una lectura esencial sobre las oportunidades y desafíos de los modelos de fundación; desarrolló un marco de evaluación llamado HELM que ha analizado 30+ modelos de fundación; calificó a las empresas modelo de IA en cuanto a transparencia; construyó nuevos conjuntos de datos valiosos en robótica y derecho; y lideró avances técnicos que cambiaron la forma en que las principales empresas de tecnología construyen IA. Educar a los legisladores Los esfuerzos políticos de Stanford HAI se centran en promover la gobernanza y la regulación informadas de la IA. A través de la investigación académica, las discusiones sobre políticas y los compromisos con organismos gubernamentales, el profesorado del instituto ha desempeñado un papel fundamental en la configuración de la política de IA a nivel estatal, nacional y mundial. Los compromisos notables incluyen testimonios ante varios comités del Senado y la Cámara de Representantes, reuniones con agencias como el Departamento de Comercio de EE. UU. y la Asociación Federal de Comercio, y una reunión del codirector de Stanford HAI, Li, y el investigador principal, Rob Reich, con el presidente Biden. Stanford HAI también lanzó un campamento de entrenamiento de políticas, un evento educativo intensivo de tres días para ayudar a los asistentes del Congreso a comprender mejor la tecnología y sus amplios impactos en todas las industrias. "Este campo se está moviendo tan rápido que es fácil para los analistas políticos y otros perderse en los detalles", dijo Russell Wald, subdirector de Stanford HAI. "Queríamos que los expertos en políticas aprendieran de los principales expertos en IA del país, entendieran la tecnología y apreciaran realmente sus riesgos y recompensas". Una pieza clave de la legislación que Stanford HAI apoyó desde el primer día es un recurso nacional de investigación de IA. Etchemendy y Li vieron el desequilibrio de poder en la IA, limitado a las empresas que poseen conjuntos de datos masivos y pueden permitirse la costosa computación. Para proporcionar un contrapeso, pidieron un recurso nacional de investigación de IA para el mundo académico y las organizaciones sin fines de lucro. Los líderes de Stanford HAI organizaron universidades y empresas tecnológicas para apoyar este esfuerzo en 2020, escribieron un plan para un recurso en 2021 y formaron parte de grupos de trabajo clave. Ahora estos esfuerzos están dando sus frutos. En 2023, los senadores Martin Heinrich, Todd Young, Corey Booker y Mike Rounds presentaron la Ley CREATE AI, mientras que este año la Fundación Nacional de Ciencias lanzó un piloto del programa. "Estos movimientos reequilibrarán el ecosistema de IA y garantizarán que la IA se cree no solo con fines de lucro, sino también para el bien público", señaló Wald, uno de los primeros defensores de la NAIRR. Construyendo conexiones con la industria Reconociendo la necesidad de colaboración entre la academia y la industria, Stanford HAI estableció su programa de afiliados de la industria. "Esta es una oportunidad para que aprendamos de los problemas reales que enfrentan estos socios corporativos en sus negocios para que el tipo de investigación que estamos haciendo tenga un impacto en el mundo real", dijo el codirector de Stanford HAI, James Landay, fundador del instituto. "También es una oportunidad para que influyamos en ellos sobre lo que debería ser la IA centrada en el ser humano para que comiencen a practicar algo más cercano a ese modelo en su propio trabajo con el tiempo". Stanford HAI trabaja con empresas de todos los sectores, desde la tecnología tradicional hasta el comercio minorista, la banca, la consultoría y más. Los empleados de los afiliados trabajan directamente con el profesorado, asisten a talleres, participan en la educación ejecutiva e incluso vienen al campus como académicos visitantes. El programa ha creado más de 50 colaboraciones de investigación y ha entregado 10 millones de dólares en subvenciones de investigación y 9 millones de dólares en créditos de computación en la nube a académicos de Stanford. "Nuestro objetivo con el programa es convertirnos en un catalizador tanto para las empresas como para los investigadores de todo el mundo a medida que desarrollan e implementan la IA de una manera que beneficie al mundo, con valores centrados en el ser humano en el núcleo de la tecnología", dijo Panos Madamopoulos-Moraris, Director General de Programas y Asociaciones de la Industria de Stanford HAI. Más por venir En solo cinco años, Stanford HAI ha superado las expectativas de sus fundadores, logrando impactos significativos en la política, la investigación y la educación. Sin embargo, el futuro de la investigación sobre IA puede trascender los confines de la Universidad de Stanford. "La ciencia ha superado el modelo universitario de investigación", comentó Etchemendy. A medida que los modelos de IA se vuelven más grandes y complejos, los académicos deben buscar recursos más allá de los entornos universitarios tradicionales para mantenerse a la vanguardia del campo. Estableció paralelismos con la física de altas energías. Al igual que las universidades se asociaron con organizaciones gubernamentales para construir instalaciones de investigación a gran escala, como aceleradores lineales, para adaptarse a las necesidades cambiantes de la física de partículas, se justifica un enfoque similar en la investigación de la IA. "Estos grandes modelos de fundaciones han superado lo que las universidades pueden hacer", dijo Etchemendy. Si bien la industria ha intervenido, su enfoque en las aplicaciones comerciales a menudo no prioriza una difusión más amplia del conocimiento. En respuesta, los líderes de Stanford HAI abogan por un enfoque novedoso: un entorno de laboratorio colaborativo financiado por la filantropía y el apoyo del gobierno. Este entorno no solo proporcionaría oportunidades de formación de vanguardia para los estudiantes, sino que también permitiría a los académicos profundizar en la investigación de estos modelos masivos de IA. "Este es nuestro próximo paso", dijo Etchemendy. Si bien los esfuerzos actuales son esenciales, dijo, necesitamos crecer. "Al adoptar este nuevo elemento, podemos continuar con nuestra misión de avanzar en la investigación de la IA para el mejoramiento de la sociedad".

Tres proyectos destacados CRIAR-Salud En respuesta a los rápidos avances en IA y a la urgente necesidad de definir su uso responsable en la salud y la medicina, Stanford Medicine y Stanford HAI lanzaron RAISE-Health (IA responsable para una salud segura y equitativa) en junio de 2023. Esta iniciativa busca abordar cuestiones éticas y de seguridad críticas en torno a la innovación en IA y guiar a las partes interesadas a través de este campo complejo y en evolución. Codirigido por el decano de la Facultad de Medicina de Stanford, Lloyd Minor, y Fei-Fei Li, RAISE-Health se propone elevar los resultados de la atención clínica a través de la integración de la IA, acelerar la investigación para abordar los problemas más apremiantes de la atención médica y educar a los pacientes, cuidadores e investigadores sobre cómo navegar por los avances de la IA. Esta primavera, la iniciativa celebrará su primera conferencia. Índice de IA El AI Index rastrea el progreso de esta tecnología a través de datos completos y análisis originales. Mide los rápidos avances logrados en la investigación y el desarrollo, el rendimiento técnico, las consideraciones éticas, el impacto económico, las implicaciones educativas, las políticas y la regulación, la diversidad, la opinión pública y más. Con esta información, los responsables políticos, los investigadores, los periodistas, los ejecutivos y el público en general pueden comprender mejor el complejo mundo de la IA, tomar decisiones informadas y priorizar los avances en la IA centrada en el ser humano. IA para el sector social Las organizaciones sin fines de lucro y filantrópicas ejercen una influencia significativa en la configuración de la trayectoria de la IA, asegurando que evolucione como una fuerza para el beneficio social. HAI pretende ser un nexo entre este sector y los expertos técnicos. Con este fin, HAI inició una encuesta nacional de IA para el impacto social y lanzará un programa de educación y convocatoria diseñado para líderes de organizaciones sin fines de lucro.