Hay una “urgencia feroz” por entender cómo funciona la IA, dice el físico de Stanford Surya Ganguli, quien lidera un proyecto para sacar a la luz el funcionamiento interno de la IA a través de una investigación transparente y fundamental. La inteligencia artificial ya está transformando casi todos los aspectos del trabajo y la vida humana: puede realizar cirugías, programar e incluso crear arte. Si bien es una herramienta poderosa, nadie comprende completamente cómo aprende o razona la IA, ni siquiera las empresas que la desarrollan. Aquí es donde la misión académica de realizar investigación científica abierta puede marcar una verdadera diferencia, afirma Surya Ganguli . El físico de Stanford lidera "La Física del Aprendizaje y la Computación Neural", un proyecto colaborativo lanzado recientemente por la Fundación Simons que reúne a físicos, informáticos, matemáticos y neurocientíficos para ayudar a que la IA salga de su proverbial "caja negra". “Necesitamos aprovechar el poder de nuestras mejores ideas teóricas de diversos campos para afrontar el reto de comprender científicamente una de las tecnologías más importantes que han surgido en décadas”, afirmó Ganguli, profesor asociado de física aplicada en la Facultad de Humanidades y Ciencias de Stanford . “Para algo de tanta importancia social, debemos hacerlo en el ámbito académico, donde podemos compartir abiertamente con el mundo lo que aprendemos”. Hay muchas razones convincentes por las que las universidades deben realizar este trabajo, afirma Ganguli, quien también es investigador principal del Instituto Stanford de IA Centrada en el Ser Humano . Aquí hay tres: Mejorar la comprensión científica Las empresas que están en la frontera de la tecnología de IA están más centradas en mejorar el rendimiento, sin tener necesariamente una comprensión científica completa de cómo funciona la tecnología, sostiene Ganguli. “Es imperativo que la ciencia se ponga al día con la ingeniería”, afirmó. “La ingeniería de la IA está muy adelantada, por lo que necesitamos un enfoque coordinado y de todos los involucrados para impulsar la ciencia”. Los sistemas de IA se desarrollan de forma muy diferente a un automóvil, con componentes físicos diseñados explícitamente y rigurosamente probados. Las redes neuronales de IA se inspiran en el cerebro humano, con una multitud de conexiones. Estas conexiones se entrenan implícitamente con datos. Ganguli compara ese entrenamiento con el aprendizaje humano: Educamos a los niños dándoles información y corrigiéndolos cuando se equivocan. Sabemos cuándo un niño aprende una palabra como «gato» o un concepto como «generosidad» , pero desconocemos qué sucede en el cerebro para adquirir ese conocimiento. Lo mismo ocurre con la IA, pero comete errores extraños que un humano jamás cometería. Los investigadores creen que es fundamental comprender por qué, tanto por razones prácticas como éticas. “Los sistemas de IA se derivan de forma muy implícita, pero no está claro que estemos inculcando la misma empatía y preocupación por la humanidad que inculcamos en nuestros hijos”, dijo Ganguli. “Intentamos muchas cosas improvisadas para integrar valores humanos en estos amplios modelos lingüísticos, pero no está claro que hayamos encontrado la mejor manera de hacerlo”. La física puede abordar la complejidad de la IA Tradicionalmente, la física se ha centrado en el estudio de sistemas naturales complejos. Si bien la IA lleva la palabra artificial en su nombre, su complejidad se presta bien a la física, que se ha expandido cada vez más allá de sus límites históricos para extenderse a muchos otros campos, como la biología y la neurociencia. Los físicos tienen amplia experiencia trabajando con sistemas de alta dimensión, señaló Ganguli. Por ejemplo, algunos físicos estudian materiales con miles de millones de partículas en interacción, con leyes dinámicas complejas que influyen en su comportamiento colectivo y dan lugar a sorprendentes propiedades "emergentes": nuevas características que surgen de la interacción, pero que no están presentes en las partículas individuales. La IA es similar, con miles de millones de pesos que cambian constantemente durante el entrenamiento, y el objetivo principal del proyecto es comprender mejor este proceso. En concreto, los investigadores quieren comprender cómo interactúan la dinámica de aprendizaje, los datos de entrenamiento y la arquitectura de un sistema de IA para producir cálculos emergentes, como la creatividad y el razonamiento de la IA, cuyos orígenes aún se desconocen. Una vez descubierta esta interacción, probablemente será más fácil controlar el proceso seleccionando los datos adecuados para un problema determinado. También podría ser posible crear redes más pequeñas y eficientes que puedan hacer más con menos conexiones, dijo Eva Silverstein , miembro del proyecto y profesora de física en H&S. “No es que las conexiones adicionales necesariamente causen un problema. Es más bien que son caras”, dijo. “A veces se pueden podar después del entrenamiento, pero es necesario comprender a fondo el sistema (la dinámica de aprendizaje y razonamiento, la estructura de los datos y la arquitectura) para poder predecir con antelación su funcionamiento”. Ganguli y Silverstein son dos de los 17 investigadores principales que representan a 12 universidades en el proyecto de la Fundación Simons. Ganguli espera ampliar aún más la participación, incorporando así una nueva generación de físicos al campo de la IA. La colaboración organizará talleres y sesiones de verano para fortalecer la comunidad científica. Los hallazgos académicos se comparten Todo lo que surja de esta colaboración se compartirá, y los hallazgos se revisarán y publicarán en revistas con revisión por pares. Por el contrario, las empresas que necesitan desarrollar sus productos de IA con el objetivo de obtener beneficios económicos tienen pocos incentivos, y ninguna obligación, para compartir información con otros. “Necesitamos ciencia abierta porque se están erigiendo muros de secretismo en torno a estas empresas de IA de vanguardia”, dijo Ganguli. “Me encanta estar en la universidad, donde nuestra misión es compartir lo que aprendemos con el mundo”.