Por Adán Zewe A medida que los agentes de inteligencia artificial se vuelven más avanzados, podría ser cada vez más difícil distinguir entre los usuarios impulsados por IA y los humanos reales en Internet. En un nuevo informe, investigadores del MIT, OpenAI, Microsoft y otras empresas tecnológicas e instituciones académicas proponen el uso de credenciales de personalidad, una técnica de verificación que permite a alguien demostrar que es un ser humano real en línea, al tiempo que preserva su privacidad. MIT News habló con dos coautores del artículo, Nouran Soliman, estudiante graduado de ingeniería eléctrica y ciencias de la computación, y Tobin South, estudiante graduado en el Laboratorio de Medios, sobre la necesidad de tales credenciales, los riesgos asociados con ellas y cómo podrían implementarse de manera segura y equitativa. Pregunta: ¿Por qué necesitamos credenciales de personalidad? Tobin Sur: Las capacidades de la IA están mejorando rápidamente. Si bien gran parte del discurso público se ha centrado en cómo los chatbots siguen mejorando, la IA sofisticada permite muchas más capacidades que solo un mejor ChatGPT, como la capacidad de la IA para interactuar en línea de forma autónoma. La IA podría tener la capacidad de crear cuentas, publicar contenido, generar contenido falso, fingir ser humano en línea o amplificar algorítmicamente el contenido a gran escala. Esto desbloquea muchos riesgos. Se puede pensar en esto como un problema de "impostor digital", en el que cada vez es más difícil distinguir entre la IA sofisticada y los humanos. Las credenciales de personalidad son una posible solución a ese problema. Nouran Soliman: Estas capacidades avanzadas de IA podrían ayudar a los malos actores a ejecutar ataques a gran escala o difundir información errónea. Internet podría estar lleno de IA que están compartiendo contenido de humanos reales para ejecutar campañas de desinformación. Va a ser más difícil navegar por Internet, y específicamente por las redes sociales. Podrías imaginar el uso de credenciales de personalidad para filtrar cierto contenido y moderar el contenido en tus redes sociales o determinar el nivel de confianza de la información que recibes en línea. Pregunta: ¿Qué es una credencial de persona y cómo puede asegurarse de que dicha credencial sea segura? Sur: Las credenciales de personalidad te permiten demostrar que eres humano sin revelar nada más sobre tu identidad. Estas credenciales le permiten tomar información de una entidad como el gobierno, que puede garantizar que usted es humano, y luego, a través de la tecnología de privacidad, le permiten probar ese hecho sin compartir ninguna información confidencial sobre su identidad. Para obtener una credencial de persona, tendrás que presentarte en persona o tener una relación con el gobierno, como un número de identificación fiscal. Hay un componente fuera de línea. Vas a tener que hacer algo que solo los humanos pueden hacer: las IA no pueden aparecer en el DMV, por ejemplo. E incluso las IA más sofisticadas no pueden falsificar o romper la criptografía. Por lo tanto, combinamos dos ideas, la seguridad que tenemos a través de la criptografía y el hecho de que los humanos todavía tienen algunas capacidades que las IA no tienen, para crear garantías realmente sólidas de que eres humano. Soliman: Pero las credenciales de personalidad pueden ser opcionales. Los proveedores de servicios pueden permitir que las personas elijan si desean usar uno o no. En este momento, si las personas solo quieren interactuar con personas reales y verificadas en línea, no hay una forma razonable de hacerlo. Y más allá de crear contenido y hablar con la gente, en algún momento los agentes de IA también van a tomar medidas en nombre de las personas. Si voy a comprar algo en línea, o negociar un trato, entonces tal vez en ese caso quiero estar seguro de que estoy interactuando con entidades que tienen credenciales de personalidad para asegurarme de que son confiables. Sur: Las credenciales de personalidad se basan en una infraestructura y un conjunto de tecnologías de seguridad que hemos tenido durante décadas, como el uso de identificadores como una cuenta de correo electrónico para iniciar sesión en servicios en línea, y pueden complementar esos métodos existentes. Pregunta: ¿Cuáles son algunos de los riesgos asociados con las credenciales de personalidad y cómo podría reducir esos riesgos? Soliman: Uno de los riesgos proviene de cómo se podrían implementar las credenciales de personalidad. Existe una preocupación por la concentración de poder. Digamos que una entidad específica es el único emisor, o el sistema está diseñado de tal manera que todo el poder se le da a una entidad. Esto podría generar muchas preocupaciones para una parte de la población: tal vez no confían en esa entidad y no sienten que sea seguro interactuar con ellos. Necesitamos implementar credenciales de personalidad de tal manera que las personas confíen en los emisores y garantizar que las identidades de las personas permanezcan completamente aisladas de sus credenciales de personalidad para preservar la privacidad. Sur: Si la única forma de obtener una credencial de persona es ir físicamente a algún lugar para demostrar que eres humano, entonces eso podría ser aterrador si estás en un entorno sociopolítico donde es difícil o peligroso ir a ese lugar físico. Eso podría impedir que algunas personas tengan la capacidad de compartir sus mensajes en línea de manera ilimitada, posiblemente sofocando la libertad de expresión. Es por eso que es importante tener una variedad de emisores de credenciales de personalidad y un protocolo abierto para garantizar que se mantenga la libertad de expresión. Soliman: Nuestro documento trata de alentar a los gobiernos, los responsables políticos, los líderes y los investigadores a invertir más recursos en las credenciales de personalidad. Sugerimos que los investigadores estudien diferentes direcciones de implementación y exploren los impactos más amplios que las credenciales de personalidad podrían tener en la comunidad. Tenemos que asegurarnos de crear las políticas y reglas correctas sobre cómo se deben implementar las credenciales de personalidad. Sur: La IA se está moviendo muy rápido, ciertamente mucho más rápido que la velocidad a la que los gobiernos se adaptan. Es hora de que los gobiernos y las grandes empresas comiencen a pensar en cómo pueden adaptar sus sistemas digitales para estar listos para demostrar que alguien es humano, pero de una manera que preserve la privacidad y sea segura, para que podamos estar preparados cuando lleguemos a un futuro en el que la IA tenga estas capacidades avanzadas.