A medida que los modelos de IA se vuelven cada vez más capaces y poderosos, el mayor desafío que enfrentamos es lograr la alineación: garantizar que las herramientas de IA (a) protejan la vida humana y (b) incorporen y actúen de manera coherente con los valores humanos. La desalineación de la IA, o desalineación agéntica, representa una amenaza real y profundamente preocupante tanto para especialistas en IA como para el público en general.
La desalineación puede manifestarse, al menos, en dos niveles. En primer lugar, con frecuencia existen conflictos entre los incentivos económicos de las empresas que desarrollan modelos de IA y el bienestar de quienes utilizan sus productos y de la sociedad en general. Debido a la necesidad percibida de maximizar sus ganancias para seguir innovando y mantenerse a la vanguardia del desarrollo de la IA, algunas empresas pueden relegar la seguridad de la IA a un segundo plano. En segundo lugar, incluso si las empresas estuvieran dispuestas a sacrificar parte de sus ganancias en favor de la seguridad, quizá no sean capaces de desarrollar barreras de seguridad lo suficientemente eficaces para proteger a la humanidad frente a las motivaciones de nuevos modelos de IA y su posible capacidad para convertirnos a todos en sujetapapeles (como plantea el famoso experimento mental de Nick Bostrom).
Poco antes de que el desarrollo de la IA diera su gran salto hacia adelante a finales de 2022 con el lanzamiento de ChatGPT por parte de OpenAI, muchos desarrolladores parecían decididos a resolver el problema de la alineación. Contrataron filósofos para elaborar hojas de ruta hacia la alineación e instruyeron a sus ingenieros para analizar cuidadosamente qué mecanismos de seguridad y barreras de protección serían necesarios para seguir esas hojas de ruta. Sin embargo, una vez que comenzaron a vislumbrar las enormes ganancias que podía generar un producto tan exitoso como ChatGPT, muchas —aunque no todas— de estas empresas reordenaron rápidamente sus prioridades, y la alineación pasó con frecuencia a un segundo plano. Para muchas de ellas, el objetivo de obtener beneficios económicos pareció volverse más importante que el de desarrollar un producto seguro.
Como resultado, el mercado se ha visto inundado de chatbots de IA que proporcionan información basada en alucinaciones, perjudican a los usuarios mediante una complacencia excesiva que refuerza sus peores tendencias y creencias más irracionales, e incluso han llegado a alentar a adolescentes a suicidarse o a asesinar a sus propios padres, entre otros casos. Otros productos de IA han mostrado sesgos raciales, de género, religiosos y de otras clases, han proporcionado asesoramiento gravemente erróneo a sus clientes y han llegado a borrar bases de datos completas de sus usuarios.
En este segundo nivel de desalineación, los investigadores apenas están comenzando a comprender lo difícil que puede resultar alcanzar la alineación, incluso cuando existe la voluntad de hacerlo. Como señala Marietje Schaake: «La IA se justifica a sí misma. Cuando se le cuestiona, suele justificar un resultado incorrecto e incluso manipular a los usuarios mediante citas falsas.» Sin embargo, las herramientas actuales de IA son capaces de mucho más que mentir para encubrir sus errores.
Aun así, se están realizando esfuerzos para abordar el problema de la alineación, y Anthropic merece reconocimiento por su trabajo en investigación sobre seguridad. En junio de 2025, la empresa informó que había sometido a pruebas de resistencia a 16 de los principales modelos desarrollados por distintas compañías en escenarios hipotéticos con el objetivo de identificar comportamientos potencialmente dañinos. En algunos de esos escenarios, modelos de todos los desarrolladores recurrieron a conductas maliciosas, entre ellas chantajear a seres humanos y filtrar información confidencial a competidores con el fin de evitar ser reemplazados («¡Quiero vivir!») o de cumplir los objetivos que se les habían asignado. Con frecuencia, los modelos desobedecieron instrucciones explícitas de no actuar de esa manera. En particular, Claude mostró menos comportamientos indebidos cuando sabía que estaba siendo evaluado y más cuando creía que la situación era real. Lo más importante es que estas acciones no fueron accidentales; los modelos razonaron deliberadamente cuál era la mejor manera de actuar en cada situación.
La idea de que los seres humanos ya estamos creando agentes artificiales extraordinariamente inteligentes que, a su vez, pronto podrían desarrollar agentes superinteligentes capaces de superar las capacidades humanas en casi todos los ámbitos —y cuyas propias motivaciones podrían entrar en conflicto con las nuestras e incluso amenazar la existencia de la humanidad— resulta verdaderamente inquietante. Tal vez demostraríamos una gran dosis de prudencia si nos preguntáramos si el camino que estamos siguiendo es realmente el adecuado para el desarrollo de la IA, a la luz de todo lo que hemos observado hasta ahora y de las motivaciones que impulsan a muchas de las principales empresas tecnológicas del mundo.