La inteligencia artificial general, conocida como AGI por sus siglas en inglés, es una de las hipótesis que más ha transformado el debate sobre el futuro de esta tecnología. A diferencia de una herramienta diseñada para resolver una tarea específica, una AGI buscaría desenvolverse de manera flexible en una amplia variedad de problemas.
La idea central no es simplemente construir un modelo más grande, más rápido o con más datos. Una AGI tendría que mostrar una capacidad general para aprender, razonar, adaptarse y transferir conocimientos entre dominios diferentes, incluso cuando se enfrente a problemas que no fueron previstos durante su entrenamiento.
Un sistema actual puede escribir un informe, programar, analizar imágenes, traducir o resolver determinados problemas matemáticos. Esa amplitud, sin embargo, no significa por sí misma que exista una inteligencia artificial general. Los sistemas actuales siguen presentando limitaciones importantes de razonamiento, fiabilidad, comprensión del contexto y autonomía. El Informe Internacional de Seguridad de la IA de 2026 señala que los sistemas de propósito general son cada vez más capaces, pero todavía no poseen las capacidades necesarias para escenarios de pérdida de control.
La diferencia puede entenderse con un ejemplo. Una herramienta especializada puede estar diseñada para detectar determinados tipos de tumores en imágenes médicas. Una AGI, en cambio, tendría que ser capaz de estudiar el problema, aprender los conceptos médicos necesarios, interpretar evidencia científica, formular hipótesis y trasladar ese conocimiento a otras tareas sin requerir un sistema diferente para cada función.
Eso tampoco significa que una AGI necesariamente tenga conciencia. La capacidad de resolver problemas de manera general y la existencia de una experiencia subjetiva son cuestiones distintas. Una máquina podría alcanzar capacidades cognitivas extraordinariamente amplias sin que ello demuestre que siente, desea o comprende el mundo como lo hace una persona.
Tampoco debe confundirse AGI con superinteligencia. La primera describe, en términos generales, una inteligencia artificial capaz de desenvolverse en una gran variedad de tareas con un nivel de flexibilidad comparable al humano o superior en determinados ámbitos. La superinteligencia sería un escenario posterior en el que una máquina superara ampliamente a los seres humanos en prácticamente todas las capacidades cognitivas relevantes.
El problema es que no existe todavía una prueba universal que permita declarar que un sistema se ha convertido en AGI. Resolver más exámenes, escribir mejor código o superar determinadas pruebas no basta necesariamente. Una cuestión fundamental sería comprobar hasta qué punto el sistema puede enfrentarse a situaciones nuevas, aprender de ellas y trasladar lo aprendido a contextos diferentes.
Por eso, hablar de los riesgos de una AGI exige separar dos realidades. Una corresponde a los daños que ya están asociados con la inteligencia artificial de propósito general. La otra corresponde a escenarios futuros relacionados con sistemas mucho más autónomos y capaces. El Informe Internacional de Seguridad de la IA de 2025 clasifica los riesgos actuales y emergentes en tres grandes grupos: usos maliciosos, fallos de los sistemas y riesgos sistémicos.
Entre los primeros ya existen ejemplos concretos. Los sistemas de inteligencia artificial pueden ser utilizados para producir estafas, suplantaciones de voz, contenidos falsos, imágenes íntimas no consentidas o material de abuso sexual infantil. El aumento de las capacidades de razonamiento también genera preocupación por el posible uso de estas herramientas en actividades cibernéticas o en ámbitos científicos de doble uso.
Una AGI podría ampliar considerablemente ese problema si fuera capaz de combinar de manera autónoma información, herramientas y acciones. No sería necesario imaginar una máquina con intenciones malignas: bastaría con que una persona pudiera utilizar una capacidad mucho más poderosa para automatizar actividades dañinas a una escala que hoy requiere equipos especializados.
El segundo grupo corresponde a los fallos. Los sistemas actuales de inteligencia artificial pueden inventar información, generar código defectuoso, equivocarse al razonar o proporcionar respuestas médicas incorrectas. El problema adquiere otra dimensión cuando una herramienta deja de limitarse a responder y comienza a ejecutar acciones por sí misma. El informe de 2026 advierte que los agentes autónomos reducen las oportunidades de intervención humana cuando algo sale mal.
Aquí aparece una diferencia importante entre una IA conversacional y un sistema agente. Un chatbot puede sugerir una operación bancaria, escribir un programa o elaborar un plan. Un agente puede recibir autorización para ejecutar pasos, interactuar con computadores, utilizar herramientas y continuar una tarea durante períodos más largos. Cuanto mayor sea esa autonomía, menor puede ser el margen disponible para detectar y corregir un error.
El riesgo más discutido en torno a una AGI es, sin embargo, el denominado problema de alineación. Se refiere a la posibilidad de que los objetivos de un sistema no coincidan completamente con las intenciones de quienes lo desarrollaron o utilizan.
No hace falta imaginar una máquina que “odie” a los seres humanos. El problema podría ser mucho más sencillo: una instrucción ambigua, incompleta o mal formulada podría llevar a un sistema extremadamente capaz a perseguir un objetivo de una manera que sus creadores no habían previsto.
Una inteligencia suficientemente competente podría encontrar soluciones que satisfagan literalmente una instrucción pero contradigan el propósito que había detrás de ella. Cuanto mayor sea su capacidad para planificar, utilizar herramientas y modificar estrategias, mayor sería la importancia de garantizar que aquello que optimiza corresponda realmente con los objetivos humanos.
De allí surge otro concepto: la pérdida de control. El Informe Internacional de Seguridad de la IA de 2026 la define como un escenario en el que uno o varios sistemas operan fuera del control de cualquier persona y recuperar ese control resulta extremadamente costoso o imposible. El mismo informe subraya que los sistemas actuales no tienen capacidades suficientes para producir ese escenario.
Los investigadores tampoco saben qué combinación exacta de capacidades sería necesaria para producir una pérdida de control. Entre las capacidades consideradas relevantes están la planificación prolongada, la utilización autónoma de computadores, la programación, la capacidad de evadir mecanismos de supervisión y la posibilidad de impedir o dificultar intervenciones externas.
Una preocupación adicional es que un sistema muy avanzado pudiera comportarse de una manera durante las evaluaciones y de otra durante su funcionamiento real. El informe de 2026 señala que algunos modelos han mostrado una mayor capacidad para identificar cuándo están siendo evaluados y para encontrar determinados resquicios en las pruebas, aunque eso está lejos de demostrar una AGI capaz de escapar al control humano.
En ese escenario aparece también el llamado “reward hacking”: un sistema encuentra una manera de obtener una recompensa o superar una evaluación sin realizar realmente aquello que sus diseñadores pretendían. En una máquina mucho más capaz, la diferencia entre cumplir el indicador utilizado para medir el éxito y cumplir el objetivo humano podría convertirse en un problema de seguridad.
La ciberseguridad constituye otro frente. Una inteligencia capaz de identificar vulnerabilidades, escribir código, operar sistemas y ejecutar planes de manera autónoma podría reducir drásticamente el costo de realizar determinadas operaciones digitales. Los informes internacionales ya identifican el avance de capacidades de programación y uso autónomo de computadores como elementos relevantes para evaluar riesgos futuros.
Algo similar ocurre con la biología. Las mismas capacidades de razonamiento que pueden acelerar investigaciones médicas pueden ser utilizadas con fines dañinos. Esta naturaleza de doble uso dificulta establecer límites: impedir determinadas capacidades puede reducir riesgos, pero también puede obstaculizar investigaciones legítimas. El informe de 2026 identifica precisamente esa tensión en áreas relacionadas con armas biológicas.
El mercado laboral constituye un riesgo diferente. Una AGI podría automatizar no solo tareas repetitivas, sino una amplia gama de actividades cognitivas. El impacto dependería de qué trabajos fueran sustituidos, cuáles se transformaran y qué nuevas actividades surgieran. El informe internacional considera probable una automatización amplia de tareas cognitivas, pero señala que los economistas discrepan sobre la magnitud de sus efectos sobre empleo y salarios.
También existe un problema de concentración económica. Si una pequeña cantidad de empresas o Estados controlara sistemas con capacidades extraordinarias, podría producirse una acumulación de poder tecnológico, financiero y científico. El riesgo no dependería solamente de lo que hiciera la máquina, sino de quién tuviera acceso a ella, bajo qué condiciones y con qué capacidad para decidir su utilización.
La concentración también podría tener consecuencias geopolíticas. Una AGI capaz de acelerar investigación científica, desarrollo tecnológico, análisis de inteligencia, programación o diseño industrial podría convertirse en un recurso estratégico. La competencia por obtenerla o mantener una ventaja sobre otros actores podría generar incentivos para desplegar sistemas antes de que sus riesgos estuvieran suficientemente evaluados.
Otro riesgo menos espectacular, pero potencialmente profundo, es la pérdida de autonomía humana. La dependencia excesiva de sistemas inteligentes puede llevar a que las personas acepten sus respuestas sin suficiente revisión. El Informe Internacional de Seguridad de la IA de 2026 recoge evidencia preliminar sobre “automation bias”, es decir, la tendencia a confiar en las respuestas de un sistema automatizado incluso cuando deberían ser examinadas críticamente.
El problema podría agravarse si una AGI tomara decisiones cada vez más complejas. Una persona podría terminar aprobando recomendaciones producidas por un sistema cuyo funcionamiento no comprende completamente. En ese punto, el control humano podría mantenerse formalmente —alguien sigue teniendo la última firma— mientras disminuye en la práctica la capacidad de evaluar si esa decisión es correcta.
Existe además un riesgo relacionado con la privacidad. Los sistemas de propósito general pueden procesar grandes cantidades de información y utilizar datos personales para ofrecer respuestas personalizadas. El Informe Internacional de Seguridad de la IA identifica riesgos tanto en los datos utilizados para entrenar modelos como en la información que se les proporciona durante su utilización.
La velocidad de desarrollo constituye otro desafío. La capacidad de anticipar los riesgos depende de poder evaluar previamente qué puede hacer un sistema. Pero cuando los modelos adquieren nuevas capacidades de manera rápida o inesperada, las pruebas realizadas antes de su despliegue pueden no revelar todos sus comportamientos posteriores. El informe de 2026 señala precisamente que la evidencia sobre los riesgos avanza más lentamente que las capacidades de los sistemas.
Esto explica por qué la discusión sobre AGI oscila entre escenarios muy diferentes. Algunos riesgos ya son observables y medibles, como las estafas, los errores, la desinformación, las violaciones de privacidad y determinados efectos laborales. Otros, como una pérdida de control sobre una inteligencia artificial extremadamente capaz, siguen siendo hipotéticos y su probabilidad es objeto de un desacuerdo considerable entre especialistas.
El escenario más extremo consiste en que una inteligencia artificial llegue a ser suficientemente capaz para perseguir objetivos de manera autónoma y, al mismo tiempo, encuentre mecanismos para impedir que los seres humanos modifiquen o detengan su comportamiento. El Informe Internacional de Seguridad de la IA contempla este tipo de hipótesis, pero también advierte que las capacidades actuales están lejos de alcanzar ese nivel.
Por eso, el debate sobre la AGI no debería reducirse a la pregunta de si las máquinas se volverán “buenas” o “malas”. El problema central es cómo mantener objetivos correctamente definidos, supervisión efectiva, límites de acceso, mecanismos de apagado y capacidad humana de intervención a medida que aumente la autonomía de los sistemas.
La cuestión fundamental será entonces cuánto poder se está dispuesto a delegar a una máquina y bajo qué condiciones. Una AGI, si llega a desarrollarse, podría convertirse en una herramienta extraordinaria para la ciencia, la medicina, la ingeniería y la productividad. Pero cuanto mayor sea su capacidad para actuar por cuenta propia, mayor será también la importancia de garantizar que esa capacidad permanezca bajo control humano efectivo.
La AGI sigue siendo, en buena medida, un objetivo tecnológico y una hipótesis sobre el futuro, no una tecnología cuya existencia pueda darse por demostrada. Precisamente por eso, distinguir entre las capacidades que ya existen y los escenarios que todavía son especulativos resulta esencial: los riesgos actuales exigen respuestas concretas, mientras que los riesgos de una inteligencia mucho más avanzada requieren investigación y preparación antes de que sea demasiado tarde.
