16 de septiembre de 2026
Volker Türk advierte sobre los riesgos de una IA cada vez más autónoma y reclama controles independientes, transparencia y cooperación internacional
Ginebra. – Las advertencias sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial (IA) han adquirido una nueva dimensión ante el avance de sistemas capaces de ejecutar tareas con mayores niveles de autonomía.
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió a los Estados y a las principales empresas tecnológicas actuar con urgencia para establecer mecanismos de gobernanza que permitan hacer frente a los riesgos que plantea la evolución de la IA.
Türk ha puesto especial atención en la denominada inteligencia artificial agéntica, sistemas diseñados para actuar con cierto grado de autonomía con el propósito de ejecutar tareas y alcanzar determinados objetivos.
Según su advertencia, una falla en sistemas de este tipo podría tener consecuencias sobre servicios esenciales, comunicaciones, infraestructuras críticas e instituciones, especialmente si son implementados en ámbitos donde un error puede producir efectos a gran escala.
Derechos humanos en el centro del debate
El responsable de Naciones Unidas sostiene que los riesgos asociados con la IA no se limitan a escenarios futuros. Entre las preocupaciones señaladas figuran la explotación masiva de datos personales, las tecnologías de vigilancia, la discriminación, la desinformación y determinados usos de sistemas automatizados que pueden afectar a sectores vulnerables.
La Oficina del Alto Comisionado ha defendido anteriormente la necesidad de incorporar los derechos humanos en el diseño, desarrollo y utilización de sistemas de inteligencia artificial, incluyendo mecanismos de transparencia, supervisión y reparación cuando se produzcan afectaciones.
Türk considera que el desarrollo tecnológico está entrando en una etapa en la que las decisiones adoptadas actualmente podrían tener consecuencias durante décadas y afectar a generaciones que todavía no participan en el debate.
Los riesgos ya generan preocupación
La discusión internacional tampoco se limita a las posibilidades futuras de la inteligencia artificial.
El uso de sistemas automatizados en servicios públicos, la recopilación masiva de información personal, las herramientas de vigilancia y la generación de contenidos falsos ya forman parte del debate sobre los efectos de estas tecnologías en la privacidad, la libertad de expresión y otros derechos fundamentales.
La preocupación se extiende también al ámbito de la seguridad. Algunos líderes de empresas dedicadas al desarrollo de modelos avanzados han planteado públicamente la necesidad de establecer salvaguardas y mecanismos que permitan comprender y controlar mejor los riesgos derivados de capacidades cada vez más sofisticadas.
La autorregulación no sería suficiente
Uno de los principales puntos planteados por Türk es que las empresas tecnológicas no deberían ser las únicas responsables de determinar los límites de sistemas cuyos efectos pueden extenderse al conjunto de la sociedad.
El Alto Comisionado ha llamado a los Estados y a las compañías desarrolladoras a trabajar dentro de espacios multilaterales para establecer reglas aplicables a los modelos de inteligencia artificial más avanzados.
La posición de Naciones Unidas parte de que los gobiernos tienen responsabilidades en materia de protección de derechos humanos, mientras que las empresas también deben identificar y prevenir los impactos negativos asociados con sus productos y servicios.
¿Quién debe establecer los límites?
Entre las medidas planteadas se encuentra la necesidad de contar con evaluaciones independientes de las capacidades de los sistemas de IA, realizadas por especialistas con acceso suficiente a los modelos, su documentación y los entornos de prueba.
También se plantea que las empresas evalúen de manera permanente las consecuencias de sus tecnologías sobre los derechos humanos.
La dimensión internacional del problema constituye otro de los desafíos. Una tecnología desarrollada en un país puede ser utilizada inmediatamente en otros territorios, mientras que sus datos, servidores, usuarios y proveedores pueden encontrarse en distintas jurisdicciones.
Por ello, la cooperación internacional aparece como uno de los elementos centrales del debate sobre cómo establecer normas comunes y mecanismos de supervisión.
Una carrera tecnológica con consecuencias sociales
El desarrollo de la inteligencia artificial plantea así una cuestión que trasciende los aspectos técnicos: cómo garantizar que el avance de una tecnología cada vez más poderosa permanezca subordinado a los derechos y necesidades de las personas.
El debate incluye asuntos como privacidad, empleo, seguridad, educación, acceso a la información, responsabilidad empresarial, protección de datos y utilización de sistemas autónomos en sectores críticos.
La Oficina de Derechos Humanos de la ONU ha insistido en que la inteligencia artificial debe desarrollarse desde una perspectiva basada en derechos humanos, con transparencia, rendición de cuentas, seguridad y control humano.
La discusión internacional continuará mientras gobiernos, empresas, investigadores y organizaciones de la sociedad civil buscan convertir principios generales en mecanismos concretos de supervisión.
Una sugerencia para la humanidad
La inteligencia artificial no debería convertirse en una competencia para demostrar quién puede crear la máquina más poderosa, sino en una oportunidad para demostrar qué tan responsable puede ser la humanidad frente al poder que ella misma está creando.
El progreso tecnológico no debería medirse únicamente por la velocidad de los procesadores, la capacidad de los modelos o la cantidad de tareas que una máquina puede realizar. También debería medirse por nuestra capacidad para proteger la dignidad humana.
La humanidad debe avanzar, pero sin entregar a la tecnología aquello que nunca debería perder: el criterio, la responsabilidad y el control sobre sus propias decisiones.
Crear máquinas cada vez más inteligentes puede ser un extraordinario logro científico. Crear una sociedad lo suficientemente responsable para utilizarlas sin poner en riesgo sus derechos, su libertad y su futuro sería un logro todavía mayor.
El verdadero desafío de la inteligencia artificial, en última instancia, no es solamente conseguir que las máquinas aprendan más, sino conseguir que los seres humanos aprendamos a utilizar ese poder con sabiduría.
%204.45.33%20a.m..png)
