ONU alerta sobre riesgos de una IA sin control: advierte peligro de “monstruo de Frankenstein”

Nueva Delhi. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, lanzó una contundente advertencia sobre los riesgos de desarrollar inteligencia artificial sin principios éticos sólidos, al afirmar que podría convertirse en un “monstruo de Frankenstein” fuera del control humano.

Durante su intervención en la Cumbre sobre el Impacto de la IA celebrada en India, el funcionario sostuvo que la falta de comprensión profunda de los fundamentos éticos y sociales por parte de los desarrolladores puede generar consecuencias imprevisibles. “Si no eres consciente de los peligros y los riesgos, puedes causar estragos”, alertó.

Desigualdad y sesgos: amenazas latentes

Türk instó a gobiernos y empresas tecnológicas a establecer salvaguardas urgentes que impidan que la inteligencia artificial profundice la desigualdad, amplifique prejuicios y cause daños concretos en la sociedad.

El representante de la ONU identificó la inequidad como uno de los principales desafíos. Señaló que si los datos utilizados para entrenar sistemas de IA provienen solo de determinadas regiones o grupos, se incorporarán sesgos inconscientes que podrían marginar aún más a comunidades vulnerables y minorías.

Además, advirtió que la concentración del desarrollo tecnológico en pocas manos puede limitar la diversidad y reproducir patrones de exclusión existentes.

El “genio fuera de la botella”

El Alto Comisionado comparó el avance desregulado de la IA con “dejar salir el genio de la botella”, evocando el caso de Myanmar, donde plataformas digitales amplificaron discursos de odio contra la minoría rohinyá, con consecuencias devastadoras.

También alertó sobre el impacto de la desinformación y la polarización social, así como el incremento de la misoginia en entornos digitales, fenómeno que —según indicó— está llevando a muchas mujeres a replantearse su participación en la vida pública.

Regulación y responsabilidad empresarial

Türk equiparó la necesidad de regulación de la IA con la supervisión que enfrenta la industria farmacéutica. A su juicio, las compañías deben realizar evaluaciones de impacto en derechos humanos antes de diseñar, lanzar y comercializar estas herramientas.

Recordó que algunas empresas tecnológicas cuentan con presupuestos superiores a los de países pequeños, lo que les otorga una influencia global considerable. Ese poder, subrayó, puede orientarse hacia el bienestar —en ámbitos como salud, educación y desarrollo sostenible— o derivar en usos perjudiciales, como armas autónomas letales, campañas de desinformación o discursos de odio.

Una visión inclusiva para el futuro

De cara a los próximos cinco años, el Alto Comisionado planteó la necesidad de un modelo de desarrollo inclusivo, donde la inteligencia artificial no esté concentrada en un reducido grupo de corporaciones, sino que se nutra de la diversidad cultural y social del mundo.

Advirtió que, sin una visión compartida orientada al bien común, la humanidad podría enfrentar sociedades más fragmentadas y conflictos cada vez menos controlados por personas.

La advertencia coloca en el centro del debate global la urgencia de equilibrar innovación tecnológica y respeto irrestricto a los derechos humanos.