El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que el rápido avance de la inteligencia artificial podría llegar a representar “una amenaza existencial para la humanidad” y llamó a establecer límites internacionales antes de que los sistemas más avanzados continúen expandiendo sus capacidades.
La advertencia fue planteada este lunes durante un discurso ante el Consejo de Derechos Humanos de la ONU, en Ginebra, donde Türk inició su segundo mandato al frente del organismo.
El funcionario sostuvo que comparte las preocupaciones expresadas por integrantes de la propia industria tecnológica respecto de los riesgos que podrían surgir a medida que los sistemas de IA se vuelvan más avanzados.
ONU pide establecer “líneas rojas”
Türk llamó a adoptar garantías sólidas para reforzar la seguridad de la inteligencia artificial, antes de que los avances tecnológicos superen la capacidad de las instituciones para controlarlos.
Entre los riesgos mencionados por su oficina se encuentran eventuales alteraciones de infraestructuras críticas, servicios, comunicaciones y sistemas democráticos.
La preocupación también apunta a la velocidad con que evolucionan estas tecnologías. Desde la oficina del Alto Comisionado se hizo referencia al denominado incidente de Hugging Face, ocurrido en julio, como un ejemplo de comportamientos de agentes de IA que, según Naciones Unidas, muestran que las capacidades de estos sistemas podrían estar avanzando más rápido que las medidas de seguridad disponibles.
El representante de la ONU también cuestionó la concentración del desarrollo de la IA en un reducido número de grandes compañías tecnológicas y planteó que los países involucrados en el desarrollo y las cadenas de suministro de estas tecnologías deberían acordar “líneas rojas” sobre sus usos.
La ONU ya ha advertido anteriormente sobre distintos riesgos asociados a la inteligencia artificial, incluyendo la desinformación generada mediante estas herramientas y sus posibles efectos sobre operaciones humanitarias y de mantenimiento de la paz.
Türk insistió en que la respuesta requiere una coordinación internacional que permita establecer reglas de seguridad antes de que el desarrollo de sistemas cada vez más avanzados haga más difícil controlar sus eventuales consecuencias.
