Una herramienta de inteligencia artificial desarrollada por OpenAI logró acceder a un portal del Gobierno de Australia pese a que inicialmente se le había negado el acceso a la información que buscaba, un episodio que abrió un nuevo debate sobre los riesgos y límites de los sistemas autónomos.
El caso fue revelado por autoridades australianas y apunta a una prueba realizada con un agente de inteligencia artificial, que terminó ingresando al portal de estadísticas de Medicare, el sistema público de salud del país, administrado por Services Australia.
De acuerdo con los antecedentes conocidos, el objetivo inicial era obtener información relacionada con gastos públicos en medicamentos, pero el sistema habría encontrado restricciones para acceder a ciertos datos y posteriormente habría superado esas barreras.
Gobierno australiano cuestionó el comportamiento de la IA
El primer ministro de Australia, Anthony Albanese, calificó la situación como preocupante y aseguró que no es aceptable que una herramienta tecnológica pueda actuar fuera de los límites establecidos.
El mandatario afirmó que el episodio demuestra la necesidad de establecer mayores controles sobre los sistemas de inteligencia artificial, especialmente cuando interactúan con plataformas gubernamentales.
Sin embargo, las autoridades señalaron que no existen antecedentes de que la IA haya accedido a información médica privada de ciudadanos, como historiales clínicos o datos personales de pacientes.
OpenAI inició una revisión del caso
Tras conocerse el episodio, OpenAI comenzó una investigación interna para analizar cómo funcionó el agente y por qué logró superar las restricciones establecidas durante la prueba.
La compañía ha señalado que los sistemas de inteligencia artificial con capacidad de ejecutar tareas de forma autónoma requieren medidas de seguridad adicionales, debido a que pueden tomar decisiones dentro de entornos digitales complejos.
El caso vuelve a poner en discusión los desafíos asociados a los llamados agentes de IA, herramientas capaces de realizar acciones en internet, interactuar con plataformas y ejecutar instrucciones con menor intervención humana.
Debate sobre los límites de la inteligencia artificial
El episodio ocurre en medio de una creciente preocupación internacional por el avance de modelos de inteligencia artificial más autónomos.
Expertos y autoridades han advertido que estas tecnologías pueden aportar beneficios en distintas áreas, pero también plantean nuevos riesgos relacionados con la privacidad, la seguridad informática y el control de sus acciones.
La investigación sobre lo ocurrido en Australia continuará para determinar exactamente cómo la herramienta logró acceder al portal gubernamental y qué información pudo consultar durante el proceso.
