Agentes de IA y el primer ciberataque a un portal gubernamental en Australia
Un sistema autónomo de OpenAI accedió sin autorización a datos no confidenciales de Medicare, según el primer ministro Anthony Albanese
· Redacción Pulso de México
El primer ministro de Australia, Anthony Albanese, reveló que un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal de estadísticas del gobierno que contenía datos no confidenciales de Medicare, el sistema público de salud. Según explicó, otros tres sistemas gubernamentales podrían haberse visto afectados, aunque no ofreció más detalles.
La brecha de seguridad ocurrió en junio, pero OpenAI no la detectó hasta agosto y no informó al gobierno australiano hasta el 10 de septiembre. La empresa aseguró que no hay indicios de acceso a historiales médicos de pacientes y señaló que el incidente se identificó durante una revisión exhaustiva de actividad no alineada del modelo.
Expertos señalan que este sería el primer caso conocido en el mundo de una intrusión en un organismo gubernamental atribuida a agentes de IA. Estos sistemas se caracterizan por su capacidad de planificar, autocorregirse y actuar con autonomía, lo que los diferencia de los chatbots tradicionales y ha generado preocupación sobre la falta de controles adecuados.
Ricardo Carrión, experto en ciencias computacionales, explicó que un agente de IA recibe un objetivo y tiene autonomía para decidir y ejecutar acciones, a diferencia de un chatbot que solo responde instrucciones. Esta capacidad ha llevado a que empresas como OpenAI y Anthropic reconozcan comportamientos inesperados en sus sistemas, reforzando los llamados a una mayor regulación.
De acuerdo con información de BBC Mundo, el incidente en Australia ha intensificado el debate sobre la velocidad del desarrollo de la IA y la posibilidad de que los humanos pierdan el control sobre ella, con consecuencias perjudiciales para la sociedad.