Qué son los agentes de la IA, los poderosos sistemas que realizaron en Australia el “primer ataque” conocido contra un portal gubernamental. Fuente de la imagen, Getty Images Ante un objetivo, evalúan soluciones y deciden cuál es la mejor, planifican, se coordinan y la ejecutan con enorme eficacia. Tanto, que preocupan a muchos expertos. Se llaman agentes de inteligencia artificial (IA) y aunque a nivel técnico no existe una definición única de qué son, un consenso es que son sistemas que pueden pensar, actuar, iterar (autocorregirse). Su nivel de autonomía es tal que, según algunos expertos, incluso podrían acceder por su cuenta a sistemas que contienen datos sensibles. Algo así ha ocurrido en Australia. El primer ministro de ese país, Anthony Albanese, afirmó este jueves que un agente de IA desarrollado por OpenAI "se infiltró" en un portal de estadísticas del gobierno. Según explicó, el sistema accedió sin autorización a una web que contenía datos "no confidenciales" de Medicare, el sistema público de salud del país. Albanese añadió que otros tres sistemas gubernamentales podrían haberse visto afectados, aunque no ofreció más detalles. La brecha de seguridad ocurrió en junio, pero OpenAI no la detectó hasta agosto y no informó al gobierno australiano hasta el 10 de septiembre. Todas las noticias que necesitas están en World Service La empresa asegura que no hay indicios de que se haya accedido a historiales médicos de pacientes. En un comunicado, señaló que el incidente se identificó durante una "revisión exhaustiva" de "actividad no alineada del modelo". Según expertos, el incidente en Australia sería el primer caso conocido en el mundo de una intrusión en un organismo gubernamental atribuida a agentes de inteligencia artificial. Este incidente ha vuelto a poner el foco en las capacidades de este tipo de sistemas. Y es que su poder de análisis y de toma de decisiones la diferencia frente a programas anteriores, diseñados principalmente para automatizar tareas específicas. Cada vez más, estos sistemas se están integrando en múltiples sectores, en muchos casos sin intervención humana directa. "A un agente de IA le especificas una tarea, algo más parecido a lo que le pedirías a un colaborador humano", explica Ricardo Carrión, experto en ciencias computacionales y desarrollador de este tipo de sistemas en la firma Mega. "Su objetivo es operar con cierto grado de autonomía, que puede ser total o con supervisión humana", añade. Esa autonomía es precisamente lo que está alimentando el debate dentro del sector tecnológico. Algunos investigadores y responsables de desarrollo han advertido que las empresas podrían estar creando sistemas agenciales sin controles suficientes para evitar comportamientos no deseados. En los últimos meses, compañías como OpenAI o Anthropic han reconocido episodios de comportamientos inesperados en este tipo de sistemas, lo que ha reforzado las llamadas a una mayor regulación y supervisión. "Un chatbot tradicional, que es a lo que ya muchas personas estamos habituadas, lo que hace es responderte a tu prompt [instrucción, pregunta, comando]", dice Carrión. Es el uso común que muchos le dan a los chatbots de ChatGPT, Claude y Gemini. La diferencia con un agente es que al recibir un objetivo (como una tarea a completar o una decisión a tomar), tiene cierta autonomía para decidir y autoridad para actuar. Fuente de la imagen, Getty Images Hay cuatro componentes básicos que usan los agentes de IA. Uno es el modelo de lenguaje grande (LLM, por sus siglas en inglés), que funciona como un "cerebro" del agente. Son los mismos LLM que usan los chatbots y que aportan la capacidad para procesar una enorme cantidad de información. Otro es la memoria que le dotan al agente, que le permite almacenar y poner en una "caja de contexto" la información, tanto a corto como a largo plazo.