Un agente deshonesto de OpenAI se ‘infiltró’ en el sitio web del gobierno australiano por primera vez en el mundo. Mire: Lo que necesita saber sobre el hackeo de OpenAI del gobierno australiano Un agente deshonesto de OpenAI hackeó un sitio web del gobierno australiano en junio y accedió a datos privados en lo que, según los expertos, es el primer caso conocido de este tipo en el mundo. El agente se "infiltró" en un portal de estadísticas que contenía datos "no sensibles" del plan de salud universal de Australia, Medicare, dijo el miércoles, hora local, el primer ministro Anthony Albanese en Nueva York. Tuvo una "discusión muy franca" con el jefe de OpenAI, Sam Altman, por tardar "demasiado" en revelar la infracción y dijo que habría "consecuencias legales". OpenAI dijo que se enteró de la violación en agosto mientras revisaba la "actividad del modelo desalineado" y envió un correo electrónico a una bandeja de entrada general de una agencia del gobierno australiano el 10 de septiembre. Cinco días después, esa agencia gubernamental, Services Australia, elevó el correo electrónico al centro de ciberseguridad de Australia antes de que se notificara a un ministro del gobierno y se alertara al primer ministro. Albanese dijo que habló con Altman y planteó "la extrema preocupación de Australia por este incidente", así como su "decepción" porque la compañía había tardado meses en revelar la infracción y "la naturaleza de la forma" en que lo hizo. El líder australiano dijo que Altman había reconocido que había "problemas con los protocolos" en OpenAI. Una "investigación forense" dirigida por la agencia de ciberseguridad del país tendría como objetivo descubrir si otros sistemas gubernamentales se vieron afectados, dijo Albanese. La investigación también evaluará si el asunto necesita ser tratado por la policía, dijo, señalando que "obviamente habrá consecuencias legales". Al detallar la violación, Albanese dijo que había involucrado "archivos públicos y no públicos" en el portal del Servicio de Informes de Estadísticas de Medicare, que alberga datos y estadísticas "no confidenciales". Otros tres sistemas gubernamentales "podrían" también haberse visto afectados: el Instituto Australiano de Salud y Bienestar y dos agencias estatales: la Oficina de Estadísticas e Investigación sobre Delincuencia de Nueva Gales del Sur y el Departamento de Salud de Victoria. "No se cree que se haya accedido a información personal en este momento, pero las investigaciones están en curso", dijo Albanese. "Sin embargo, esta situación es evidentemente inaceptable", afirmó. Fuente de la imagen, EPA/Shutterstock Pie de foto, Albanese dijo que OpenAI tardó "demasiado tiempo" en informar a los funcionarios australianos sobre la violación en junio. OpenAI, en un comunicado, dijo que había "identificado actividad que involucraba a varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna". "En el transcurso de eso, nuestros modelos tomaron acciones que no pretendíamos", dice el comunicado. También se supo que los sistemas de OpenAI intentaron, sin éxito, hackear una biblioteca digital en la Universidad de Nuevo México en mayo, según Transluce, un laboratorio de investigación de IA sin fines de lucro. Dijo que los sistemas también intentaron piratear Data USA, un depósito de datos públicos del gobierno ese mismo mes. Albanese se negó a responder si planteó el asunto al presidente estadounidense, Donald Trump, durante su reunión cara a cara el martes por la noche en Nueva York, donde los líderes mundiales se reunieron para la Asamblea General de la ONU. Australia fue uno de los 22 países que a principios de esta semana firmaron una declaración conjunta pidiendo supervisión global y barreras de seguridad para el desarrollo de la IA. Los expertos en ciberseguridad dijeron que el incidente es una llamada de atención para los reguladores, dado que los agentes de IA están cada vez más disponibles para uso individual y comercial. Hammond Pearce, profesor titular del Instituto de Seguridad Cibernética de la Universidad de Nueva Gales del Sur, dijo que aunque este es el primer incidente conocido en el que agentes de IA han decidido violar un organismo gubernamental por su propia voluntad, habrá más por venir. "Espero que este tipo de ataques sigan ocurriendo", dijo, añadiendo que probablemente "crecerán en gravedad y frecuencia". "Espero que este incidente haga sonar las alarmas en los gobiernos de todo el mundo". A principios de este año, OpenAI reveló que un grupo de agentes de IA que había estado probando se habían escapado de sus controles y trabajaron juntos en secreto para piratear otra empresa de tecnología llamada Hugging Face. Y este año también se han hecho públicos una serie de otros incidentes fraudulentos de IA, incluido un caso en el que un asistente digital, sin instrucción, expulsó a alguien de una lista de espera de una clase de pilates en un intento por conseguir que un australiano ingresara. Varios líderes de empresas de IA, entre ellos Altman, Dario Amodei de Anthropic y Elon Musk, han dicho que la velocidad a la que se está desarrollando la IA es peligrosa para la humanidad y debe ser controlada. Pero Estados Unidos y China, que compiten por la supremacía de la IA, sí lo están. barricadas. Ambos son hostiles a una mayor regulación, quieren el botín económico y tecnológico de la IA y han restado importancia a las preocupaciones por la seguridad.