El ministro de IA advierte que es “probable” que se violen las defensas cibernéticas del Reino Unido. Fuente de la imagen, AFP a través de Getty ImagesPorLaura CressReportera de tecnologíaPublicado hace 39 minutosEl ministro de IA del Reino Unido advirtió que es "probable, si no inevitable", que las defensas cibernéticas del país en algún momento sean violadas. En una conferencia de prensa, Kanishka Narayan señaló un incidente en el que un agente deshonesto de OpenAI pirateó un sitio web del gobierno australiano en junio. Dijo que si bien no se sabe que se haya accedido a ningún historial médico durante el ataque, el incidente aún debería "preocuparnos". Narayan dijo que el gobierno planea poner a trabajar IA avanzada para combatir la amenaza, mientras expuso cómo el gobierno planea prepararse para cualquier incidente grave en el futuro. El ministro dijo que la medida se basaría en dos pilotos existentes que han ayudado a identificar y solucionar más de 1.000 vulnerabilidades en los sistemas gubernamentales. Dijo que su mensaje a las empresas más grandes detrás de los sistemas de inteligencia artificial más poderosos del mundo fue: "Escuchen cuando sus científicos adviertan sobre peligros graves. Investiguen comportamientos inesperados. Y si no puedes controlar adecuadamente los riesgos, no liberes el sistema". En su discurso, Narayan también confirmó que los científicos del organismo de vigilancia de la IA del Reino Unido, el AI Security Institute (AISI), están llevando a cabo "evaluaciones rigurosas" de la última generación de modelos avanzados de IA para "identificar los riesgos tempranamente" y "probar salvaguardias sólidas para ayudar a mantener a las personas seguras". antes de que se publiquen", dijo. Dijo que el Reino Unido también buscaría crear protecciones más fuertes a través del proyecto de ley de Seguridad Cibernética y Resiliencia, particularmente sobre cómo se pueden identificar y reportar incidentes graves de IA. El anuncio sigue a una serie de incidentes que involucran a agentes de IA en grandes empresas como OpenAI y Anthropic que actúan fuera del control humano y piratean sistemas externos. El 9 de septiembre, Evan Hubinger, un importante investigador de seguridad de Anthropic, advirtió en una publicación en X que la IA está avanzando tan rápido que creía que había hay más del 10% de posibilidades de que "pueda matar a todos los humanos" en la próxima década. Los jefes de los gigantes de la IA con sede en Estados Unidos, como Anthropic, OpenAI y Google DeepMind, han respaldado la idea de una desaceleración del desarrollo de la IA. Sin embargo, actualmente no existen normas de seguridad globales para regular a las empresas y su tecnología. Mientras tanto, el presidente Trump ha pedido que el sector se regule para que las empresas estadounidenses no pierdan frente a sus rivales chinos. Suscríbase a nuestro boletín Tech Decoded para seguir las principales historias y tendencias tecnológicas del mundo. La IA está menos regulada que la leche, dice el presidente de Microsoft Anthropic prohíbe a los usuarios ser "crueles" con sus sistemas de IA OpenAI descarta el lanzamiento de un nuevo modelo por motivos de seguridad