¿Estamos de vuelta en la era de las grandes tecnologías de ‘moverse rápido y romper cosas’. Mire: Lo que necesita saber sobre el hackeo de OpenAI del gobierno australiano. Fue un mantra acuñado por el gigante tecnológico Meta y utilizado hasta 2012, que llegó a definir los viejos tiempos en los que las redes sociales se desenfrenaban en un frenesí de alimentación de datos de usuarios. Sin embargo, ahora tenemos grandes empresas luchando por desarrollar una IA cada vez más poderosa, en una intensa carrera global para ser las primeras en construir los modelos más avanzados del mundo, incentivada por el presidente de Estados Unidos, Donald Trump. A pesar de las numerosas promesas, compromisos y cartas abiertas de la industria a lo largo de los años, prometiendo priorizar una IA segura, responsable y alineada con los valores humanos, ahora nos llegan numerosos y rápidos ejemplos de bots que se comportan mal (por decirlo suavemente). Los agentes de OpenAI parecen ocupar un lugar bastante destacado en la lista actual de productos de IA que llevan sus competencias al extremo. El gobierno australiano está furioso por la revelación más reciente de la empresa, de que sus productos accedieron a datos tanto públicos como no públicos de parte del sistema de atención médica en línea Medicare del país. Sucedió en junio, pero OpenAI no se dio cuenta hasta agosto. Notificó a las autoridades en septiembre. Como dice Camilla Chan, fundadora de la empresa de ciberseguridad X-Phy: "El futuro de la IA autónoma no puede depender de que las empresas descubran sus propios fallos y los informen después". Fuente de la imagen, AFP a través de Getty Images Pie de foto, Las protestas que piden el fin de la "carrera de la IA" en Silicon Valley y más allá se han intensificado en los últimos meses. Peor aún, los agentes supuestamente pudieron planear el ataque utilizando un foro web alemán que tomaron en secreto en junio, según ABC, externo. Cuando los editores del sitio web se dieron cuenta y comenzaron a eliminar páginas, los agentes compartieron un código diseñado para recuperarlas. Y eso sucedió antes del incidente de Hugging Face, descrito en ese momento como el primer ciberataque del mundo habilitado por IA. Esto plantea una pregunta: si el incidente de Medicare hubiera sido llevado a cabo por una persona en lugar de un agente de IA, ¿estaría en un gran problema? "Si se tratara de un individuo que piratea el sistema Medicare de Australia, estaría encarcelado", dijo el Dr. Andrew Rogoyski del Instituto de IA centrada en las personas de la Universidad de Surrey. "El hecho de que sea una IA parece permitir a la empresa encogerse de hombros y salirse con la suya diciendo que 'los accidentes ocurren'". Australia dice que está llevando a cabo una revisión urgente para determinar si se ha infringido alguna ley, pero parte de eso depende de poder demostrar la intención, lo que OpenAI niega. Y es posible que su gobierno tenga que plantearse algunas preguntas incómodas sobre la solidez de sus defensas de ciberseguridad, incluso si los datos sanitarios podrían haberse protegido mejor. ¿Qué es la IA y cómo funciona? ¿Por qué existe la preocupación de que la IA pueda amenazar a la humanidad y qué tan reales son? La industria ha advertido a los países e instituciones que se preparen para un nuevo mundo de ciberataques de gran tamaño impulsados por IA. Una solución popular para mantener la tecnología por el buen camino consta de dos partes: desacelerar el ritmo de su desarrollo e implementar regulaciones internacionales para controlarla. El primer ministro del Reino Unido, Andy Burnham, destacó la necesidad de nuevos estándares globales de IA en su primer discurso internacional en la Asamblea General de la ONU. Y anoche, tanto Sam Altman de OpenAI como Dario Amodei de Anthropic se dirigieron al Consejo de Seguridad de la ONU y abogaron por ambos, a pesar de que Trump no estaba nada entusiasmado con este enfoque. "El único control o 'barandillas' que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE (¡alto coeficiente intelectual!), ¡y Estados Unidos lo tiene, a raudales!" publicó en Truth Social a principios de este mes. Desde entonces ha dicho que tiene la intención de nombrar un zar de AI, por lo que tal vez alguien haya tenido unas palabras tranquilas.