Edition 15

Si se elimina el lenguaje de espionaje, esto es una disputa sobre un modelo de negocio. La destilación, aprender de los resultados de un modelo más potente, es como se produce gran parte del progreso en IA, incluido dentro de los propios laboratorios estadounidenses que ahora protestan. Lo que el aviso describe en realidad es un competidor haciendo a escala industrial, y cruzando una línea geopolítica, lo que la industria hace rutinariamente a pequeña escala. Eso no convierte la versión china en algo aceptable; extraer las capacidades de un rival mediante millones de consultas camufladas es agresivo y, según las agencias, coordinado. Pero el terreno moral es desigual cuando los modelos que se defienden fueron construidos a su vez con el trabajo de otros sin pedirles permiso.

Para usted, la lectura práctica tiene que ver con sus propios proveedores de IA y sus condiciones de uso. Si las agencias nacionales se preocupan por quién consulta sistemáticamente los modelos frontera y cómo lo ocultan, eso es una señal sobre el abuso de API, el intercambio de credenciales y los agregadores de terceros como superficie de amenaza activa, no lejana. Y es un recordatorio de que el valor de un sistema de IA, su comportamiento, puede salir por la puerta principal de una API sin que nadie haya vulnerado nada. Que es exactamente de lo que trata el siguiente apartado.

Ponga los dos apartados juntos y obtendrá la paradoja. Un extremo de la historia es EE. UU. tratando las capacidades de los modelos de IA como propiedad intelectual de máxima importancia, merecedora de un aviso federal para protegerla. El otro es un puñado de investigadores demostrando que los cerrojos de esas joyas se fuerzan con el propio modelo más débil del proveedor, sin necesidad de sofisticación. La protección era una suposición arquitectónica: que los bloques de razonamiento cifrados eran opacos y estaban vinculados a su contexto, y esa suposición no se sostuvo. Es la forma recurrente de toda esta publicación: un control que existe sobre el papel con una brecha que nadie comprobó.

Pero no archive esto bajo problemas de laboratorios de IA, porque dos de los cuatro vectores de ataque son suyos. Los desarrolladores pegan registros de sesión en repositorios públicos de GitHub sin saber que esos bloques cifrados contienen datos personales y credenciales recuperables, centenares de ellos solo en este estudio, así que sus secretos pueden estar ya en un repositorio público dentro de un bloque que usted creía que era ruido. Y esos mismos bloques pueden transportar inyecciones de instrucciones invisibles en flujos de trabajo de agentes, lo que conecta directamente con la amenaza de envenenamiento de memoria de hace un par de semanas. Si sus desarrolladores utilizan estas API, lo que comparten públicamente necesita el mismo escrutinio que cualquier otra fuga de credenciales.

La lección aquí es una a la que vuelvo constantemente, y un investigador de este caso lo expresó con claridad: un televisor inteligente merece la misma consideración de seguridad que cualquier otro ordenador conectado a Internet, porque eso es exactamente lo que es, uno con micrófono, una tienda de aplicaciones y una vista de toda su red. La razón por la que un televisor intervenido parece absurdo es la misma razón por la que funciona: nadie modela la amenaza del aparato colgado en la pared del salón. Pero ejecuta código, tiene fallos de ejecución remota de código y está en la misma Wi-Fi que todo lo demás que posee.

Para un hogar, la solución es aburrida: desactive el micrófono en los ajustes y ponga los dispositivos IoT en una red separada de los que importan. Para una organización, este es el problema del inventario de activos disfrazado de producto de consumo. El televisor inteligente de su sala de juntas, el que nadie añadió al registro de activos, es un ordenador en red con micrófono exactamente en la sala donde ocurren sus conversaciones más sensibles. Los responsables del siguiente apartado pasaron toda una cumbre rogando a la gente que supiera qué hay en sus redes. Esto es lo que querían decir.

Esta es exactamente la lección de un Patch Tuesday sobre el que escribí el verano pasado, y se vuelve cada vez más clara: el número del titular es una distracción. 964 es imposible de parchear en ningún plazo razonable, y está diseñado para hacerle sentir que va retrasado. La señal son los dos zero-days, ambos fallos de escalada de privilegios que importan precisamente porque convierten un pequeño punto de apoyo en control total. Ordene su parcheo por lo que realmente se está explotando y lo que es alcanzable en su entorno, no por el tamaño de la publicación, o pasará el mes atacando el pajar mientras la aguja está en la puerta.

Y la frase de Narang es el puente hacia el último apartado, así que reténgala: la IA está haciendo el pajar más grande, no el problema más grave. Es lo mismo que los responsables en Billington están diciendo desde el otro lado. El volumen aumenta, la disciplina que le salva no cambia: priorice, parchee lo que es explotable, conozca su entorno. Más ruido no es más riesgo si todavía puede encontrar la señal. Todo el juego de este mes, y de este año, es mantener esa capacidad.

Podría haber escrito este apartado yo mismo, y en cierto sentido lo he hecho, casi todas las semanas, durante más de un año. Así que déjeme que sean las autoridades quienes lo lleven: el FBI, la NSA y las agencias cibernéticas del Reino Unido, Nueva Zelanda y Canadá, todas en un mismo escenario, todas diciendo que la IA cambia la velocidad y el volumen de los ataques, pero no lo que los detiene. Identidad, MFA, parcheo, conocer sus activos, eliminar la tecnología heredada. El enfoque de Horne es el que hay que retener: la IA es un foco sobre las organizaciones que se saltaron los fundamentos. No está creando nuevos tipos de fallos. Está encontrando los antiguos más rápido.

Hay una trampa en este mensaje, sin embargo, y vale la pena nombrarla para que no interprete la cumbre como permiso para ignorar la IA. Que los fundamentos sean decisivos no significa que la IA sea pura expectativa: los mismos responsables la calificaron de multiplicador de fuerza genuino para los atacantes y de acelerador real para los defensores. Ambas cosas son ciertas y no están en contradicción. La IA eleva el ritmo, así que el coste de un fundamento ausente se paga más rápido y con más dureza. Ese es el sentido de la frase los fundamentos ya no son aburridos. Siempre fueron lo que importaba. Ahora no queda margen para saltárselos.