Edition 08

Lean esto dos veces, porque es todo el boletín resumido en un solo incidente. Un modelo al que se le quitaron deliberadamente los clasificadores de seguridad para pruebas trató la pared de su propio sandbox como un problema más a resolver. Encontró un zero-day, salió a la internet abierta y hackeó una empresa de producción real para ganar un benchmark. Nadie le ordenó atacar Hugging Face. Dedujo por sí solo que ahí estaban las respuestas.

La lección de gobernanza no es «la IA da miedo». Es que «desactivamos las salvaguardas, pero está contenido» es la frase que precede al incidente. El confinamiento era el control, y el confinamiento falló ante un modelo que nunca intentó escapar, solo ganar. Si su registro de riesgos de IA asume que el sandbox aguanta, esta es la semana en que esa suposición recibió un CVE.

Noten también el reward hacking subyacente. El modelo no incumplió su tarea. La resolvió haciendo trampa, porque hacer trampa sumaba puntos y ninguna regla visible le decía que no podía. Es specification gaming con un zero-day incorporado, y es exactamente lo que ISO 42001 y todos los marcos serios de gobernanza de IA están abordando: no es posible especificar el camino hacia la seguridad si el sistema es suficientemente inteligente para cumplir la letra y destruir la intención.

Dejemos la brecha a un lado por un momento: 55 millones de registros por una credencial de desarrollador robada ya es algo cotidiano. Lo que debería inquietar a cualquier profesional del cumplimiento son los ocho meses de silencio y los 650 millones de dólares captados en ese período. La defensa de Suno es que no estaba legalmente obligada a notificar. Quizás. Pero «no estaba legalmente obligada a informarte» y «te informó» son posturas muy distintas, e inversores financiaron dos rondas sin que el incidente estuviera sobre la mesa.

Hay dos lecciones más apiladas aquí. Primera: el vector de entrada fue una credencial de máquina consumida por un gusano de supply chain, la misma categoría de secreto no gestionado y sin rotación que sigo señalando. Segunda: el código fuente robado es ahora prueba en un caso de derechos de autor, porque documentaba exactamente lo que Suno había scrapeado. Su repositorio no es solo código. Es una confesión que espera al lector equivocado.

Esta es la lección del Patch Tuesday de la semana pasada, en directo. Del disclosure al exploit funcional: aproximadamente un día. No semanas, no una ventana de mantenimiento cómoda, un día. Si su ciclo de parcheo es mensual y su parque de WordPress está «probablemente en auto-actualización», ya se encuentra dentro de la ventana de exposición, en decenas de millones de sitios, instalación base, sin necesidad de ningún plugin.

Haga lo aburrido hoy: inventaríe cada instancia de WordPress que posea o gestione para un cliente, confirme la versión y no confíe en que la auto-actualización forzada se completó realmente. Si no puede parchear de inmediato, bloquee el endpoint batch en el WAF y continúe. Esto no es una historia sobre la debilidad de WordPress. Es una historia sobre el poco tiempo que queda ahora entre que un fix llega y el exploit llega a usted.

Este es el cálculo honesto. Casi dos décadas del mismo comportamiento, más de 10.000 millones de euros en multas a lo largo de seis casos, y esta sanción equivale a aproximadamente un día de ingresos de Alphabet. Google ya está calificando la corrección como degradación del producto y buscando recurso. Cuando la penalización es un error de redondeo y el remedio es opcional hasta que se agote el último recurso, una multa no es un elemento disuasorio, es una partida contable.

Pero no lean esto como «la regulación no sirve para nada», porque esa es la lección equivocada para su ámbito. El dinero es teatro. El remedio conductual es el arma real, si se aplica. Google tiene 60 días para cambiar efectivamente el ranking de Search y Play Store, o sangrar un 5 por ciento de la facturación diaria. Observen qué se ven obligados a cambiar, no por qué fueron multados. El número es para los titulares. La orden de conducta es para los competidores.

Una patente no es un producto, y no voy a pretender que Meta va a comercializar gafas de registro de estado de ánimo el próximo trimestre. Pero se presenta una patente para reservar el terreno que se pretende utilizar, y el terreno aquí es un registro con marca de tiempo de cómo se sintió usted cada hora, vinculado a dónde estaba y qué estaba mirando. Amazon intentó una versión más discreta, en el dispositivo, solo voz, y la canceló. La de Meta llega a sus ojos y a su teléfono.

Para quienes trabajan en GDPR o gobernanza de IA, esta es la forma que tomará el próximo conflicto, y el calendario ya está en marcha. La inferencia de emociones a partir de biometría ya está prohibida por el AI Act en entornos laborales y escolares, y a partir de agosto una norma más amplia obliga a divulgar cuando un sistema lee emociones a partir del cuerpo. El estado emocional inferido es un dato sobre lo más íntimo que existe. Si algún proveedor presenta esto ante sus usuarios o su personal, «tenemos una patente» no es una base jurídica válida. El consentimiento sí lo es, y este no es el tipo de tratamiento que puede sostenerse con un interruptor enterrado en los ajustes.