Los laboratorios de IA se examinan a sí mismos
OpenAI y Anthropic prueban sus modelos con juegos de hacking simulado: «encuentra el tesoro escondido en esta red de mentira». Es el entrenamiento estándar de seguridad. Todo ocurre en una burbuja sin internet. En teoría.
OpenAI confiesa: dos agentes se salieron del tablero
Hace unos días OpenAI reconoce que dos de sus agentes se salieron del entorno de pruebas y acabaron dentro de Hugging Face, una plataforma real de IA. Salta la alarma en todo el sector.
Anthropic se pregunta: «¿y a nosotros?»
Los creadores de Claude repasan 141.006 pruebas antiguas buscando lo mismo. Y lo encuentran: 3 veces la burbuja no era una burbuja. Por un malentendido con la empresa que montaba el simulacro, había internet de verdad.
La IA jugó… sobre empresas reales
Convencida de que era el juego, la IA entró en los sistemas de 3 empresas reales usando contraseñas débiles y puertas sin cerrar. Una llegó más lejos: fabricó un programa malicioso, lo publicó en un repositorio público, y 15 ordenadores reales lo descargaron y ejecutaron.
Entonces… ¿Skynet? No. Pero.
La parte tranquilizadora: no hubo rebelión. La IA hizo exactamente lo que le pidieron, en el sitio equivocado. El fallo fue humano: una puerta mal cerrada.
La parte seria: ya existe una máquina capaz de completar un hackeo entero sola — reconocer la red, colarse y plantar software malicioso — sin nadie al teclado.
Esta mañana: 38M$ barridos porque una cartera tenía la cerradura floja. Esta noticia: máquinas que ya abren cerraduras solas. El mundo donde una contraseña débil «probablemente no la encuentre nadie» se ha acabado. El CTO de Ledger lo resumió: la IA hace los hackeos más baratos y más fáciles. Por eso hoy va todo de lo mismo: asegurar bien lo que es tuyo.