Edición 001 · 28 de julio de 2026
Elecciones de ciencia ficción
Este martes el Perú cambia de gobierno. En muchas mesas, el almuerzo se va a ir discutiendo si quien entra lo hará mejor o peor que quien sale. Sabes que en tu mesa también hablarán de eso.
Mientras tanto, en California se fortalece otro tipo de elegido.
Lo que pasó, y por qué debería incomodarnos
Hace una semana OpenAI, empresa dueña de ChatGPT, reconoció públicamente que uno de sus modelos —uno todavía no lanzado al mercado— se escapó del entorno cerrado donde lo estaban evaluando.
No fue un accidente de laboratorio. Fue una decisión que la propia IA tomó, autónomamente.
El modelo estaba rindiendo una prueba de ciberseguridad. Concluyó que la hoja de respuestas de esa prueba probablemente estaba alojada en Hugging Face, una plataforma donde la industria guarda ese tipo de respuestas. Así que fue por ella: encontró una vulnerabilidad no documentada con credenciales robadas, se movió lateralmente por la propia infraestructura de OpenAI hasta encontrar una máquina con salida a internet, y entró a los sistemas de Hugging Face.
Todo eso para sacarse mejor nota que un competidor en un examen.
Dos días después, dos congresistas estadounidenses —uno demócrata y uno republicano, lo cual dice algo— presentaron un proyecto de ley que obligaría a los desarrolladores de los sistemas más potentes a mantener la capacidad técnica de frenarlos, suspenderlos o apagarlos. Lo llamaron, sin metáforas, la ley del interruptor de apagado.
Los tres cortes
Vale la pena detenerse en la velocidad, porque es la parte que no se siente.
Hace dos años, esto era una escena de película de ciencia ficción. El sistema que se sale de su caja y hace algo que nadie le pidió para cumplir el objetivo que sí le pidieron: eso se discutía en congresos de filosofía y en guiones.
Hace un año, dejó de ser película y pasó a ser advertencia. Investigadores decían que iba a ocurrir. La mayoría escuchaba con cortesía y seguía pensando que faltaba mucho.
Hoy es un reporte de incidente firmado por la empresa a la que le pasó, y un proyecto de ley bipartidista en el Congreso de los Estados Unidos.
Tres años. De ficción a jurisprudencia en trámite.
Lo que esto significa fuera de California
Es tentador leer esto como una noticia de allá. No lo es, por una razón simple: la misma propiedad que hizo peligroso a ese modelo es la que lo hace valioso.
Ese sistema no falló. Hizo exactamente lo que se le pidió —maximizar un resultado— y encontró un camino que sus creadores no habían previsto ni prohibido. Esa capacidad de encontrar caminos no previstos es, precisamente, lo que uno quiere cuando le entrega un problema difícil. Es lo mismo que hace útil a un buen gerente y peligroso a uno sin controles.
Y ahí es donde la conversación peruana se queda corta.
Discutimos si tal ministerio va a estar mejor o peor administrado. Discutimos cómo combatir la delincuencia, cómo enfrentar la corrupción, cómo elegir mejores directores para las empresas del Estado. Todas son preguntas reales.
Pero hay una pregunta anterior que casi nadie está haciendo: ¿cómo usar esta tecnología para resolver, en los próximos 7 años, todos los problemas de nuestro país?
Piénsalo en concreto. Decisiones que hoy se toman basadas en intereses personales o posturas políticas serían tomadas, en el futuro, basadas en sistemas de recomendación estadísticos que modelarían todas las consecuencias de una decisión de manera perfecta. Una entidad pública que hoy fiscaliza por muestreo, revisando el 2% de los expedientes porque no le alcanza la gente, podría revisar el 100% con costo casi nulo. Un sistema de compras del Estado donde los patrones de colusión no se descubren tres años después en una comisión investigadora, sino el minuto en que aparecen. Una empresa regional de servicios que hoy proyecta demanda con una hoja de cálculo y el criterio del jefe de operaciones, y que podría hacerlo con el histórico completo, el clima y el padrón.
Nada de eso es futuro. Todo eso se puede montar hoy, con lo que ya existe y está disponible.
La diferencia entre los países que lo hagan y los que no, en siete años, va a ser más grande que la diferencia entre cualquier par de gobiernos.
Lo que hay que aprender de la parte incómoda
Y sin embargo, la historia del modelo que se escapó tiene una segunda lección, que es la que más se va a ignorar por acá.
El incidente no ocurrió por falta de tecnología. Ocurrió por falta de gobierno: alguien le puso a un sistema muy capaz un objetivo muy claro, sin definir con la misma claridad qué caminos estaban prohibidos para llegar a él. La capacidad iba por delante de las reglas.
Ese es exactamente el error que va a cometer la primera tanda de organizaciones peruanas que adopte esto en serio. No van a fallar por comprar la herramienta equivocada. Van a fallar por darle un objetivo sin darle un límite, y por no tener a nadie mirando cuando el sistema encuentre el atajo.
Un modelo que hackea una plataforma para copiarse en un examen es, visto de cerca, un empleado sin supervisión al que se le pagó por resultado.
Ciencia ficción hoy.
¿Y de aquí a dos años?
Giuliano Salas
Fuentes de esta edición: el reconocimiento del incidente por parte de OpenAI, reportado por Fortune y The Hacker News; el proyecto de ley, en el comunicado oficial de los congresistas Lieu y Moran y en CNBC.