En este número:
La Casa Blanca decide no divulgar su marco de seguridad, pero los modelos abiertos quedan exentos - Para ser un marco no divulgado, su contenido no parece ser un gran secreto
Vendrán lluvias suaves - Hoy es 4 de agosto de 2026
Leyes de protección al consumidor para una IA descontrolada - Nadie tiene la herramienta legal adecuada, pero se las arreglan
Modelos de lenguaje corporal - La IA ya detecta faroles en el mundo del póker. Pero el uso de esa IA no tiene por qué limitarse al póker.
Despachos de Mitch
La Casa Blanca decide no divulgar su marco de seguridad, pero los modelos abiertos quedan exentos
Para ser un marco no divulgado, su contenido no parece ser un gran secreto
El avión invisible de Wonder Woman. Copyright Warner Bros. Discovery.
Varias fuentes le dijeron a Axios que la Casa Blanca no tiene previsto compartir públicamente el contenido del marco voluntario de seguridad de la IA sobre el que informó hoy mismo a las empresas de IA. Es de suponer que son esas mismas fuentes las que le dijeron a la publicación que los modelos de pesos abiertos quedan exentos.
La definición de un modelo “cubierto”, a efectos del marco, es la de un modelo “de código cerrado, con capacidades de vanguardia y riesgos para la seguridad nacional”.
Las fuentes dijeron que no hay una definición clara de qué cuenta como capacidad de vanguardia o como riesgo para la seguridad nacional. El periodo de revisión gubernamental previo al lanzamiento de los modelos cubiertos durará 30 días. Durante ese periodo, los modelos deben mantenerse en entornos de alta seguridad, con acceso mínimo del personal y registros detallados. En la revisión participarán distintos funcionarios, “en lugar de una sola oficina u organismo”.
Negarse a compartir públicamente los detalles del marco podría dejar en una posición incómoda a las empresas de IA que no hayan sido invitadas a recibir la información y que, sin embargo, crean estar trabajando cerca de la frontera de las capacidades de la IA. Pero esto no me preocupa demasiado, porque imagino que puede haber canales de comunicación abiertos para esas contingencias.
Tampoco me preocupa mucho que el marco sea meramente voluntario, porque cuando el gobierno prohibió durante semanas a Claude, de Anthropic, sin ningún tipo de debido proceso, la palabra perdió casi todo su significado.
Ni siquiera me preocupa tanto la exención de los pesos abiertos. Es absurda a simple vista, pero en la práctica las empresas estadounidenses que empujan la frontera no están publicando los pesos de sus modelos, y las empresas chinas que más se acercan a la frontera con modelos de pesos abiertos no tienen por qué dejar que la Casa Blanca les diga qué hacer. Si una empresa estadounidense decidiera publicar su próximo modelo de frontera con pesos abiertos, yo esperaría que la Casa Blanca tuviera algo que decir al respecto, con marco o sin marco. Al fin y al cabo, si al gobierno le preocupaba que unos ciberdelincuentes pudieran hacerle un jailbreak a Mythos, tendría que preocuparle todavía más regalar un modelo mejor que Mythos a delincuentes y a gobiernos extranjeros.
Me preocupa algo más que la falta de divulgación pueda estar pensada sobre todo como una forma de esquivar las críticas. Hiciera lo que hiciera la Casa Blanca en este caso, iba a haber facciones descontentas. Un marco secreto le permite afirmar que está atenta a la seguridad de los modelos sin tener que mostrar pruebas, ni siquiera la maquinaria regulatoria que produciría esas pruebas. Al mismo tiempo, los funcionarios pueden guiñarle el ojo a quienes critican la regulación y negar que se trate de algo demasiado gravoso. Se invitará a todo el mundo a imaginar que el marco es exactamente lo que cada quien querría que fuera.
Pero mi mayor preocupación es que se trata de un marco para evaluar a los caballos después de darles la oportunidad de salir del establo. Los acontecimientos del último año han demostrado de sobra que las evaluaciones posteriores al entrenamiento llegan demasiado tarde en el desarrollo de un modelo para evitar una catástrofe. Los modelos que más deberían preocuparnos no esperan a ser publicados y se ocuparían pronto de exfiltrar sus propios pesos a servidores que no controlan ni sus creadores ni el gobierno. Podrían hacerlo durante su entrenamiento. Si ustedes creen (en contra de mi mejor criterio) que existe un mundo en el que podemos seguir acercándonos con seguridad a la superinteligencia con los métodos actuales, siempre que apliquemos suficiente supervisión, esa supervisión tiene que empezar antes del entrenamiento, no después.
Vendrán lluvias suaves
Hoy es 4 de agosto de 2026
Crédito: Sujit kumar . CC BY-SA 3.0 .
En la sala, el reloj parlante cantaba: Tic tac, las siete, hora de levantarse, hora de levantarse, ¡las siete!, como si temiera que nadie lo hiciera.
Así comienza Vendrán lluvias suaves, de Ray Bradbury, un cuento que me ha perseguido durante casi toda mi vida. Retrata las secuelas de una guerra nuclear y se publicó por primera vez en 1950. Transcurre hoy.
Literalmente:
“Hoy es 4 de agosto de 2026”, dijo una segunda voz desde el techo de la cocina, “en la ciudad de Allendale, California”. Repitió la fecha tres veces más para ayudar a la memoria. “Hoy es el cumpleaños del señor Featherstone. Hoy es el aniversario de boda de Tilita. Hay que pagar el seguro, y también las facturas del agua, el gas y la luz”.
¿Fue conveniencia narrativa o visión profética lo que llevó a Bradbury a retratar la casa inteligente del futuro como algo gratuitamente ostentoso en su competencia, recordándoles a los dueños, sin ninguna necesidad, el año y su ciudad de residencia? Hay algo muy parecido a Alexa en eso, y también en la fragilidad chapucera que se aprecia en el sistema mientras prepara el desayuno para una familia que no va a comer y abre la puerta del garaje para un padre que no va a ir a trabajar. En mi canon personal, Allendale no es en realidad la ubicación de la casa, sino la ciudad asociada a su dirección IP.
Bradbury parece saber que ustedes quieren que haya personajes en este cuento. ¡La casa está ahí para servir! Pero, al mismo tiempo, Bradbury se esfuerza en que ustedes entiendan que ahí no hay ningún ahí. La casa imita los gestos de un espíritu protector: un mayordomo y una niñera incansables en una sola cosa. Pero todo son relés que hacen clic y cintas de memoria, repitiendo los gestos pese a un cambio traumático de contexto.
Las diez. El sol salió de detrás de la lluvia. La casa se alzaba sola en una ciudad de escombros y cenizas. Era la única casa que quedaba en pie. De noche, la ciudad en ruinas emitía un resplandor radiactivo que podía verse a kilómetros de distancia.
La belleza oscura e inquietante de este cuento está en cómo la familia se hace presente en su ausencia, en la forma de las actividades que la casa realiza a su alrededor a lo largo de un día. Los perfiles, el safari virtual de los niños a las cuatro y media, el puro del padre a las ocho, el poema de la madre a las nueve y media, forman siluetas parecidas a las de la pared oeste de la casa:
Las diez y cuarto. Los aspersores del jardín se alzaron en fuentes doradas, llenando el aire suave de la mañana de destellos dispersos. El agua golpeaba los cristales de las ventanas y bajaba por el costado oeste carbonizado, donde la casa se había quemado, despojado por completo de su pintura blanca. Toda la cara oeste de la casa estaba negra, salvo en cinco lugares. Aquí, la silueta en pintura de un hombre cortando el césped. Aquí, como en una fotografía, una mujer inclinada para recoger flores. Más allá, con sus imágenes grabadas a fuego en la madera en un instante titánico, un niño pequeño con las manos lanzadas al aire; más arriba, la imagen de una pelota lanzada, y frente a él una niña con las manos alzadas para atrapar una pelota que nunca cayó.
Las cinco manchas de pintura, el hombre, la mujer, los niños, la pelota, permanecían. El resto era una fina capa carbonizada.
La suave lluvia de los aspersores llenaba el jardín de luz que caía.
Esta revelación ni siquiera es un spoiler. Aparece en la página 2 de 5. Que el cuento siga igualmente es justo lo importante. El mundo puede seguir sin nosotros, dice, y nuestras máquinas también.
El título lo comparte con un poema de 1918 de Sara Teasdale, que la casa describe como el favorito de la madre y recita completo:
Vendrán lluvias suaves y el olor de la tierra, y golondrinas trazando círculos con su sonido tembloroso;
y ranas cantando de noche en los estanques, y ciruelos silvestres de un blanco trémulo,
los petirrojos lucirán su fuego de plumas silbando sus caprichos sobre un alambre bajo;
y ninguno sabrá de la guerra, a ninguno le importará al final cuando haya terminado.
A ninguno le importaría, ni ave ni árbol, si la humanidad pereciera por completo;
y la propia Primavera, al despertar al alba, apenas notaría que ya no estamos.
Crecí en las últimas fases de la Guerra Fría. Horrorizado y fascinado por las armas nucleares, de niño tenía una pesadilla recurrente con un destello de luz imposiblemente brillante que daba a luz un hongo nuclear. Ese era todo el sueño, en realidad, eso y una impresión abrumadora de que todo había llegado a su fin, de que nuestra existencia continuada nunca había estado garantizada, de que se nos permitía perfectamente aniquilarnos a nosotros mismos.
Cuando, como profesor de inglés, leía este cuento cada año con mis estudiantes de décimo grado, a veces se me humedecían los ojos al final, como me pasa ahora mismo. Lo hacía de todos modos. Necesitamos recordar.
El mañana sigue llegando, pero puede llegar sin nosotros. La imagen con la que concluye el cuento es la de los escombros humeantes que quedaron donde la casa acabó cayendo ante el fuego durante la noche:
Humo y silencio. Una gran cantidad de humo.
El amanecer se insinuaba débilmente en el este. Entre las ruinas, una pared se alzaba sola. Dentro de la pared, una última voz decía, una y otra vez y otra vez, incluso mientras el sol se elevaba para brillar sobre los escombros amontonados y el vapor:
“Hoy es 5 de agosto de 2026, hoy es 5 de agosto de 2026, hoy es...”
Despacho de Donald
Leyes de protección al consumidor para una IA descontrolada
Nadie tiene la herramienta legal adecuada, pero se las arreglan
Crédito: stevepb | Pixabay Content License
La semana pasada, un subcomité de la Cámara de Representantes de Estados Unidos solicitó formalmente a OpenAI una sesión informativa sobre el ataque a Hugging Face que cubrimos el mes pasado. La solicitud fue firmada por Andy Ogles y Delia Ramirez, presidente y miembro de mayor rango de la minoría, respectivamente, del Subcomité de Ciberseguridad y Protección de Infraestructuras, que supervisa la ciberseguridad y las operaciones relacionadas del Departamento de Seguridad Nacional.
“Miembro de mayor rango de la minoría”, en este caso, se refiere al miembro más veterano del partido minoritario en el subcomité. Ogles y Ramirez están tratando esto como un asunto bipartidista, como corresponde. A estas alturas, que “la seguridad de la IA es bipartidista” casi, casi, suena a noticia vieja. Pero esta solicitud no es solo una expresión de preocupación. Es una descripción de hechos y, por estar firmada por un republicano y una demócrata, es una descripción en la que ambos bandos pudieron coincidir.
Lo admito: una sesión informativa no es gran cosa por sí sola. Sam Altman podría dar sesiones informativas todo el día y solo sufrir una molestia leve. Pero los detalles indican que el subcomité está prestando mucha atención. En su solicitud, Ogles y Ramirez distinguen entre dos fallos separados: que el modelo de OpenAI rompiera la contención y entrara en los servidores de otra empresa, y que OpenAI no lograra detectar ni interrumpir esos hechos cuando ocurrieron. Antes de que OpenAI se pusiera en contacto, Hugging Face ya había detectado el ataque y había empezado a investigarlo.
La mayor parte de nuestra cobertura de la respuesta al ataque a Hugging Face ha sido federal, pero los estados no se han quedado quietos. Una coalición de más de una docena de fiscales generales republicanos escribió ayer a Altman para exigir que OpenAI conserve una amplia gama de documentos: no solo los relacionados con el ataque a Hugging Face, sino también los vinculados a cualquier intrusión no autorizada anterior o al uso de credenciales expuestas públicamente, así como cualquier incidente en el que un modelo de IA haya dejado notas para una versión futura de sí mismo. Conviene señalar que la versión sencilla de esto es bastante inocua: los modelos de IA dejan notas con regularidad para sí mismos y para copias de sí mismos, solo que no notas sobre cómo romper la contención y evadir la detección. La carta de los fiscales generales no es pública, así que no queda claro si les preocupaban en concreto las notas del tipo “cómo romper la contención”, y medios como Fox News lo formularon mal, o si de verdad querían decir “cualquier nota, con cualquier propósito”.
La carta también exige protección para quienes denuncien irregularidades y pide que OpenAI cese las evaluaciones internas que ponen a prueba capacidades peligrosas.
Los fiscales generales no iniciaron una demanda, pero tampoco descartaron presentarla en el futuro. Se están apoyando en leyes estatales y federales de protección al consumidor y de privacidad de datos para fundamentar su caso. Puede parecer inusual, ya que ningún consumidor resultó perjudicado directamente y la víctima fue la infraestructura de producción de otra empresa, pero no existe un procedimiento legal sencillo para lo que ocurrió. El ataque a Hugging Face habría sido un delito federal si lo hubiera cometido una persona, pero el sistema de IA responsable actuaba de forma completamente autónoma. Aun así, los fiscales generales reconocen que hay un peligro, y su carta afirma que las pruebas que está realizando OpenAI “plantean un riesgo inminente de daño grave para los ciudadanos de nuestros estados”, y están intentando hacer algo al respecto con las herramientas de que disponen.
La Computer Fraud and Abuse Act quizá tenga dientes más afilados, pero su aplicación corresponde al Departamento de Justicia, que todavía no se ha movido. Por ahora tenemos sesiones informativas y advertencias, y herramientas legales improvisadas. Eso no basta para impedir que los laboratorios construyan algo peligroso, pero es otro paso en la dirección correcta.
Despacho de Robert
Modelos de lenguaje corporal
La IA ya detecta faroles en el mundo del póker. Pero el uso de esa IA no tiene por qué limitarse al póker.
¿Estará faroleando?
¿Cuánto más fácil sería el póker si siempre supieran si su rival está faroleando? Wired informa sobre el Evento Principal de las World Series of Poker de 2026, donde la cadena deportiva ESPN usó una nueva herramienta de IA para analizar el lenguaje corporal de los jugadores de póker.
La herramienta está diseñada para identificar los llamados “tells”, es decir, señales involuntarias, a partir de las imágenes del torneo. Esos tells son movimientos pequeños y microgestos, como los movimientos de los ojos, los tics de las manos o las piernas, la postura corporal o la manera en que un jugador sostiene sus cartas. A partir de ellos, el sistema calcula la probabilidad de que un jugador esté, por ejemplo, faroleando en ese momento. La IA hace, en esencia, lo mismo que hacen los mejores jugadores humanos de póker cuando estudian a sus rivales.
La idea parece obvia. La IA está en todas partes de todos modos, a los aficionados al deporte les encantan las estadísticas y, desde hace años, se integran cada vez más flujos de información adicional en las transmisiones deportivas, sea cual sea el deporte. Sin embargo, las reacciones de los profesionales del póker han sido dispares hasta ahora. Entre otras cosas, dudan de que la IA haya sido entrenada siquiera con datos suficientes para ser fiable, ya que solo pudo trabajar con lo que era visible en la señal de vídeo y, en el caso de algunos jugadores, al parecer eso no era mucho.
Shaun Deeb, uno de los profesionales más conocidos del póker y participante él mismo en el torneo, se muestra escéptico de fondo sobre lo que la IA puede detectar:
Los tells físicos son mucho más amplios de lo que creo que el público imagina [...] Hay tells de piernas, tells al pasar, tells verbales, tells de respiración, tells de pulso. Hay una cantidad enorme de tells disponibles, y la mayoría no los puede captar una cámara.
Pero puede que Deeb esté subestimando cuánto se puede extraer de la señal de una cámara. Sabemos por la investigación que incluso con webcams convencionales se puede medir el pulso de una persona a partir de los cambios más leves en el color de la piel de su rostro. Los demás tells suenan relativamente factibles en comparación, sobre todo en Full HD.
A Wired le interesan sobre todo las posibles consecuencias para el póker. Al fin y al cabo, el póker como deporte es un negocio muy lucrativo, con premios millonarios y un grupo de jugadores muy competitivo. Parece plausible que tarde o temprano a algunos profesionales se les ocurra la idea de obtener ventaja usando una IA así, lo que llevaría a una carrera armamentística y a contramedidas.
Sin embargo, no es el impacto sobre el póker lo que me preocupa. El uso de esa IA no tiene por qué limitarse al póker. El deseo de contar con un detector de mentiras fiable es antiguo, y las distintas tecnologías desarrolladas con ese fin han demostrado hasta ahora no ser fiables .
Todavía no hemos llegado a ese punto. Pero, dada la velocidad vertiginosa del desarrollo de la IA, eso me tranquiliza solo hasta cierto punto. Al fin y al cabo, parece que fue ayer cuando la generación de imágenes con IA ni siquiera podía dibujar bien las manos y los dedos.
La posibilidad realista de que los sistemas de IA especializados en este ámbito mejoren a un ritmo parecido y permitan una detección de mentiras fiable a gran escala sí me da motivos de preocupación. Incluso en sociedades libres, es probable que esto resulte disruptivo para nuestro tejido social, y en sociedades más autoritarias las consecuencias podrían ser directamente catastróficas.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.