En este número:
Cuando la carrera hacia el fondo toca fondo - Las empresas de IA tiran por la borda la cautela para competir en la frontera
¿El gobierno emitirá patentes de ciber corso? - ¿No se basaba el corso en las ganancias?
El uso de IA en las oficinas del Congreso - No hay pautas ampliamente conocidas
Aiko está feliz - Las empresas están creando influencers de IA, y puede que les funcione
Despacho de Joe
Cuando la carrera hacia el fondo toca fondo
Las empresas de IA tiran por la borda la cautela para competir en la frontera
¡Todo lo que podamos permitirnos perder, que se pierda!
-Sr. Gibbs, Piratas del Caribe
Mientras los incidentes cibernéticos recientes revelan lo peligrosas y capaces que se han vuelto las IA de frontera, muchas personas dentro de las empresas de IA han expresado sus preocupaciones sobre el ritmo temerario que han impuesto. Pero la rivalidad encarnizada sigue presionando a los desarrolladores para que se deshagan de todo lo que amenace con frenarlos, como marineros que tiran por la borda las provisiones y los botes salvavidas para aligerar un barco al límite.
¿Gana el barco más vacío?
Tomemos a Google DeepMind, por ejemplo. A principios de 2026, su modelo estrella Gemini estaba casi a la par del trabajo de OpenAI y Anthropic. DeepMind era relativamente independiente y estaba capitaneado por uno de los líderes más abiertamente preocupados de la carrera de la IA, Demis Hassabis.
Durante el verano, según informa el Wall Street Journal, Hassabis expresó profundas reservas sobre la carrera de la IA ante el gobierno de Trump, y propuso la creación de un organismo independiente de normas para la IA. Trazó paralelismos con la Autoridad Reguladora de la Industria Financiera ( FINRA ), que regula a los corredores de bolsa, y en otro momento con el Organismo Internacional de Energía Atómica ( OIEA ), que verifica los acuerdos nucleares. Más adelante escribiría su propuesta en X (antes Twitter). No llegaba lo bastante lejos, y todavía no ha sido adoptada, pero fue un paso hacia la coordinación.
Mientras tanto, según nos cuenta Reuters, el cofundador de Google Sergey Brin presionaba para eliminar lo accesorio y concentrar los esfuerzos de IA de la empresa en la automejora recursiva, buscando construir una IA que se desarrolle a sí misma sin necesidad de intervención humana.
A fecha de agosto, el nuevo modelo Gemini se había retrasado al menos dos meses, supuestamente porque no igualaba las capacidades de los rivales de DeepMind. Al parecer, la cúpula corporativa de Google no estaba contenta.
A principios de agosto hubo un giro . Se sacaron de DeepMind los equipos no técnicos, se marcharon varios líderes y Hassabis cedió sus funciones a un adjunto, Koray Kavukcuoglu. Hassabis seguirá como Científico Jefe de Google y Presidente de DeepMind, supuestamente para centrarse en "dar forma activamente al futuro de la AGI".
Pero esos cargos parecen en gran medida consultivos, y a mí me suena a que el negocio de DeepMind de construir IA peligrosamente capaz ha quedado en manos de alguien menos distraído por preocupaciones menores como el riesgo catastrófico. Reuters describió la medida como un adelgazamiento del equipo de DeepMind en un esfuerzo por centrarse en la "supremacía de modelos".
Mientras tanto, los laboratorios rivales SpaceX y Meta han estado empujando con aún más fuerza para alcanzar la frontera, informa Axios. El modelo de pesos abiertos Muse Glimmer de Meta apunta al nicho "barato y eficiente", al ser lo bastante pequeño como para funcionar en una laptop. Su lanzamiento se hizo coincidir con el manifiesto del director ejecutivo Mark Zuckerberg sobre la "superinteligencia personal para todos", del que hablamos antes esta semana .
Y SpaceX, tras absorber a xAI a principios de este año, lanzó Grok 4.6 junto con un rendimiento modestamente impresionante en pruebas de referencia y tres oraciones enteras de información sobre seguridad. Compárenlo con las fichas de sistema de Anthropic, que habitualmente se extienden cientos de páginas de largo . Supongo que es fácil ver qué está dispuesta a tirar por la borda SpaceX.
La vista desde la delantera también está distorsionada
Los esfuerzos voluntarios de los laboratorios no bastan. Nunca iban a bastar, pero las rivalidades encarnizadas no ayudan. Lo que los laboratorios de IA ven como una carrera en línea recta hacia la superinteligencia es, en realidad, una espiral que se estrecha sobre un abismo sombrío.
OpenAI y Anthropic quizá tengan los modelos más potentes, pero no confundan su éxito puntual con la competencia de una industria seria. Durante meses, OpenAI no logró detectar que sus propios modelos la estaban hackeando desde dentro , las concesiones de Anthropic a la seguridad no han impedido que Mythos lance con entusiasmo múltiples ciberataques criminales, y ambas empresas tienen en desarrollo modelos internos aún más capaces.
El futuro de la humanidad no debería estar en manos de las empresas, para empezar. Esta semana, en artículos de opinión para The Hill y el New York Times , el presidente de MIRI, Nate Soares, sostiene que la situación es grave pero no es demasiado tarde: nuestros gobiernos están dejando que esto ocurra, y no tenemos por qué tolerarlo. Necesitamos acuerdos internacionales para detener la carrera de la IA, y las normas y la tecnología de verificación que los respalden.
Cada vez más legisladores empiezan a darse cuenta de esto, e impulsan la intervención del gobierno o una pausa global. Podemos sumar nuestras voces a las suyas, o ver cómo todo lo que valoramos se tira por la borda para ganar unos centímetros pasajeros en la carrera más letal del mundo.
Despacho de Mitch
¿El gobierno emitirá patentes de ciber corso?
¿No se basaba el corso en las ganancias?
Una patente de corso de 1809. Fuente . Vía Wikipedia .
He visto comentarios que dicen que un memorando presidencial publicado ayer es una nueva versión de la " patente de corso ". Si tienen la historia un poco oxidada, una patente de corso es una licencia emitida por un gobierno para cometer actos de piratería contra los barcos de un adversario designado.
El memorando presidencial le indica al Centro Nacional de Coordinación que establezca un programa para autorizar a empresas estadounidenses a pasar a la ciberofensiva contra organizaciones criminales extranjeras. Suena como una idea genial que dan ganas de celebrar con un "¡Yarr!", hasta que uno se detiene y se pregunta por qué querrían hacer esto las empresas. En la Era de la Vela, un aspirante a corsario lo hacía por su parte del botín capturado. Pero en la era de las oleadas de hackeo asistido por IA, ¿qué se supone que van a confiscarles las empresas a los cibercriminales? ¿No sería probable que cualquier cosa capturada fuera a su vez mercancía robada que debería devolverse a sus legítimos dueños?
La respuesta parece ser "nada". Pensé que quizá habría una disposición que diera derecho a los participantes a recibir una parte de las criptomonedas recuperadas o algo así, pero no. No se menciona ningún botín por capturar, ni recompensas por desarticular con éxito operaciones criminales, ni siquiera una compensación por los recursos invertidos en este trabajo. De hecho, las empresas participantes deben depositar una fianza de un millón de dólares que podrían perder si incumplen las reglas del programa.
Entonces, ¿por qué arriesgarían las empresas un millón de dólares y la ira de organizaciones criminales? La mejor respuesta que pude encontrar es que ya lo están haciendo . No muchas. Pero Microsoft, por ejemplo, lleva tiempo pasando a la ofensiva contra operaciones criminales que crean redes de bots con máquinas Windows, intentando desarticular el mando y control de esas redes y cerrar las vulnerabilidades para proteger a sus clientes y a la marca Microsoft. Históricamente esto se ha hecho mediante un conjunto de entendimientos menos formales con agencias del gobierno. Así que creo que el nuevo memorando es en realidad una especie de gesto amable hacia algunos de los aliados de la Casa Blanca en las grandes tecnológicas: un corredor más seguro para operaciones legalmente delicadas. De ser así, puede que ni siquiera tenga nada que ver con la IA.
Pero dada la naturaleza de estos tiempos, voy a suponer que sí.
Si el gobierno estuviera en mejores términos con Anthropic, me preguntaría si tal vez la empresa de IA se habría quejado de su incapacidad para desarticular legalmente a las organizaciones que revenden credenciales robadas de Claude, que luego se usan para destilar los modelos de Anthropic y recortarle su ventaja. Pero con los últimos modelos de ChatGPT y Grok ahora en la frontera o cerca de ella, podría tener sentido que OpenAI y SpaceX se preocupen de forma similar por la destilación. Quizá sean estos aliados de la Casa Blanca quienes tenían patentes de corso en su lista de deseos. O quizá la Casa Blanca quiera invitar a las empresas de IA a usar "voluntariamente" sus modelos para golpear a espinas extranjeras clavadas en el costado del gobierno. El análisis de Politico apunta discutiblemente en esa dirección, y ofrece un relato legible de las reglas de enfrentamiento.
Puede que nunca lleguemos a saber nada concreto sobre cómo se usan estos permisos. Una de sus estipulaciones es que las operaciones deben llevarse a cabo "con la intención de permanecer sin ser detectadas".
Despachos de Alana
El uso de IA en las oficinas del Congreso
No hay pautas ampliamente conocidas
Crédito: Jakub Zerdzicki vía Pexels
Una buena frase lapidaria del Washington Post de hoy: "La IA se está extendiendo por el Congreso más rápido que las reglas que rigen su uso".
El artículo que abre esa frase, que trata sobre el uso de IA entre el personal del Congreso, explica que no hay pautas claras para el uso de la IA en el Congreso. Existe un conjunto de reglas, pero según entrevistas con miembros del personal, la mayoría no las conoce. Y no hay ejemplos de ningún esfuerzo por hacerlas cumplir:
Las pocas reglas que existen en la Cámara y el Senado se entienden mal y rara vez se hacen cumplir. En la práctica, el uso de la IA queda en manos de los cientos de oficinas individuales del Congreso, que lo resuelven por su cuenta. No está claro cuántas oficinas tienen políticas internas escritas sobre la IA.
Mientras tanto, el personal usa la IA para investigar, ayudar a redactar legislación, formular preguntas para audiencias, encontrar contactos de periodistas y responder a los constituyentes.
¿Qué está oficialmente prohibido? Según informa el Post:
introducir material sensible, como información de constituyentes, en un chatbot, generar deepfakes, tomar decisiones de personal y finalizar legislación.
Quizá sea una opinión impopular, pero yo veo un caso de uso claro para adoptar herramientas de IA en las oficinas del personal del Congreso. Podría ayudar a acelerar el largo proceso de redactar y proponer legislación, permitiendo que los cambios ocurran más rápido. El cuerpo del Congreso en su conjunto funciona como un control decente de la calidad legislativa, y probablemente podría detectar y corregir cualquier problema inducido por un modelo de lenguaje.
Dicho esto, si la IA se adopta de lleno desde el principio sin pautas ampliamente conocidas, podría haber problemas para saber dónde trazar los límites. Espero que nunca vivamos en un mundo donde llamar a sus representantes signifique hablar con una IA que se hace pasar por personal , o peor, ¡una IA que se hace pasar por su propio representante! A pesar de cualquier interpretación benévola de ese mundo, quizá el representante sintético podría escuchar más preocupaciones de los constituyentes, supongo que aun así se sentiría contrario al espíritu democrático de un "gobierno del pueblo, por el pueblo y para el pueblo", al añadir una barrera no humana entre los constituyentes humanos y las personas que se supone que los representan. No tener un conjunto estandarizado de pautas también podría dejar a algunas oficinas del Congreso por detrás de otras, algo similar a los problemas con el uso de la IA en los anuncios de campaña .
Así que en términos generales apoyo pautas más formalizadas sobre el uso de la IA en el Congreso. Pero primero, el gobierno debería centrar sus esfuerzos en una regulación federal e internacional muy necesaria.
Aiko está feliz
Las empresas están creando influencers de IA, y puede que les funcione
Crédito: Tokuo Nobuhiro vía Pexels
En el episodio cuatro de la comedia Mythic Quest, los creadores de un videojuego de éxito intentan encontrar un reemplazo para el streamer de 14 años que deja de promocionar su juego. ¿Una solución? Aiko, un modelo en 3D que "nunca envejece ni recibe una oferta mejor". Brad, el encargado de la monetización de Mythic Quest, es quien está detrás de la sugerencia. Llama a Aiko "el futuro del negocio del streaming". No hace falta encontrar a la persona perfecta; el modelo puede ser quien él quiera que sea. "¡Aiko está feliz!", exclama el modelo, obviamente computarizado, con una voz enlatada y falsa.
El episodio se emitió en 2020. La sugerencia del modelo en 3D era parte de la comedia. Pero ahora, en 2026, se ha vuelto realidad. Como cubre el New York Times: desde los pódcasts hasta el marketing de moda, los estudios creativos están adoptando a las superestrellas de IA. Andreea Petrescu, cofundadora de la agencia de marketing de IA con sede en Londres Seraphinne Vallora, suena notablemente parecida a Brad cuando describe el atractivo de las modelos de IA para las marcas de ropa de alto perfil:
Con las modelos reales, el problema es que son la cara de tantas marcas distintas que cualquier cosa que hagan puede afectar a tu marca ... Con la IA, es como un lienzo en blanco: puedes diseñarla como quieras, puede ser tan hermosa como quieras, y es toda tuya.
Y a diferencia del mundo de los años veinte de la primera temporada de Mythic Quest, no hay voces enlatadas ni delatores computarizados. Al pasar por las imágenes de las personas de IA de la empresa Inception Point AI, me impresiona lo auténticas que parecen. La empresa hizo bien su trabajo: cada una de estas personas parece accesible, carismática y atractiva. Mi cerebro sabe que son IA, pero mi sistema nervioso no. Es genuinamente inquietante.
Inception Point fabrica creadores de contenido de IA diseñados para cubrir nichos específicos. Esos creadores automatizados producen entonces cantidades enormes de medios de nicho. La empresa " fue noticia el otoño pasado por su estrategia de inundar el terreno con pódcasts, que consistía en mantener más de 5.000 programas activos y publicar miles de episodios predominantemente generados por IA por semana". Según la directora ejecutiva de la empresa, Jeanine Wright, los costos son tan bajos que un episodio será rentable siempre que consiga al menos veinte oyentes.
Incluso teniendo en cuenta cierto rechazo hacia la IA, eso parece fácil de lograr. Sin duda hay personas que encuentran entretenidas a las personalidades de IA, como demuestra el éxito de las estrellas musicales de IA y otras personas de IA. Wright también parece pensar que el contenido de nicho que son capaces de producir es la clave, al decir: "Mientras a la gente le guste el contenido, creemos que aceptará que provenga de la IA".
Por mucho que me gustaría discrepar, creo que puede que tenga razón. Fácilmente podría imaginarme que me dijeran:
"Encontré este pódcast nuevo sobre tomates de variedades tradicionales. En realidad es una IA, lo cual es un poco raro, pero me resultó muy útil para la jardinería..."
Y dado que la empresa probablemente ha diseñado la persona para que encaje a la perfección con su mercado objetivo, también puedo imaginar que ese nuevo oyente vuelva por más.
Nota: Parece que Inception Point se ha convertido ahora en Liquify AI.
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.