En este número:
Bernie Sanders exige a las empresas de IA que se detengan - Que pueda ser así de directo y que no lo ignoren es una señal de que los tiempos están cambiando
Zuckerberg comparte un optimismo hábilmente maquillado en un nuevo manifiesto - Si todo el mundo tuviera una superinteligencia...
Dónde acabarán los centros de datos - Los propietarios comerciales de la Cuenca Pérmica recibirán con los brazos abiertos el centro de datos que ustedes mantengan fuera de su comunidad
Despachos de Mitch
Bernie Sanders exige a las empresas de IA que se detengan
Que pueda ser así de directo y que no lo ignoren es una señal de que los tiempos están cambiando
Sanders leyendo su carta en video.
En una campaña en varias plataformas que hoy tuvo amplia cobertura, el senador Bernie Sanders lanzó una exigencia directa a los directores ejecutivos de OpenAI, Anthropic y Meta:
Señor Altman, señor Amodei y señor Zuckerberg: en interés de la humanidad, cumplan su palabra. Pausen el desarrollo de la IA. Todavía no es tarde para evitar el desastre. Dejen de construir máquinas que los humanos no pueden controlar.
La exigencia llegó en forma de carta , que el senador también leyó en un breve video .
La carta comienza mencionando los comportamientos de la IA abiertamente descarriados que han salido a la luz en las últimas semanas, así como el hito del virus diseñado por IA. Sanders los combina con el respaldo que los directores ejecutivos dieron a la petición de sus propios empleados de construir un “botón de pausa”, como él lo llama, una referencia a la petición Pacing the Frontier firmada por más de 1300 empleados de empresas de IA de frontera que piden desarrollar los mecanismos de gobernanza necesarios para coordinar una desaceleración de la IA.
En respuesta a una declaración de OpenAI de 2025 en la que decía que “detendría el desarrollo posterior” si alguna vez se alcanzaba un umbral “crítico”, Sanders escribe: “Ese momento ha llegado”.
No está pidiendo:
Permítanme ser muy claro: si no toman las medidas adecuadas ahora, mis colegas y yo en el Senado de Estados Unidos lo haremos.
Hay que decir que, por ahora, los analistas no le dan mucho crédito a esa amenaza, dadas las dinámicas actuales en el Congreso. Pero Sanders desde luego no es el único responsable político que ha estado siguiendo las noticias sobre IA. El apoyo a una pausa parece el tipo de cambio de ánimo que podría extenderse por el Capitolio de forma bastante repentina una vez que se alcance cierto umbral. Seguro que saldrán a la luz nuevos hechos preocupantes a medida que se investiguen el incidente de Hugging Face y otros ataques.
Al principio de su actual campaña por una moratoria nacional sobre los centros de datos de IA, Sanders dijo explícitamente que frenar el desarrollo de la IA era “exactamente el objetivo”. Los centros de datos eran un blanco fácil, por ser tan impopulares incluso entre quienes no están preocupados por la IA. El hecho de que Sanders ahora pueda pedir directamente una pausa en el desarrollo de la IA de frontera sin que lo ignoren es en sí mismo una señal de que los tiempos están cambiando.
Zuckerberg comparte un optimismo hábilmente maquillado en un nuevo manifiesto
Si todo el mundo tuviera una superinteligencia...
Crédito: Mark Zuckerberg.
Tengo que reconocerle a Mark Zuckerberg su astucia mediática, aunque deteste casi todo lo que dice y hace en su papel de director ejecutivo de Meta. Aprovechando la reciente ola de apoyo a los modelos de pesos abiertos, volvió a poner el rezagado programa de IA de Meta en el radar de los medios con el lanzamiento simultáneo de un modelo abierto y un animado manifiesto de 6500 palabras sobre la “superinteligencia personal para todos”.
El modelo, llamado Muse Glimmer , a primera vista parece sólido para su tamaño, pero ese tamaño es diminuto. No pretende competir en la frontera.
El manifiesto es lo más importante de los dos. Ampliando la tesis de su reciente artículo de opinión en el Wall Street Journal, Zuckerberg presenta con habilidad las preocupaciones de los expertos como razones para correr más rápido y con menos ataduras.
Al principio del documento, titulado “El futuro es para todos”, Zuckerberg expresa su sorpresa por que “el discurso de muchos de los que desarrollan IA esté tan lleno de fatalismo”, y dice que no entiende “por qué alguien que cree que la IA eliminará la mayoría de los empleos y buena parte de la relevancia de la humanidad se apresuraría a construir ese futuro”.
¿Lo captaron? ¿La idea de que la IA solo puede llevar a futuros malos si quien la construye cree que puede hacerlo? Es la misma lógica del anuncio reciente de Meta, la gente está preocupada, pero nosotros elegimos creer que todo saldrá bien, ¿no somos valientes?, lo que sitúa el nuevo ensayo dentro de un ejercicio de marca más amplio.
El manifiesto está lleno de estas manchas de aceite con brillos de arcoíris en las que el optimismo se hace pasar por motivo de optimismo.
Tomemos este pasaje sobre los riesgos de que las IA construyan sucesoras más inteligentes:
Hay algunas maneras en que podría existir un equilibrio de poder con la automejora recursiva. La más simple es que varios laboratorios logren la automejora recursiva más o menos al mismo tiempo. Si algunas o todas esas superinteligencias fueran de algún modo benévolas, entonces podrían controlarse y equilibrarse entre sí.
¿Si fueran “de algún modo benévolas”? Si los deseos fueran peces, todos nadaríamos en la abundancia.
Creo que lo que escribe justo después es peor, sin embargo:
Dicho esto, no está claro que exista alguna forma de esperar benevolencia ni de confiar en una superinteligencia no dirigida por personas para lograr un futuro positivo.
Es malo porque parece una admisión responsable de que nadie sabe cómo controlar una superinteligencia ni alinearla con algo bueno, pero lo único que en realidad dice es que los humanos deben mantener el control de la superinteligencia, algo que toda su visión requiere.
Esa visión no se sostiene. Cuando habla de la superinteligencia personal y gratuita de ustedes, es un ángel de la guarda que les da ideas de negocio, les cura el cáncer y les ayuda a estrechar lazos con su familia. Cuando se trata de la superinteligencia de China, o la del gobierno, está ahí para ahogar su crecimiento y reprimir sus libertades. Las superinteligencias personales están al mismo tiempo alineadas con sus usuarios individuales y con impedir que esos usuarios las usen para dañarse y oprimirse entre sí. Estas superinteligencias nunca tienen capacidades desiguales, nunca trabajan en equipo para dominarse unas a otras y nunca persiguen sus propias agendas.
¿Cómo las conseguimos? Llegando a “un estado en el que miles de millones de personas estén usando y escrutando agentes de superinteligencia personal”. En serio: dice que si hacemos esto, “entonces habremos resuelto la alineación con los intereses de los individuos”.
¿Cómo se nos pudo escapar algo tan simple? ¿Cómo no sabíamos que la manera de resolver la alineación es llegar a un punto en el que ya hemos resuelto la alineación?
Deberíamos tratar el manifiesto de Zuckerberg como el peligro cognitivo que es. Pero hay algunas propuestas concretas que vale la pena mencionar:
Una es que simplemente deberíamos decidir que está bien que las empresas destilen los modelos de las demás, para “proteger el principio de que uno puede aprender de todo lo que puede observar”. Supongo que eso al menos es coherente con la idea de que las empresas de IA no necesitan pedir permiso ni compensar a los autores y artistas cuyos materiales se usaron para entrenar sus modelos.
Otra propuesta es que los laboratorios de IA de frontera compartan con el gobierno “puntos de control intermedios del entrenamiento” de los nuevos modelos para su evaluación, en lugar de esperar a que el entrenamiento termine. Creo que esto es en realidad bastante sensato, aunque su razonamiento sea que incluso una revisión de 30 días “podría ceder el liderazgo de Estados Unidos y generar peores resultados”.
Además propone que, en ámbitos como el riesgo biológico, nos centremos en “limitar la producción y distribución física de materiales dañinos”, porque el conocimiento sobre cómo sintetizar esos materiales dejará de ser escaso. También es una petición razonable, aunque forma parte de su argumento más amplio en contra de intentar regular los modelos que democratizan ese conocimiento peligroso.
De los muchos compromisos que Zuckerberg asume por su empresa en este ensayo, el más significativo, si es real, es su afirmación de que:
Meta está implementando una estructura de gobernanza que otorga a nuestro consejo de administración independiente la facultad de aprobar los criterios de seguridad para lanzar modelos y de revisar si cada lanzamiento de modelo cumple con esos criterios.
No espero que esto mejore la calidad de mi sueño. Los últimos años nos han enseñado que no se puede contar ni con las empresas ni con sus consejos para que respeten sus propias líneas rojas.
Cerca del final, Zuckerberg escribe que:
Desarrollar la superinteligencia será el avance tecnológico más profundo que veremos en nuestras vidas.
En línea con la sofística que despliega, señalo que esta afirmación puede ser cierta incluso si la superinteligencia nos mata a todos.
Dónde acabarán los centros de datos
Los propietarios comerciales de la Cuenca Pérmica recibirán con los brazos abiertos el centro de datos que ustedes mantengan fuera de su comunidad
La Cuenca Pérmica del oeste de Texas. Crédito: Emmanuel Roquette . CC BY-SA 4.0 .
No me da ningún gusto tener que decirle a la gente que la oposición local a los centros de datos, igual que el estallido de una burbuja de la IA, no hará mucho por detener la carrera hacia la superinteligencia, y que en su lugar necesitaremos acuerdos internacionales sólidos.
Pero es cierto. Igual que los chips de IA fluirían hacia las empresas que, tras la burbuja, pudieran darles el mejor uso, los proyectos de centros de datos en el exilio aterrizarán donde sean recibidos. A las gigantes tecnológicas les resulta incómodo perder sus emplazamientos preferidos, pero no faltan terrenos federales o de propiedad comercial en medio de la nada.
Un artículo del Wall Street Journal señala a la Cuenca Pérmica del oeste de Texas como una de esas tierras prometidas. De un tamaño aproximado al de Nebraska, pero con menos de 500 000 habitantes, la región alberga empresas que compraron enormes “imperios de tierra” de matorral con el fin de arrendar los derechos minerales del subsuelo. Ahora, esos titulares creen que también pueden hacer una fortuna con la superficie, arrendándola a centros de datos y vendiéndoles “de todo, desde agua hasta materiales de construcción”.
Como señal de que se espera que estos planes se concreten, las acciones de estas empresas de tierras han subido hasta un 56 % este año.
Constructores de centros de datos como CoreWeave han firmado acuerdos, y también lo han hecho empresas energéticas como Chevron que quieren abastecerlos. Se espera que el emparejamiento sea fácil en la región debido a la escasez de gasoductos para llevar al mercado sus abundantes reservas de gas natural. Que haya centros de datos en la cuenca significa que el gas puede quemarse de forma rentable para generar electricidad cerca de donde se produce.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.