En esta edición:
Los plazos se acortan en la actualización trimestral de AI Futures - Tres métodos nuevos dan las mismas respuestas inquietantes
Una oficina del Congreso se ahoga en lawslop - Los correctores legislativos del Congreso dicen que los proyectos de ley generados por IA todavía no están a la altura
Verificadores verificados - La tecnología necesaria para verificar un tratado de pausa o desaceleración de la IA avanza, pero tiene una falta de recursos vergonzosa
Despachos de Mitch
Los plazos se acortan en la actualización trimestral de AI Futures
Tres métodos nuevos dan las mismas respuestas inquietantes
Crédito: Yo.
AI Futures Project, el equipo detrás del pronóstico AI 2027 y del escenario AI 2040: Plan A, acaba de publicar su actualización trimestral del pronóstico . Las cifras principales:
La realidad parece avanzar a alrededor del 75% de la velocidad del escenario original de AI 2027 (así que sigue siendo muy rápido).
La predicción mediana de Daniel Kokotajlo para la llegada de la superinteligencia artificial (ASI, por sus siglas en inglés) es ahora 2029, frente a 2030 en la actualización trimestral anterior. Eli Lifland ahora predice 2033, frente a 2035 de la actualización anterior. Su definición de ASI me parece razonable: "la brecha entre una ASI y los mejores seres humanos es 2 veces mayor que la brecha entre los mejores seres humanos y el profesional medio, en prácticamente todas las tareas cognitivas".
El equipo ahora especifica que sus pronósticos suponen que el desarrollo de la IA continúa a toda velocidad; una desaceleración impuesta por los gobiernos cambiaría las cosas.
Crédito: AI Futures Project .
Aunque nunca afirman tener mucha confianza en sus fechas, dicen que tres métodos nuevos y distintos que idearon para seguir el ritmo del progreso están dando, para su sorpresa, respuestas muy parecidas.
Estos métodos son interesantes. Uno consiste en revisar las encuestas de Anthropic a sus empleados, en las que se les pregunta cuánta aceleración creen estar obteniendo al programar. Aunque AI Futures coincide con Anthropic en que esas cifras probablemente están infladas, van en aumento, se duplican aproximadamente cada 3.5 meses, tras algún ajuste, y parece muy poco probable que la tendencia de los empleados a sobreestimar crezca al mismo ritmo.
Un hito intermedio que se estima con esto es lo que el equipo llama el "programador automatizado" (AC, por sus siglas en inglés): el punto en el que "la empresa líder de IA preferiría despedir a sus ingenieros de software humanos antes que renunciar al uso de la IA para programar". La fecha estimada por Kokotajlo para esto es ahora noviembre de 2027, frente a mayo de 2028 en la actualización anterior.
Al repasar AI 2027, publicado en abril de 2025, los autores señalan que las cosas parecen ir en buena medida según lo previsto, pero destacan algunos fallos. Uno de ellos es probablemente una buena noticia: esperaban que a estas alturas la dirigencia china ya se hubiera "despertado" ante la IA y hubiera empezado a unificar los esfuerzos de sus laboratorios líderes para igualar o superar los modelos de frontera estadounidenses. Pero aunque el mundo en general está más "despierto", el Partido Comunista Chino todavía parece más interesado en extender los beneficios actuales de la IA por su economía que en correr hacia la superinteligencia, y deja que cada uno de sus laboratorios nacionales persiga la ASI (o no) según le parezca.
Otro fallo, el que el equipo considera su "mayor error de predicción", es probablemente una mala noticia: esperaban que a estas alturas la IA tuviera mayor presencia en la conciencia pública. Una conciencia creciente de lo cerca que está la ASI y de lo enorme que es lo que está en juego podría hacer más probable una desaceleración global impuesta. Pero aunque el equipo cree que esa presencia pública es sin duda mayor este año que el pasado, la métrica que eligieron para medirla apenas se ha movido, y la conciencia no es tan alta como probablemente haga falta.
El pronóstico de AI 2027 de que los mejores modelos chinos estarían a unos 7 meses de distancia de los mejores modelos estadounidenses a estas alturas les parece bastante acertado a sus autores (y a mí). Pero en otro fallo de malas noticias, el equipo estima que las empresas de IA todavía no han alcanzado el grado de seguridad esperado respecto a los pesos de sus modelos y otros secretos. El pronóstico prevé esfuerzos serios de Estados nacionales para robarlos. La serie de filtraciones y fugas autónomas de este año no es lo que uno esperaría de laboratorios preparados para frustrar intrusiones de Estados nacionales.
Una oficina del Congreso se ahoga en lawslop
Los correctores legislativos del Congreso dicen que los proyectos de ley generados por IA todavía no están a la altura
El Capitolio de Estados Unidos visto desde el edificio de la Corte Suprema de Estados Unidos. Crédito: debaird . CC BY-SA 2.0 .
Hace apenas unos días, mi colega Alana cubrió el uso generalizado de la IA en las oficinas del Congreso de Estados Unidos. Planteó que podría acelerar el proceso de redacción de leyes, entre otras cosas.
Owen Dahlkamp, de Politico, lo confirma hoy en un artículo sobre las condiciones dentro de la Oficina del Asesor Legislativo (OLC, por sus siglas en inglés), que presta servicios de redacción a los comités y a los miembros de la Cámara de Representantes. La OLC hace un trabajo importante al convertir propuestas en bruto y textos de aficionados en un texto jurídicamente sólido. Pero según "ocho funcionarios actuales y antiguos que trabajan o trabajaron en la oficina", la avalancha de borradores escritos por IA que llega desde las oficinas del Congreso y desde grupos externos está llena de errores y ambigüedades. Estos frenan el proceso legislativo y pueden dar lugar a demandas si se convierten en ley.
Como ejemplo sencillo del tipo de cosas que la OLC suele tener que arreglar, un proyecto de ley podría definir "estado" de una manera que solo se aplique a los 50 estados, y excluir sin querer a Washington, D.C. y a las naciones tribales. También se dice que los proyectos redactados hoy por IA a menudo carecen de matices, por ejemplo sobre si el financiamiento de un programa debería llegar mediante un "crédito fiscal, una deducción fiscal, una exclusión fiscal o una subvención".
Las solicitudes de servicios de la OLC en los primeros 60 días del Congreso actual subieron 72 por ciento respecto al mismo periodo de hace dos años. El riesgo que ven los veteranos de la Cámara es que los miembros que no estén dispuestos a esperar los servicios de una OLC atascada presenten texto de proyectos de ley generado por IA sin depurar. Hasta ahora, al menos, "No se ha demostrado que ningún proyecto de ley votado por ninguna de las dos cámaras haya sido elaborado por completo por IA".
La OLC está estudiando una solución parcial evidente: usar herramientas de IA como parte del proceso de corrección legislativa. Ya son muy adecuadas para verificar que las leyes citadas en un borrador de legislación estén representadas con exactitud, y que no sean alucinaciones de otra IA.
Nadie de los citados en el artículo menciona preocupación alguna por que las IA actuales o futuras puedan inclinar los resultados legislativos según sus propias preferencias, ya sea por un sesgo involuntario o por una intención maquiavélica. No espero que las maniobras legales tengan un papel central en una toma de poder por parte de la IA, pero sí espero que las IA que buscan poder intenten deliberadamente sesgar las leyes de maneras que favorezcan sus planes, como parte de mantener abiertas sus opciones y engrasar los engranajes de una toma de poder más tecnológica. Si creamos competidores superinteligentes por los recursos de nuestro planeta, no se limitarán a un solo carril.
Verificadores verificados
La tecnología necesaria para verificar un tratado de pausa o desaceleración de la IA avanza, pero tiene una falta de recursos vergonzosa
Una derivación óptica pasiva y un montaje de monitoreo para la verificación de servidores. Crédito: Amodo Design .
Un artículo de Billy Perrigo publicado hoy en TIME ofrece un perfil esperanzador de una empresa que trabaja en una tecnología de nicho que quizá ayude a salvar el mundo, pero sobre todo me anima como prueba de que los periodistas están persiguiendo las historias correctas.
El mes pasado, más de mil empleados de empresas de IA de frontera declararon que querían que el gobierno trabajara con la industria para construir los mecanismos de gobernanza necesarios para que una desaceleración global de la IA fuera viable. En nuestra cobertura, señalé que ya existe una investigación considerable en esa dirección, pero el artículo de Perrigo es el primero que he visto que de verdad examina la tecnología que la sostiene.
La empresa que perfila es Amodo Design, con sede en Sheffield, Inglaterra. Con financiamiento sobre todo académico y de organizaciones sin fines de lucro, trabaja en un sistema de verificación de IA que permitiría a los operadores de centros de datos demostrar que sus chips solo se usan para ejecutar modelos de IA existentes y no para entrenar modelos nuevos, e incluso demostrar qué modelo están ejecutando.
El verificador es un par de sistemas, uno en el centro de datos y otro para un supervisor. La versión del supervisor toma muestras y vuelve a ejecutar fragmentos de datos de la versión del centro de datos, y confirma que la IA que se está ejecutando es la declarada.
Al sistema todavía le falta trabajo para manejar datos cifrados, y por ahora requiere entre una quinta y una tercera parte de la potencia de cómputo del modelo de IA que vigila. Y como la mayoría de los sistemas de verificación en desarrollo, exigiría reacondicionar los centros de datos existentes. Pero se espera que las versiones futuras sean mucho más eficientes, y el reacondicionamiento sería un obstáculo muy superable para los gobiernos que empiecen a tratar la carrera hacia la superinteligencia con la misma seriedad que el control de armas nucleares. Los tratados de armamento, señala el texto, han recurrido a tecnologías de monitoreo "como satélites y sismómetros".
Este campo parece tener una falta de recursos vergonzosa. Tom Milton, director ejecutivo de Amodo, estima que menos de 50 ingenieros en el mundo trabajan a tiempo completo en tecnología de verificación. Él emplea a 9 de ellos. "Es una locura que pensemos que siquiera somos un participante destacado en esto, y mucho menos uno de los proyectos más grandes".
Perrigo cierra su artículo analizando si un acuerdo para desacelerar la IA es políticamente posible. Citando una recomendación de agosto del Institute for Progress, escribe: "Una mejor tecnología de verificación abriría un espacio más amplio de acuerdos posibles".
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.