En este número:
Cómo las empresas de IA pueden prepararse para una desaceleración - El exjefe de Investigación de Políticas de OpenAI insta a las empresas de IA a invertir en investigación sobre verificación (entre otras cosas)
Tres casos de estudio sobre los enfoques del mundo ante la IA - India enfrenta la turbulencia en su sector de TI mientras Europa y Brasil buscan abrirse paso en la IA
Las aguas crecientes del texto generado por IA - El Pew Research Center intenta medir el nivel del agua
Despacho de Alana
Cómo las empresas de IA pueden prepararse para una desaceleración
El exjefe de Investigación de Políticas de OpenAI insta a las empresas de IA a invertir en investigación sobre verificación (entre otras cosas)
Mecánico trabajando en un sistema de frenos. Crédito: agustin olmedo vía Pexels
Hay mucho que apreciar en un artículo publicado hoy en The Guardian por Miles Brundage (ex-OpenAI), que les recuerda a las empresas de IA que, incluso sin el Congreso, pueden empezar a avanzar hacia una desaceleración del desarrollo de la IA si de verdad la quieren. Recomienda cuatro pasos inmediatos: recibir con agrado auditorías independientes de terceros, coordinarse con otros actores de la industria en materia de seguridad, invertir en tecnología que haga que las salvaguardas y los acuerdos sean exigibles, y respaldar legislación sobre seguridad y supervisión.
Parecen medidas razonables, y algunas tienen más probabilidades que otras de ayudar de manera significativa a prevenir una catástrofe de IA. Me entusiasma en particular la sugerencia de que las empresas financien investigación sobre tecnología de verificación, que en esencia nos permite saber si las empresas y las naciones están cumpliendo con aquello que acuerdan.
Por ejemplo, si las naciones y las empresas acuerdan pausar el desarrollo de IA de frontera, la tecnología de verificación significa que no tenemos que creerles bajo palabra: podemos saberlo mediante medidas como el rastreo de los chips de computación necesarios para entrenar IA avanzada. Esto neutraliza de manera efectiva la preocupación de que "nunca podríamos confiar en China" o de que "China va a hacer trampa".
Implementar tecnología de verificación parece una idea inequívocamente buena incluso para quienes no apoyan una detención: ¿no deberíamos al menos poder rastrear qué están haciendo las empresas de IA? Y para quienes sí apoyan una detención (como yo), la tecnología de verificación la vuelve exigible y práctica. Como resultado, también podría ayudar a construir la voluntad política para un acuerdo global a pesar de la rivalidad y la desconfianza internacionales.
Como la investigación sobre verificación ha sido un foco clave del Equipo de Gobernanza Técnica de MIRI, puedo agregar que muchas soluciones ya podrían implementarse con la tecnología actual. Me encantaría ver a las empresas de IA empezar a abogar por estas medidas y a financiar su implementación, al tiempo que, como recomienda Brundage, apoyan investigación para ampliarlas. Si la dinámica de carrera es en realidad el obstáculo que dicen que es, esto debería ser algo obvio.
En esa línea, algo que valoro del artículo de Brundage es el señalamiento implícito de lo que me gustaría llamar lavado de seguridad. Eso es lo que creo que ocurre cuando los directivos de las empresas de IA dicen que les importa profundamente la seguridad y ruegan que el gobierno intervenga, mientras al mismo tiempo combaten la regulación, hacen poco por impulsar una desaceleración o detención global, y siguen avanzando con sus modelos pese a una ausencia asombrosa incluso de prácticas básicas de seguridad.
Brundage lo señala con frases como "no se puede uno quejar de una carrera irresponsable de IA mientras se combaten salvaguardas de sentido común" y "las empresas de IA podrían acelerar hoy mismo el desarrollo de este tipo crítico de tecnología [tecnología de verificación] mediante financiamiento y participación en proyectos piloto, pero hasta donde sé, no lo han hecho". Su párrafo final es quizá la acusación más directa:
El gobierno de Estados Unidos debería poner de su parte para abordar esto, y con rapidez. Pero lograr que la IA salga bien es una responsabilidad compartida. Las empresas que se queden atrás de sus pares en seguridad, que no inviten a auditorías externas de sus sistemas, o que pidan frenos mientras hacen poco por construirlos, no podrán culpar a la carrera de la IA cuando algo salga mal.
Dicho todo esto, sí tengo algunos reparos con el encuadre general de Brundage, que da a entender que estamos en un momento de "por si acaso necesitamos desacelerar" y no en una situación de "más vale que empecemos a pisar el freno ahora mismo". Frases como "prepararse para una posible desaceleración" y " Si se necesita una desaceleración" (el énfasis es mío) no parecen corresponderse con la afirmación de Brundage de que los empleados preocupados tienen razón acerca de (citando a The Guardian) "el riesgo de que la tecnología se salga del control humano a medida que empieza a construirse a sí misma ".
Solo esto debería dejar bastante claro que necesitamos una desaceleración (o mejor aún, una detención completa) ahora. Por el contenido de su artículo, creo que Brundage probablemente esté de acuerdo, pero quizá esté haciendo lo que considera una petición estratégica y más fácil, algo así como: aunque no crean que la señal ya está escrita en la pared, puede que pronto llegue un momento en que sí lo crean. Y parecería poco controvertido empezar a prepararse para ese momento antes de que nos tome por completo desprevenidos.
Despacho de Joe
Tres casos de estudio sobre los enfoques del mundo ante la IA
India enfrenta la turbulencia en su sector de TI mientras Europa y Brasil buscan abrirse paso en la IA
Fuente: scaliger vía Adobe Stock
Las noticias de hoy nos dan tres vistazos distintos a las formas en que países fuera de Estados Unidos y China están navegando un mundo de IA cada vez más poderosa. La industria de TI de India atraviesa dolores de crecimiento a causa de la automatización, mientras Brasil y Europa se apresuran por ponerse al día en investigación de IA. Hay lecciones que aprender de los tres.
India
La IA está alterando actualmente la industria india de TI, valorada en 315.000 millones de dólares, escribe Reuters, creando ganadores y perdedores en un mercado volátil. La mayoría de los cambios en realidad suenan bien: productividad en aumento, clientes que exigen tarifas más bajas y empresas que pagan por resultados en lugar de por horas facturables. He llenado mi buena cuota de hojas de horas trabajadas y las he odiado con cada fibra de mi ser, y creo que "cuánto lograste" es una medida mucho mejor del éxito que "cuánto tiempo se invirtió".
El artículo de Reuters parafrasea a Mohit Joshi, director ejecutivo de Tech Mahindra, diciendo que "algunos rivales están calculando ganancias de productividad del 70% al 80% en un plazo de cinco a siete años", pero descarta el entusiasmo de la competencia como "irracional". Noto que la acción de Tech Mahindra no anda demasiado bien . No es prudente subestimar a la IA; al menos a corto plazo, sospecho que las empresas que apuesten más fuerte por la automatización saldrán ganando.
Los acontecimientos pueden ser menos halagüeños para los jóvenes indios que dependían de la industria para llevar comida a la mesa.
[TCS] es hasta ahora el único proveedor indio de servicios de TI que ha anunciado despidos masivos en la era de la IA, con recortes de más de 12.000 puestos el año pasado. Pero las empresas han advertido que su papel tradicional como grandes contratantes de personal nuevo puede estar llegando a su fin.
Los gigantes de TI del país ya no necesitarán grandes filas de ingenieros de nivel inicial, según V. Balakrishnan, ex director financiero de Infosys.
"El modelo de pirámide se acabó. Con los agentes de programación, ya no necesitamos programación básica", dijo.
Esta observación coincide con la del estudio de Stanford que cubrí a principios de agosto: los efectos de la IA en el empleo son modestos hasta ahora, pero afectan de manera desproporcionada a los jóvenes.
Brasil
Reuters informa que Brasil se está subiendo al carro de la IA, invirtiendo más de 400 millones de dólares en infraestructura de IA y haciendo planes para construir una supercomputadora de IA de gran escala. Lo interesante es que parecen estar repartiendo esta inversión entre empresas estadounidenses y chinas.
No espero que esto cambie mucho la carrera de la IA; las empresas estadounidenses superan con facilidad las inversiones brasileñas en una proporción de mil a uno. Pero la proliferación de infraestructura de IA sí significa que será cada vez más difícil hacer cumplir una detención global cuanto más lo demore el mundo.
Europa
Alarmados hace poco por su evidente dependencia de la IA extranjera, los países europeos se han apresurado a alcanzar a Estados Unidos y China con proyectos subsidiados y ampliaciones de centros de datos. Bloomberg resumió brevemente la posición de la UE en un boletín de hoy, señalando que el financiamiento europeo para la IA sigue siendo insignificante en comparación con el gasto masivo de las empresas estadounidenses.
Europa ha sido blanco de muchas bromas en los círculos de la IA por intentar quedarse con el pastel de la IA y comérselo también. Las regulaciones de la UE parecen haber dado con lo peor de ambos mundos : innecesariamente represivas del uso ordinario de la IA, y gravemente mal enfocadas a la hora de abordar las amenazas más serias.
Pero yo no descartaría a Europa todavía. Una vez dirigí un juego de guerra en el que varios equipos intentaban navegar la creación de una IA superhumana. Los equipos de Estados Unidos y China se pasaron todo el juego saboteándose mutuamente con júbilo y compitiendo con toda su fuerza, mientras que la UE casi no lograba avances en investigación de IA. Parecía que el juego terminaría en aniquilación global, hasta que el equipo de la UE apareció con un pacto sobrio de detención mutua y convenció a sus rivales de firmarlo.
En la vida real, los terceros relativamente neutrales a menudo pueden inyectar un mínimo de cordura en rivalidades peligrosas. Durante la Guerra Fría, los estados neutrales y no alineados sirvieron con frecuencia como mediadores y facilitadores de negociaciones. Por ejemplo, Finlandia albergó de manera célebre la firma del Acta Final de Helsinki en 1975; firmada por 35 naciones, fomentó la cooperación entre rivales, formalizó fronteras antes disputadas y estableció puntos en común sobre derechos humanos.
Europa también tiene la oportunidad de contribuir con investigación técnica. El AISI del Reino Unido ha producido excelente investigación sobre los comportamientos y capacidades de los modelos de IA de frontera prácticamente con un presupuesto mínimo, demostrando en el proceso considerablemente más mentalidad de seguridad que los propios laboratorios de IA. Si Europa logra organizarse en conjunto y financiar la investigación sobre verificación allí donde Estados Unidos y China han fallado hasta ahora, quizá podrían ofrecer una mediación muy necesaria a última hora.
Despacho de Donald
Las aguas crecientes del texto generado por IA
El Pew Research Center intenta medir el nivel del agua
Common Crawl es un archivo público que registra casi tanto de internet como se le permite registrar. (Ha habido disputas con varias empresas de noticias por su falta de respeto a sus muros de pago). Investigadores del Pew Research Center tomaron 490.000 páginas web en inglés de Common Crawl y las procesaron con Open Pangram, un modelo de detección de IA de pesos abiertos.
En una muestra aleatoria de 10.000 páginas web disponibles en julio de 2026, dicen los investigadores, el 10% mostró señales significativas de autoría por IA. Esto no se distribuye de manera uniforme entre todos los tipos de páginas web. Los investigadores incluyeron páginas web de un par de años anteriores al lanzamiento de ChatGPT; en ese periodo, el texto que se registraba como escrito por IA se mantuvo alrededor del 1% sin importar el tipo de dominio. Hoy, las páginas .edu y .gov siguen cerca del 1%, pero el 4,6% de las páginas .org y el 9,4% de las .com fueron marcadas como escritas por IA. Algo más que vale la pena señalar: muchas de las páginas web que existen hoy se publicaron hace años. La cifra del 10% no refleja el ritmo al que se están publicando páginas web escritas por IA. Cuando los investigadores observaron solo las páginas publicadas después del lanzamiento de ChatGPT, la cifra subió al 35%.
Crédito: Pew Research Group .
Hay algunas salvedades que acompañan a estos resultados: la "autoría por IA" incluye la edición intensiva con IA de borradores humanos; los investigadores calificaron las páginas en una escala que va de totalmente humana a totalmente generada por máquina, y agruparon las puntuaciones imperfectas, de modo que "en su mayoría pero no del todo humano" y "basura pura de bot" terminaron en el mismo grupo. Los humanos también están adoptando manías de escritura de la IA, lo que puede inflar la cifra. Segundo, el modelo específico utilizado, Open Pangram, sí marca de más: el 1% de las páginas web generadas antes de ChatGPT fueron marcadas como escritas por IA, como se señaló arriba, pero la tasa real está por debajo del 1% cuando se procesan con el modelo comercial de Pangram. Por último, la cifra del 35% deja fuera las páginas sin fecha de publicación conocida.
Dicho esto, otro estudio de abril de 2026 que usó una metodología diferente encontró la misma cifra del 35% para sitios web recién publicados de 2025. Me parece muy plausible, entonces, que un tercio o más de las páginas web que se publican hoy estén escritas por IA. Buena parte de eso puede ser basura fácil de ignorar, como blogs y agregadores de noticias, pero ni de lejos todo. En el pasado, las tecnologías transformadoras han tardado un tiempo en difundirse, pero estudios como este deberían mostrar con qué rapidez la IA está echando raíces.
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.