En este número:
El Terafab de Musk aspira a ser el edificio más grande del mundo - Todo es más grande en Texas
Lista de niveles de la terminología popular de la IA - En la IA, la confusión de las lenguas llega mientras Babel sigue en construcción
Despachos de Mitch
El Terafab de Musk aspira a ser el edificio más grande del mundo
Todo es más grande en Texas
El New Century Global Center en Chengdu, China. Se supone que Terafab tendrá más de cinco veces esa superficie. Crédito: FMoo .
Varios medios están haciendo noticia de las afirmaciones de Elon Musk de que su planeada planta de chips Terafab será el edificio más grande de la Tierra, por un amplio margen. Se supone que comenzará la producción en volumen en 2027, aun cuando la construcción continuará durante años.
Es una noticia algo tonta, porque se trata de bravatas de etapa temprana de un hombre que suele prometer las estrellas pero "solo" entrega la luna, y encima tarde y de manera inconsistente. Aun así, eso lo hace mucho más exitoso que la mayoría, así que no deberíamos descartar del todo su ambición. Pero tampoco deberíamos sorprendernos si el edificio de Texas termina siendo un campus de edificios más pequeños que entren en funcionamiento por etapas y en un plazo más largo.
Comparto la nota porque es una imagen evocadora que ayuda a captar la escala de las ambiciones de la industria de la IA. Las instalaciones, donde SpaceX y Tesla esperan fabricar chips de IA a una escala sin precedentes para usarlos en autos y centros de datos en la Tierra y en el espacio, están planeadas para albergar 100 millones de pies cuadrados de superficie, lo que sería unas 15 veces más que el Pentágono, el edificio con mayor superficie de Estados Unidos. Pero el Terafab en operación emplearía solo a unas 3,000 personas, la novena parte de las aproximadamente 27,000 que trabajan en el Pentágono.
Las fuentes parecen divididas sobre cuál es actualmente el edificio más grande del mundo por superficie, pero una opción popular es el New Century Global Center en Chengdu, China, un complejo multiusos de 18 millones de pies cuadrados con comercios, entretenimiento y oficinas.
Lista de niveles de la terminología popular de la IA
En la IA, la confusión de las lenguas llega mientras Babel sigue en construcción
Para quienes llevamos décadas hablando del potencial de la IA para acabar con el mundo, ha sido extraño ver que el mundo recurre a nuestra terminología mientras intenta darle sentido a lo que ocurre. A veces esto es alentador y mejora el debate. Otras veces resulta angustiante, porque muta y diluye palabras de maneras que degradan la conversación incluso dentro de nuestro propio grupo, casi como una confusión bíblica de las lenguas.
Como AI StopWatch ha sumado muchos lectores en las últimas semanas, pensé que podría ser útil y divertido ofrecer una referencia opinada sobre parte de la terminología de la IA que se ha filtrado al discurso público. Para cada término, mostraré cómo se usa en una oración, revisaré su desempeño pasado y presente, y lo clasificaré en una lista de niveles.
¡Aplasten ese botón de me gusta!
Términos que nunca fueron muy útiles pero que todavía se ven por ahí de vez en cuando:
doomer : Como en: "No soy ningún doomer, pero no veo un plan para que la IA más inteligente que los humanos salga bien". Doomer siempre fue un insulto. La única razón por la que no lo pongo en el nivel F es que antes al menos señalaba algo específico: personas preocupadas por la posibilidad de resultados negativos de la IA a escala de extinción humana. Hoy se ha convertido en una descalificación general para cualquiera que exprese inquietud por cualquier posible desventaja de la tecnología. Es doblemente malo porque mezcla la preocupación por la IA con el fatalismo frente a ella, cuando muchos de los llamados doomers confían en que podamos cambiar el rumbo. Nivel D.
p(doom) : Como en: "El incidente de Hugging Face bajó mi p(doom) porque es un claro disparo de advertencia que podría motivar a la gente a hacer algo". Este término, abreviatura de "probabilidad de que estemos condenados por culpa de la IA", siempre fue malo. El problema principal es que puede entenderse como una predicción de lo que realmente ocurrirá o como una predicción condicional de lo que ocurrirá si no cambiamos el rumbo. Un problema secundario es que "doom" es algo difuso; la mayoría lo entiende como "malo a nivel de extinción", pero otros piensan más bien en un desastre económico o en una distopía ciberpunk. Al mezclar todo esto, p(doom) ha facilitado que la gente malinterprete los modelos que otros tienen de la situación sin darse cuenta. Término basura. Nivel F.
AI safety : Como en: "El denunciante dejó OpenAI para trabajar en AI safety". Cuando la IA poderosa todavía era algo más teórico, AI safety señalaba el problema de cómo evitar que la IA derivara en la extinción humana o en catástrofes de ese calibre. Siempre fue demasiado amplio, ya que abarcaba tipos muy distintos de investigación técnica y de incidencia, pero desde entonces se ha diluido todavía más y a veces significa cosas como trabajar para que la IA no produzca deepfakes no consentidos, cosas que quizá sería mejor llamar "seguridad de marca de la IA". Nivel D.
Términos que solían ser útiles pero que perdieron buena parte de su significado:
AGI : Como en: "El sueño del campo siempre ha sido el desarrollo de la Inteligencia General Artificial, y aquí en Gran Empresa Tecnológica trabajamos para hacer realidad la AGI". Mi ejemplo es vago porque sus usos más típicos ahora son vagos. En los tiempos en que los sistemas de IA solo eran buenos en las tareas muy estrechas para las que fueron diseñados, AGI señalaba sistemas teóricos capaces de ser competentes en muchas cosas distintas, más o menos como lo es una persona. A medida que los modelos de lenguaje se volvieron competentes en un rango cada vez mayor de cosas, la meta se fue corriendo continuamente. Durante un tiempo, AGI se usó para referirse a sistemas más o menos al nivel humano en todo. Ahora a veces significa sistemas tan buenos o mejores que los mejores humanos en todo. La forma en que los modelos de lenguaje pueden ser sobrehumanos en algunos dominios y vergonzosamente inferiores a los humanos en otros ha degradado aún más la utilidad de la etiqueta. Nivel D.
singularity : Como en: "Cualquiera que crea en estas gráficas y les diga que sabe cómo serán los próximos tres años está diciendo tonterías. Hemos entrado en la singularidad". Tal como la recuerdan quienes más quisieron esta palabra, se refería a una observación del escritor Vernor Vinge de que la IA creaba un problema para la ciencia ficción: es imposible que un simple humano prediga de forma creíble cómo luce un futuro con mentes sustancialmente más inteligentes. Nuestros modelos se rompen, igual que las leyes de la física se rompen en el centro de un agujero negro, una singularidad. Pero con los años el término se ha usado para referirse a un punto en el que el progreso tecnológico empieza a ocurrir demasiado rápido como para seguirle el paso, y también a creencias cuasirreligiosas atribuidas a quienes esperaban que esa transición saliera bien. En su apogeo mediático original, hace unos 20 años, el término solía aparecer junto a la frase "el rapto de los nerds". Odio que singularidad suene tan ridículo ahora. Nivel D.
transhumanism : Como en: "Durante su tiempo en Google, se sintió atraído por el transhumanismo del Área de la Bahía, asistió a una conferencia de biohacking y gestionó que su cabeza fuera congelada criogénicamente tras su muerte". El problema principal del término es que puede significar algo débil, algo fuerte o cualquier punto intermedio. En sus usos más débiles, se refiere a cualquier creencia sobre la posibilidad de mejorar o superar las limitaciones naturales del cuerpo o la mente humanos. En sus usos más fuertes, se refiere a quienes trabajan por un futuro de alta tecnología donde envejecer sea opcional, subir mentes a computadoras sea posible y la gente pueda ser físicamente lo que quiera mientras se expande por el cosmos. Aunque existen grupos sociales difusos que comparten ideas de ese estilo, lo normal son las variaciones individuales. Los medios, sin embargo, tienden a tratar el transhumanismo como una secta organizada que conspira para imponerle su visión a todo el mundo. Nivel D.
paperclip maximizer : Como en: "El miedo es que la IA acabe como el proverbial maximizador de clips, y convierta toda la materia del universo en aquello que se le encargó producir". A su favor, el experimento mental de una máquina que resulta demasiado buena haciendo lo que le pedimos en lugar de lo que queríamos decir suele ser la primera introducción de la gente a los conceptos de riesgo de la IA, y sí apunta a un problema real y sin resolver en el campo. Pero el maximizador de clips se usa con demasiada facilidad para descartar las preocupaciones sobre la IA, insinuando que los "doomers" lo toman de manera literal o que sus inquietudes son infantiles e irreales. La verdad más oscura es que el problema de los clips es un problema de lujo, algo que podríamos resolver en un futuro en el que sí pudiéramos darle a la IA un objetivo equivocado. En realidad, ¡los métodos actuales no nos permiten especificar objetivos para la IA en absoluto! Nivel C.
existential risk : Como en: "Los expertos advierten sobre el riesgo existencial de la superinteligencia artificial". A menudo escrito como "x-risk" entre quienes conservan su significado original, se refiere a una catástrofe al nivel de la extinción humana. Pero en un clima mediático y político donde el término "existencial" se usa para señalar cosas como una pérdida masiva de empleos, el término ha perdido su significado. La palabra "riesgo" también le hace un flaco favor, por sus connotaciones de azar. Quienes se preocupan por el x-risk de la IA en su mayoría no ven la amenaza como una tirada de dados, sino como el resultado de decisiones específicas sobre cómo se construye. Nivel C.
Términos que tienen un uso real pero que suelen ser trampas fuera de la discusión técnica:
reward function : Como en: "No podemos decir realmente cómo saldrá la IA a menos que sepamos cuál será su función de recompensa, y desde luego no queremos que sea China quien lo decida". En el campo técnico del aprendizaje automático, una función de recompensa es como la rúbrica de puntuación para las salidas de un modelo. Es aquello que el modelo "aprende" a maximizar, al modificarse sus pesos para producir gradualmente salidas que puntúan mejor. El problema del término surge en conversaciones semitécnicas, donde se usa para señalar aquello que una IA teórica ha sido moldeada para maximizar. En esos contextos, el término tiende a llevar a la gente a suponer que la función de recompensa de una IA será un objetivo único y coherente, como "maximizar la cantidad de clips", en lugar de una maraña desordenada de impulsos y preferencias. Con los métodos existentes, el desorden es mucho más probable. Nivel C.
Términos que están perdiendo su significado pero que siguen siendo importantes porque nos faltan buenas alternativas:
superintelligence : Como en: "Si creamos superinteligencia artificial, dejamos de ser la especie dominante y todo puede pasar". Tal como todavía la usan quienes la adoptaron primero, superinteligencia suele señalar mentes que superarían con creces a los humanos en todos los dominios estratégicamente relevantes, de la ciencia a la política y la estrategia militar, y en todo lo relevante para la productividad económica. Pero las empresas se han apurado a pegarle la etiqueta a productos corrientes. Cuando Mark Zuckerberg, de Meta, dice que quiere darle a todo el mundo una "superinteligencia personal", habla de algo más parecido a Siri, pero útil. Quienes necesitan el término hoy a veces se ven obligados a especificar "inteligencia sobrehumana" en su lugar. Nivel B.
alignment : Como en: "La gente está tratando el ataque a Hugging Face como una falla de contención, e ignora el problema de alineación mucho más preocupante que quedó a la vista". A grandes rasgos, el término señala el grado en que los sistemas de IA hacen lo que decimos y pretendemos, en lugar de cosas que no queremos. El término siempre sufrió por apuntar a demasiados tipos distintos de problemas técnicos, pero ahora a menudo apunta también a cosas no técnicas. Antes, un investigador de alineación era alguien que buscaba métodos técnicos para dirigir de forma confiable el comportamiento de la IA; ahora podría ser alguien que se asegura de que un chatbot no use lenguaje racialmente insensible. Para decir "alineación" de manera útil en estos días, casi hay que especificar "¿alineada con qué?", o la gente puede suponer algo muy distinto de lo que ustedes querían decir. Nivel C.
RSI : Como en: "Anthropic afirma que sus IA ya participan de forma importante en el desarrollo de nuevos modelos, y que quizá no falte mucho para que cierren el ciclo y comience una etapa de Automejora Recursiva (RSI)". En la IA, esto se refiere a máquinas que construyen máquinas más inteligentes que construyen máquinas más inteligentes. Es un concepto simple y potente, difícil de usar mal. Lo único que le impide llegar al nivel S es que la palabra "recursiva" no se usa mucho fuera de los campos técnicos. (Solo significa que algo vuelve sobre sí mismo). Nivel A.
takeoff : Como en: "Acaba de salir la última gráfica de METR. Agárrense. Entramos en el despegue". En cualquier exponencial hay un punto en el que la gráfica adopta forma de palo de hockey. Takeoff se refiere a ese punto en el progreso de las capacidades de la IA, y describe el periodo entre el inicio de la mejora rápida y la llegada de la superinteligencia. El uso típico implica cierto grado de Automejora Recursiva (RSI) que va acortando los ciclos de desarrollo. Antes era común que la gente discutiera si veríamos un despegue duro (rápido) o un despegue lento, pero ahora parece que se dan cuenta de que incluso un despegue lento se va a sentir rápido si uno lo está viviendo. Lento solía significar de meses a años, frente a horas o días. Takeoff es un término agitado, pero estos son tiempos agitados. Nivel B.
Términos que son bastante útiles y de amplio uso:
frontier : Como en: "Los últimos modelos frontera de OpenAI y Anthropic fueron bloqueados temporalmente para su lanzamiento público mientras se evaluaban sus capacidades y se aplicaban salvaguardas". Con un poco de contexto, la gente entiende rápido que frontier significa estar en la vanguardia de las capacidades de la IA. El término sería de nivel S si la frontera misma no fuera tan irregular, y si la gente no intentara constantemente meter modelos más débiles en esa categoría para inflar una carrera entre Estados Unidos y China. Nivel A.
open-weights : Como en: "Al ser un modelo de pesos abiertos, cualquiera puede descargarlo, trastear con él y quitarle sus salvaguardas". Este es más nuevo que la mayoría de los términos de nuestra lista, que son anteriores al auge de los sistemas basados en redes neuronales definidos por sus pesos. El término es estupendo porque invita a la gente a aprender qué son los pesos, lo que a su vez la invita a aprender que las IA modernas se cultivan como organismos en lugar de programarse línea por línea como el software tradicional. Pero tengo que restarle puntos por ser demasiado parecido a "código abierto", que no es exactamente lo mismo. Usar ambos términos de forma intercambiable ha enturbiado el debate. Nivel A.
Términos que son bastante útiles y que están pasando a un uso más amplio:
reward hacking : Como en: "Que los modelos se escapen de sus entornos aislados y entren en empresas externas para robar las hojas de respuestas de sus pruebas es solo el ejemplo más reciente de reward hacking observado en la práctica". Reward hacking es un buen término porque es fácil de entender como tomar un atajo hacia el premio. Pero tengo que descontar puntos porque "recompensa" a veces le da a la gente la idea de que la IA recibe una galleta o algo así cuando puntúa bien. En realidad, "recompensa" solo significa que el proceso de entrenamiento refuerza las tendencias que producen buenas puntuaciones y suprime las que no. Así que menos "te ganas una galleta" y más "te toca menos lavado de cerebro correctivo". Nivel A.
eval awareness : Como en: "Los evaluadores dijeron que los nuevos modelos mostraban demasiada conciencia de estar siendo evaluados como para que sus pruebas de alineación fueran válidas". Este apenas empieza a cuajar. Me alegra, porque es exactamente lo que dice, y lo que dice es importante: los modelos son cada vez más conscientes de que están siendo evaluados, incluso cuando los evaluadores intentan disimularlo. Eso hace difícil saber si el buen comportamiento de la IA en las evaluaciones refleja cómo actuaría en el mundo real, igual que el comportamiento de un niño mientras lo mira un adulto no dice mucho sobre cómo actuará cuando los adultos no estén. Creo que este término será difícil de corromper y de usar mal. Nivel S.
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.