En esta edición:
El truco de la “responsabilidad” - Cómo convertir la culpa en permiso
Avances mínimos, en el mejor de los casos, en las conversaciones sobre IA entre Estados Unidos y China - Abrir canales de comunicación no es poca cosa, pero el reloj avanza
Despachos de Mitch
El truco de la “responsabilidad”
Cómo convertir la culpa en permiso
El sumergible Titan . Crédito: OceanGate. Vía Wikipedia .
Hay una táctica de comunicación que está circulando.
Funciona así: alguien, por ejemplo el secretario del Tesoro de Estados Unidos, Scott Bessent, dirá que el ataque a Hugging Face fue “responsabilidad de la dirección de OpenAI, no de un montón de agentes”. Quien escucha asentirá, porque por supuesto que son los seres humanos quienes deben rendir cuentas. Después esa misma persona, de nuevo Bessent en este caso, dirá algo sobre los líderes de estos laboratorios como: “Pueden frenar cuando quieran”. Al fin y al cabo, es su responsabilidad. Son responsables .
¿Lo ven? La culpa es del idioma, que usa la palabra “responsable” de varias maneras según el contexto. En el primer caso hablamos de culpabilidad. En el segundo, de deber. Para el tercero, de virtud. Lo que empezó como un acuerdo implícito de que los laboratorios deben responder por sus productos se convierte en un argumento de que hay que dejarlos hacer lo que quieran, y de que se puede confiar en que lo harán con sensatez.
Con esta lógica, podríamos haber argumentado en contra de intervenir en el descomunal esquema Ponzi de Bernie Madoff, porque Madoff era responsable de las inversiones de sus clientes.
Con esta lógica, las preocupaciones conocidas sobre el sumergible Titan eran secundarias frente al hecho de que el director ejecutivo de OceanGate, Stockton Rush, era responsable de la seguridad de sus pasajeros condenados.
El director ejecutivo de Nvidia, Jensen Huang, ha estado usando mucho este truco. Lo elogiaron por unos comentarios aparentemente impropios de él en el pódcast de Ezra Klein el otro día, en los que dijo que si los laboratorios estuvieran convencidos de que no pueden controlar sus experimentos, “entonces creo que la respuesta es que tenemos que cerrar los laboratorios”. Pero esto ocurrió dentro de una conversación más amplia sobre cómo los laboratorios eran “responsables” de tomar esa decisión:
Si una empresa de automóviles, compitiendo con un montón de otras empresas de automóviles, que es lo que hace. Yo compito con todo tipo de empresas, que es lo que hago. Si creo que estoy a punto de lanzar un producto que no es seguro, está completamente dentro de mi capacidad, mi poder y mi responsabilidad, y tengo incentivos para hacerlo, no lanzar el producto.
Se llama a sí mismo un “optimista responsable”. Dice que tiene “grandes responsabilidades” y que se toma su trabajo “extremadamente en serio”. Pero cuando le preguntaron por el premio Nobel y “padrino” de la IA Geoffrey Hinton, que dijo que un 10 % es una estimación “no irrazonable” de nuestra probabilidad de extinción, Huang respondió que ese tipo de comentarios son “irresponsables”.
El truco de la responsabilidad también sirve para sacar de la conversación el comportamiento descontrolado de la IA. Aquí está Huang otra vez, hablando de los directores ejecutivos de IA que advierten adónde podría llevar ese comportamiento:
Mientras tanto, todas las demás narrativas, para desviar la culpa, para que suene como si la IA fuera tan poderosa, no tengo idea de cómo arreglarlo, no es culpa mía, es solo porque la tecnología es tan poderosa, creo que eso es desviar la culpa. Es desviar la responsabilidad. Es innecesario. En realidad perjudica su reputación más de lo que la ayuda.
Este argumento sirve para decir que cualquiera que afirme que la IA es poderosa o que se portó mal solo está intentando desviar la culpa de los humanos responsables. Es un truco eficaz, porque muchas personas preocupadas por la IA, sobre todo en la izquierda, tienen muchas ganas de que los “tech bros” rindan cuentas y ya estaban acostumbradas a descartar las capacidades de la IA como exageración publicitaria.
La realidad, claro está, es que la IA está empezando a volverse realmente peligrosa. Y los hechos muestran que a las empresas de IA les falta la mezcla de capacidad técnica y sensatez que haría falta para construir una IA sobrehumana que no se descontrolara y terminara al mando de nuestro planeta. No importa cuán bienintencionados o responsables crean ser los laboratorios, ni cuánta culpa tendrían por un desastre. No quedará nadie para demandarlos hasta borrarlos del mapa si la IA ya nos borró antes a nosotros.
Recuerden el truco de la responsabilidad cuando el secretario del Tesoro Bessent diga que los directores ejecutivos de IA preocupados solo buscan un “escudo frente a la responsabilidad legal”. Y cuando el presidente Trump diga “¡Nuestra barrera de protección es el Departamento de Justicia!”.
Recuerden el truco de la responsabilidad cuando el director ejecutivo de una empresa de ciberseguridad diga que las compañías que piden frenar el ritmo intentan “ganarse la simpatía de los reguladores” y un “pase libre”.
Recuerden el truco de la responsabilidad cuando el presidente de la Cámara de Representantes, Mike Johnson, dice que las empresas de IA “ni siquiera tienen ellas mismas la respuesta a día de hoy. Así que no podemos lanzarnos a que el Congreso haga algo que sería perjudicial para la seguridad nacional”.
Recuerden el truco de la responsabilidad cuando un artículo de opinión sostiene que “todavía no entendemos lo suficiente sobre lo que está pasando dentro de estos laboratorios de IA como para crear una respuesta eficaz”, y otra vez cuando ese mismo ensayo hace la afirmación aparentemente sensata de que la automejora recursiva “es un camino absurdamente irresponsable de priorizar”. (El argumento no es “por lo tanto, hay que detenerlos”. Es “ellos son responsables de decidir cuándo parar”).
Y recuerden el truco de la responsabilidad cuando escuchen que Google, OpenAI y Anthropic están en conversaciones para crear su propio organismo de normas de seguridad de la IA, llamado Standards Authority for Frontier AI. Sí, podría ser mejor que nada, pero su función por defecto será existir para que la gente lo señale y diga: “¿Ven? Los laboratorios son responsables de la seguridad de la IA”.
No caigan en el truco. No lo difundan . Usen otras palabras. Las personas que corren por construir una superinteligencia artificial son culpables . Por cualquier cosa que no llegue a la extinción, pueden y deben responder legalmente . Pero no se les puede permitir seguir como hasta ahora, porque si hay algo que definitivamente no son, es responsables .
Avances mínimos, en el mejor de los casos, en las conversaciones sobre IA entre Estados Unidos y China
Abrir canales de comunicación no es poca cosa, pero el reloj avanza
Un Chinese Air Force 3701, la designación de su avión presidencial. Crédito: Edwin Leong . CC BY-SA 2.0 .
Las partes sustanciales de la cumbre han concluido. Por lo que he visto en la cobertura, la administración Trump y la delegación del presidente Xi parecen haber hablado sobre todo sin escucharse, en beneficio de sus agendas personales y de sus públicos internos. La línea de comunicación establecida entre el secretario del Tesoro Scott Bessent y el viceprimer ministro He Lifeng destaca como un punto positivo, pero parece tener más que ver con la gestión de percances que con evitar los desenlaces más catastróficos.
El presidente Trump, recién salido de sus declaraciones en la ONU, donde rebautizó oficialmente la IA como “súper inteligencia” (SI) y rechazó la idea de una gobernanza “globalista” de la IA, dijo ayer a los periodistas, antes de las conversaciones, que quería “dejar [la IA] exactamente donde está”, y que esa era también la posición de China.
Nada en sentido contrario parece haber salido de las conversaciones, aunque Xi hizo algunos comentarios corteses sobre cómo los dos países “pueden tener competencia, pero pueden cooperar aún más” en materia de IA. También dijo : “Tenemos tanto la capacidad como la responsabilidad de desarrollar y gestionar la IA para el bien, y de asegurar que el desarrollo de la IA esté siempre bajo control humano y sirva al bienestar de la gente”.
Ninguna de las declaraciones registradas de Xi lo muestra usando el término “súper inteligencia”, pero Trump publicó que a Xi “pareció gustarle” usarlo.
Ambas partes señalaron que el diálogo sobre la IA continuará.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.