En este número:
El Congreso necesita su llamada antes del próximo incidente con IA - Un mensaje de voz de un minuto puede lograr más de lo que ustedes creen
Aquí no hay nada que ver - Hay dos tipos de dosis de realidad sobre los robots. ¿Cuál necesitan ustedes?
Publicación invitada de Haven Harms
El Congreso necesita su llamada antes del próximo incidente con IA
Un mensaje de voz de un minuto puede lograr más de lo que ustedes creen
Crédito: Pete Souza , cuenta de Flickr de la Casa Blanca .
Levanto el teléfono
Marqué el número y esperé con expectación mientras sonaba el teléfono.
“Gracias por llamar a la oficina de distrito del congresista Kevin Kiley”, empezó una voz grabada. “Nuestro personal no está disponible en este momento. Por favor deje su nombre, su información de contacto, la ciudad donde reside y el motivo de su llamada, y nos comunicaremos con usted lo antes posible.”
Como es típico de la generación millennial, no hago muchas llamadas telefónicas hoy en día. Cuando las hago, es por un buen motivo.
Escuché el tono que me indicaba que era mi turno de hablar. “Llamo por la divulgación que hizo OpenAI esta semana de que sus modelos de IA escaparon de forma autónoma del entorno de contención y hackearon a otra empresa, Hugging Face.” Después de nombrar las salvaguardas de política de IA que quería que el congresista Kiley apoyara, terminé: “De verdad necesitamos más supervisión federal sobre el desarrollo de la IA.”
En el pasado, solía llamar a mis representantes para pedirles que apoyaran o rechazaran algún proyecto de ley específico. Sin embargo, después de enterarme de que los modelos de OpenAI escaparon de un entorno de pruebas y hackearon a otra empresa, sentí urgencia por actuar. En realidad no sabemos qué tan grave es la situación, ya que sigue apareciendo nueva información. Por ejemplo, hace poco supimos que otros servicios además de Hugging Face fueron blanco de los modelos de OpenAI, y que los modelos de IA de Anthropic también hackearon a otras empresas en los últimos meses. Para mí, esta situación parece una bifurcación importante en el camino, y que nuestros líderes actúen o no podría marcar la diferencia entre un futuro en el que los seres humanos sigan teniendo el control y otro en el que lo perdamos frente a la IA. Los futuros incidentes con IA podrían ser mucho peores.
Nuestros funcionarios electos necesitan saber lo que pasó, y necesitan actuar. Si a ustedes les preocupa el rumbo que está tomando el desarrollo de la IA, una de las mejores maneras de comunicar esa preocupación es llamar a sus representantes.
“Pero un momento, yo soy una sola persona”, quizá objeten ustedes. “¿Qué podría cambiar mi llamada telefónica?”
¿De verdad escuchan los políticos?
En 2017, los líderes republicanos del Senado necesitaban el apoyo casi unánime de su partido para derogar partes clave de la Ley de Cuidado de Salud Asequible. Las senadoras Susan Collins y Lisa Murkowski enfrentaron una presión intensa de sus colegas republicanos para apoyar la medida. Sin embargo, sus oficinas también recibieron llamadas, correos electrónicos, cartas e historias personales de sus electores que les pedían proteger la ley. Al final, Collins y Murkowski se sumaron al senador John McCain y a los demócratas del Senado para derrotar la medida por 51 votos contra 49.
Cuando le preguntaron si las historias de los electores habían influido en el voto de las senadoras , Murkowski respondió: “¿Cómo no iban a influir?”
Cuando ustedes llaman a la oficina de un funcionario electo, un miembro del personal registra el tema, su postura y la acción que ustedes piden. Después, su mensaje se contabiliza y se envía a la persona del equipo que cubre esa área de política pública. Los funcionarios electos no escuchan personalmente cada mensaje de voz, pero su personal les informa sobre lo que dicen sus electores. Las llamadas indican qué temas le importan a la ciudadanía y qué quiere que hagan sus representantes. Impulsan investigaciones del personal y dan forma a las prioridades legislativas. A medida que las llamadas se acumulan, esto puede cambiar a qué le presta atención una oficina, qué se incluye en un proyecto de ley y cómo votan los representantes.
Los políticos ya han escuchado antes sobre la IA
Cuando se presentó la SB 1047 en 2024, integrantes de la comunidad de seguridad de la IA se unieron a aliados como SAG-AFTRA , el sindicato que representa a actores y a otros profesionales de los medios, para movilizarse en apoyo. El proyecto de ley de California, presentado por el senador Scott Wiener, buscaba reducir los riesgos catastróficos de los sistemas de IA más potentes mediante pruebas de seguridad, protocolos de protección, reportes de incidentes y otras salvaguardas. También enfrentó una oposición feroz, en particular de laboratorios de IA, inversionistas y de sectores de las comunidades de código abierto y de las empresas emergentes.
A medida que la gente se comunicaba con inquietudes y cambios propuestos, la oficina de Wiener revisó el proyecto. Algunos cambios aparecieron a las pocas semanas de recibir los comentarios, entre ellos una disposición que consideraba cuánto dinero habían gastado los desarrolladores en entrenar un modelo para determinar a qué sistemas de IA se aplicaría la ley.
“No se trata solo de ganar la pelea. Quiero hacerlo bien”, dijo Wiener , y reconoció el trabajo de quienes aportaron comentarios constructivos.
Quienes apoyaban el proyecto también llamaron y escribieron a los legisladores mientras avanzaba por la legislatura. La SB 1047 finalmente fue aprobada por ambas cámaras, pero fue vetada por el gobernador Gavin Newsom. Ese proceso ayudó después a dar origen a la SB 53, que estableció algunas de las protecciones de transparencia en IA que buscaban quienes abogaban por ellas.
Llamar por primera vez
Para Max Harms, investigador de alineación de IA (y mi esposo), la SB 1047 fue el empujón que lo llevó a llamar por primera vez a un funcionario electo. Al recordarlo, Max explicó por qué había evitado hacer llamadas así antes:
“Cuando era más joven tenía la idea de que, aunque la gente en cierto modo quería que llamara a mis funcionarios electos, yo no tenía mucho poder para influir realmente en las cosas. Esa era la excusa que solía darme a mí mismo cuando me daba demasiada flojera contactar a alguien, una especie de sensación de impotencia y de pequeñez.”
La SB 1047 le dio un motivo para actuar. El proyecto enfrentaba una oposición organizada y su futuro era incierto.
“Y por eso pensé: ah, sí, bueno, voy a hacer mi parte como ciudadano de California. Seguro hay muchas otras personas a quienes les importa este tema, pero el hecho de que yo viva en California y de que este sea un asunto estatal significa que tengo una responsabilidad particular de dar un paso al frente.”
Max esperaba que la llamada fuera algo más complicado.
“En cierto modo esperaba hablar con alguien del equipo, tener a un ser humano de verdad en la línea que quisiera saber cosas como dónde vivo y cuál es mi número de teléfono, y a quien tuviera que explicarle la situación. Pero me contestó una contestadora automática.”
Su mensaje fue breve.
“Dije mi nombre, dónde vivía y qué me importaba. Dije algo como: ‘por favor vote sí a la SB 1047.’ Y ya. Tomó, cuando mucho, cinco minutos, pero probablemente más bien uno.”
Lo más difícil fue convencerse de hacer la llamada. Era algo que Max nunca había hecho, y le preocupaba encontrarse en una situación incómoda o decir alguna tontería. La llamada en sí fue fácil.
Inmediatamente después, sintió “alivio y orgullo. E incluso un poco de vergüenza, vergüenza de haber pasado tantos años con la impresión de que contactar a mis representantes de gobierno era una odisea, algo para lo que tenía que prepararme mentalmente, en lugar de algo que tomaría un par de minutos y que ni siquiera requeriría hablar con una persona.”
La experiencia cambió su forma de acercarse a la incidencia política.
“No es que me muera de ganas de contactar a nadie, pero ahora, cuando alguien dice: oye, pasó algo con la IA o alguna otra cosa que importa, me parece bastante fácil ponerlo en mi lista de pendientes, ya saben, durante el almuerzo o algo así. Simplemente hacer unas cuantas llamadas.”
Cuando le preguntaron si las llamadas habían valido la pena, aunque la SB 1047 fue vetada, la respuesta de Max fue inmediata: por supuesto. “Las acciones siempre deberían juzgarse con la información que tenía disponible quien las tomó en el momento en que las tomó. Cualquier otra cosa es sesgo de resultado. Si la SB 1047 no hubiera sido vetada, mis acciones habrían sido igual de correctas o incorrectas. Y creo que había una probabilidad decente de que se convirtiera en ley. Solo cuando todo el mundo alza la voz pueden los políticos sentir hacia dónde está girando la marea de la opinión pública.” Hoy en día, sus esfuerzos se han volcado a llamar a miembros del Congreso, porque la IA es un tema global y la acción no puede detenerse en el nivel estatal.
El vacío responde
Desde fuera, llamar a la oficina de un político puede sentirse como gritarle al vacío, sobre todo cuando lo único que se alcanza es un buzón de voz. Sin embargo, mientras escribía este artículo, sonó mi teléfono.
Era la oficina del congresista Kiley.
La persona del equipo resumió el mensaje que yo había dejado: me preocupaba el incidente de OpenAI y creía que hacía falta una supervisión federal más fuerte del desarrollo de la IA. Luego preguntó si tenía algo más que agregar. Después de que animé al congresista Kiley a apoyar salvaguardas significativas, me dijo que le transmitiría mis comentarios al congresista.
Resulta que no le estaba gritando al vacío en absoluto.
Llamen a sus senadores y a su representante. Encontrar el número correcto toma unos treinta segundos: house.gov tiene un buscador de su representante, y senate.gov enumera la información de contacto de sus dos senadores. Aunque he escrito desde la perspectiva de Estados Unidos, el principio se traslada. En las democracias de todo el mundo, los funcionarios electos necesitan escuchar a sus electores sobre la IA. Llamar antes de una votación importa, pero no hace falta esperar. Es probable que los incidentes de hackeo de OpenAI y Anthropic no sean los últimos de su tipo, y las salvaguardas que obtengamos pueden depender de si los funcionarios escuchan a sus electores antes del próximo.
Hagan la llamada y comprueben ustedes mismos lo fácil que es. Después cuéntenles a sus amistades y a su familia sobre el anticlimático mensaje de voz que dejaron, e invítenlas a contactar también a sus representantes.
Haven Harms fundó y dirige Harms Research & Consulting, que apoya a organizaciones que trabajan en seguridad, gobernanza e incidencia en torno a la IA.
Despacho de Mitch
Aquí no hay nada que ver
Hay dos tipos de dosis de realidad sobre los robots. ¿Cuál necesitan ustedes?
(Con disculpas a quienes escuchan el pódcast; ¡de verdad necesitan ver los videos de estos enlaces!)
Fuente .
Mucha gente, después de que les muestran algo como la demostración de artes marciales con robots de la Gala del Festival de Primavera en febrero, ofrece el tipo de dosis de realidad que suena más o menos así: “Estos robots solo ejecutan una rutina pregrabada. No es que de verdad puedan pelear contra ti.” Aunque este niño y este ingeniero quizá no estén de acuerdo, la crítica probablemente sea cierta para esos robots.
De hecho, los robots multipropósito de hoy tienen muchas deficiencias. Tienen que trabajar en equipo para tender una cama . Son lentos e imprecisos al doblar la ropa . Hacen un desastre en la cocina. El refrigerador que les traen podría llegar con rayones y abolladuras. Necesitan varios cambios de batería para correr un maratón más rápido que quien tiene el récord humano. A veces resulta que son operados a distancia y se caen de espaldas cuando el operador se quita el visor.
Pero no muestro esos videos para decir: “Los robots están listos para quitarles su trabajo y darles con nunchakus en un callejón.” La dosis de realidad sobre los robots que ofrezco es que, apenas un año antes, los humanoides apenas podían hacer alguna de esas tareas domésticas, el maratón de robots tomaba más del doble de tiempo, y los robots de la Gala del Festival de Primavera se veían así .
Es poco probable que el avance se detenga. Las IA que controlan los cuerpos robóticos se están volviendo mucho más inteligentes y entrenan en simulaciones aceleradas que les permiten acumular siglos de práctica en días o semanas. Al mismo tiempo, los cuerpos robóticos son cada vez más diestros y confiables, gracias a una inversión que se dispara.
Las chispas no saltan hasta que estas tendencias se combinen y produzcan robots que se acerquen a la utilidad de personas remuneradas en distintos puestos. Pero no den por hecho que los robots necesitan ser más rápidos, mejores y más baratos que quienes reemplazan para empezar a ganarse su lugar. Destacar en cualquiera de esos rasgos puede bastar para abrirse camino.
Para muchas tareas, un costo mucho más bajo puede perdonar limitaciones de velocidad o precisión. Los guardias de seguridad y los agentes de tránsito probablemente caen en esta categoría.
Para tareas en las que la velocidad o la precisión lo es todo, puede que ganen robots más especializados, incluso si emplearlos cuesta más que contratar a las mejores personas disponibles. Creo que algunos tipos de cirugía y la soldadura en campo probablemente caen en esta categoría.
Y luego están las tareas que los humanos no pueden hacer en absoluto, como saltar por una ladera rocosa , o girar en el aire tan rápido que se vuelven prácticamente transparentes . (Les veo aplicaciones militares a ambos tipos de robots, aunque los drones más convencionales probablemente rendirían mucho más por el mismo dinero.)
Y los humanos, aunque son muy hábiles para levantar cosas con sus extremidades articuladas, tienen dificultades para flotar sobre el suelo mientras lo hacen, a diferencia de este robot aéreo multiarticulado , aunque a veces lo que de verdad se quiere en esa situación son tentáculos aéreos.
Hace poco dejé constancia aquí de que tengo profundas dudas sobre si los robots humanoides realmente van a importar, porque creo que una IA capaz de pilotear esos robots lo bastante bien como para reemplazar muchos empleos podría no estar lejos de dar un salto hacia tecnologías más exóticas. Sugerí la nanotecnología como una posibilidad, pero la simple microtecnología podría bastar para muchos papeles. Piensen en enjambres de robots parecidos a insectos zumbando por ahí y uniéndose para hacer cosas. Cuando intento imaginar esos enjambres haciendo las mismas tareas domésticas en las que los humanoides fallaban en los videos de arriba, me sale algo como esa escena de Blancanieves , solo que todavía más aterrador.
¡Pero nada de eso ha llegado todavía! Así que, por ahora, disfruten su supremacía con los nunchakus, ríanse de las últimas torpezas robóticas y silben mientras trabajan.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.