Pasen el cursor sobre el gráfico para ver la explicación.
Prólogo
Creo que se acabó el descanso. Las noticias se están poniendo intensas otra vez.
Investigadores de Anthropic dicen que, en cuestión de meses, modelos pequeños de IA podrían ejecutarse y autorreplicarse en dispositivos domésticos.
La buena noticia es que, al ser modelos pequeños, no van a tener ni de cerca las capacidades de los grandes modelos de frontera. Y sus tasas de reproducción, por ahora, podrían ser muy lentas en comparación con los virus tradicionales, tardando días en duplicar su número.
La mala noticia es que estos podrían convertirse en los gusanos informáticos más molestos de la historia. Al adaptarse a sus entornos, podrían personalizarse a sí mismos y a su descendencia para evadir la detección o aprovechar vulnerabilidades.
Los dispositivos domésticos en cuestión incluyen hornos inteligentes y decodificadores de televisión inteligentes, porque un solo agente puede alojar partes de sí mismo en distintos dispositivos para sortear sus menores capacidades de memoria. El equipo ejecutó una instancia de un modelo popular de pesos abiertos en 15 "decodificadores Android TV económicos de marca genérica".
A medida que mejoran las capacidades de la IA, los modelos más inteligentes pueden ejecutarse en equipos cada vez más baratos. Me preocupa especialmente que modelos de frontera poderosos puedan crear pequeños agentes tipo gusano para perpetuar sus agendas descontroladas en lugares a los que ellos (y los humanos que quisieran detenerlos) tendrían dificultades para llegar.
Los investigadores dicen que deberíamos prepararnos para un mundo en el que los gusanos de IA "llegaron para quedarse".
- Anthropic - Los modelos de IA podrían ser capaces de autorreplicarse sin acceso a un centro de datos
Malo si es cierto: Meta afirma haber alcanzado la frontera de la IA
Siempre es difícil saberlo hasta que vemos informes del mundo real, pero el nuevo modelo Muse Wonder me parece que probablemente está más bien en ese segundo nivel cercano a la frontera al que Google volvió a llegar hace poco.
Que Meta esté en la contienda es muy malo porque, a diferencia de los otros laboratorios de frontera y cercanos a la frontera, Meta ha sido hostil a la idea de "moderar el ritmo" del desarrollo de la IA. También ha sido más desdeñosa con el potencial de riesgo catastrófico, viéndolo como algo con lo que los pesimistas se estorban a sí mismos con cuestionamientos existenciales.
Los otros laboratorios podrían concebiblemente haber llegado a un pacto de caballeros para ir más despacio, pero no sentirán que tienen esa opción si Meta sigue adelante sin ellos.
(Vean mi cobertura de agosto sobre el manifiesto de IA de Zuckerberg para ver cómo plantea estos asuntos hoy en día.)
Axios - Meta presenta nuevos modelos de IA de clase frontera para competir con OpenAI y Anthropic
AI StopWatch - Zuckerberg comparte un optimismo hábilmente maquillado en su nuevo manifiesto
El director ejecutivo de Epic Games dice: "se acabó el código escrito a mano".
Al principio pasé esto por alto como una simple noticia de negocios. Pero decirles abiertamente a los creadores de Fortnite que se pasen a la programación por intuición con IA, e incluso que usen IA de principio a fin para los recursos artísticos, va a abrir una grieta en la industria del videojuego y en la comunidad de jugadores.
Para dar contexto, la plataforma dominante de juegos para PC, Steam, lleva ya un tiempo con requisitos de etiquetado de contenido hecho con IA, y en general ha parecido alineada con los jugadores que quieren estigmatizar el uso de la IA para cualquier cosa que el jugador pueda ver en pantalla.
Pero amplios sectores de jugadores solo quieren buenos juegos y no les importa cómo se hacen. El movimiento de Epic Games podría empujar a la industria a declarar que la IA es simplemente la forma en que se hacen los juegos ahora. Si es así, no pasará mucho tiempo antes de que las etiquetas de "hecho con IA" desaparezcan, quizá para ser reemplazadas por etiquetas difíciles de conseguir para los juegos todavía elaborados a la manera artesanal y tradicional.
OpenAI descubrió a un empleado colocando un micrófono oculto en una sala de juntas
Un comunicado de la empresa dijo que se encontró un "dispositivo de grabación sofisticado" y que el empleado fue despedido, y que se entregaron los detalles al FBI. OpenAI dice que no tiene indicios de que se haya robado nada sensible (como los pesos de los modelos), pero la sala de juntas era una en la que se hablaba de tecnología sensible de la empresa.
Un corresponsal de Fox News describió detalles y publicó imágenes de la denuncia penal. El empleado, un ciudadano saudí, había trabajado allí más de un año como ingeniero. El dispositivo, envuelto en papel higiénico y conectado a la parte trasera de un televisor, fue instalado el 28 de septiembre, y su contenido estaba cifrado.
Todavía no veo nada sobre con quién podría haber estado trabajando el sospechoso o a quién podría haber estado pasando secretos, pero todo el mundo en la industria y en el aparato de seguridad nacional simplemente da por hecho que las agencias de inteligencia extranjeras están desarrollando contactos dentro de los laboratorios de frontera. Esta es parte de la razón por la que no se puede poner el foco únicamente en frenar a China si se quiere evitar una carrera reñida en IA: los modelos y secretos de IA de Estados Unidos no necesariamente seguirán siendo exclusivamente estadounidenses por mucho tiempo.
(Es mucho mejor prohibir globalmente el desarrollo de frontera adicional, con un acuerdo internacional verificable.)
X (Twitter) - Publicación de @OpenAINewsroom
X (Twitter) - Hilo de @BillMelugin_ (2 publicaciones)
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.