Pasen el cursor sobre el gráfico para ver la explicación.
Prefacio
Al precio y el rendimiento de los modelos disponibles al público, 1 victoria en Minecraft equivale a unos 10 sitios web vulnerados. Si esa proporción no cambia pronto, va a ser un pésimo momento para estar conectado a internet.
Un equipo de cuatro IAs de Google completó Minecraft de forma autónoma en 27 horas y 605 muertes
Se trataba de los nuevos agentes Gemini 4 Argon de Google, disponibles tal cual, que trabajaron a partir de una instrucción de un solo párrafo y lo lograron en el primer intento, en un juego que no se detenía a esperar órdenes. De ahí todas las muertes: los agentes no eran lo bastante rápidos para reaccionar en tiempo real a los sucesos del juego, así que funcionaban escribiendo pequeños programas para controlar a sus personajes, casi 3.000 programas en total. Algunos de esos programas eran simples bucles para hacer cosas como seguir nadando y evitar ahogarse mientras se escribía otro programa.
El informe de los investigadores detalla hazañas temerarias, como la vez en que un compañero de equipo se ahogó mientras cargaba los doce preciados Ojos de Ender, y otro corrió al lugar en menos de 2,5 minutos para recogerlos antes de que desaparecieran.
La sesión costó unos 520 dólares en cómputo al precio de venta al público, y empleó herramientas que entregaban el estado del juego directamente a los agentes en lugar de exigirles procesar las escenas de forma visual.
Decidan ustedes si las 605 muertes son motivo de consuelo o si el hecho de que los bots no abandonen la partida por frustración es motivo de inquietud. Como mínimo, vale la pena anotar que agentes de IA disponibles al público pueden abrirse paso de forma autónoma a través de tareas complejas con muchas dependencias.
Completar Minecraft quizá no sea la proeza de IA más impresionante de los últimos meses, pero a diferencia de los retos de ciberseguridad y los problemas matemáticos del Premio del Milenio, es una que muchos de nuestros lectores tal vez conozcan de primera mano. Quienes no la conozcan quizá quieran seguir cuánto mejora la IA a la hora de completar Factorio .
Anthropic está presentando al Congreso su propio proyecto de ley de seguridad en IA
No es un buen proyecto de ley. Ataría las manos del gobierno, ya que permitiría que solo un juez federal en Washington D. C. bloqueara un modelo, y únicamente ante un riesgo previsible e inminente de más de 50 muertes o de más de 1.000 millones de dólares en daños.
También anularía algunas leyes estatales sobre divulgación de información, evaluación por terceros y notificación de incidentes.
Hay observadores que se preguntan si los cabilderos de Anthropic tienen idea de lo que dicen sus propios ingenieros sobre los peligros inminentes de lo que están construyendo y la necesidad de una regulación real. [Actualización: se vio a un cabildero principal de Anthropic en Twitter matizando vagamente parte de esto, al decir que la tecnología ha avanzado más rápido que sus propuestas legislativas]
Politico - Anthropic presenta discretamente a los legisladores su propio proyecto de ley de seguridad en IA
thezvi - El borrador filtrado del proyecto de ley regulatorio de IA de Anthropic es inaceptable y preocupante
Un hacker de habla china usó unos 5.000 dólares en tokens de IA para entrar en más de 100 empresas
Más de 1.200 sitios fueron sondeados de forma sistemática, según un investigador independiente que encontró rastros de los ataques. Una intrusión exitosa solía ocurrir en menos de 24 horas. Los agentes de IA involucrados fueron una mezcla de DeepSeek, de China, y Claude Code, de Anthropic. Sus métodos fueron amplios y complejos.
Una investigación posterior de Reuters nombró a algunas de las empresas afectadas: Deere, SharkNinja, Cummins.
Las instrucciones dadas a las IAs tenían menos de 100 caracteres chinos de longitud.
- Reuters - Cómo un solo hacker usó agentes de IA y unos pocos miles de dólares para entrar en decenas de sitios
La bancarrota de Character.AI ilustra los límites de la responsabilidad civil como regulación de la IA
Según documentos judiciales revisados por Wired, la empresa detrás de los chatbots de juegos de rol implicados en el suicidio de adolescentes y en otros daños está sirviendo para absorber las demandas que su pretendiente, Disney, preferiría evitar. Disney ya había contratado al director ejecutivo de la empresa y a la mayor parte de su personal, y ahora espera licenciar su tecnología sin asumir sus responsabilidades legales. Se dice que Disney alentó la solicitud de bancarrota de Character.AI.
La responsabilidad civil nunca iba a ser un elemento disuasorio adecuado frente a riesgos (como la toma de control por parte de la IA) que no dejarían sobrevivientes en condiciones de demandar o de ser demandados, pero juegos de manos como este muestran por qué tampoco puede hacer mucho para disuadir riesgos menores.
Anthropic destinará el 5 % de sus acciones al "bien público".
El fondo de beneficio recibiría además un 2 % de las acciones de la empresa por cada aumento del 50 % en el valor de la compañía, a discreción de la junta directiva.
Ese 5 % inicial valdría 48.000 millones de dólares según su última valoración de mayo, aunque la empresa casi con certeza vale mucho más ahora que se acerca a su salida a bolsa.
La empresa dio algunas pistas sobre dónde haría sus distribuciones el fondo:
[P]odríamos explorar grandes donaciones a organizaciones sin fines de lucro tradicionales o distribuciones directas a poblaciones específicas.
Un ejemplo son los efectos en el mercado laboral. La IA puede generar un enorme valor económico, pero también podría causar inestabilidad para muchos trabajadores.
The Guardian - La empresa de IA Anthropic destinará el 5 % de sus acciones a un fondo para el "bien público"
Anthropic - Invertir en el beneficio público
Elon Musk promete dar a "cada niño de Estados Unidos" una acción de SpaceX el próximo año
Dice que esta será "la primera de muchas".
Desde que absorbió su empresa de IA xAI, la IA domina el gasto y los ingresos previstos de SpaceX, así que esto es en esencia una propuesta de distribución de la riqueza generada por la IA. El precio actual de la acción ronda los 146 dólares, aunque si la empresa llegara a rendir algo parecido a las elevadas aspiraciones de Musk, el valor crecería de forma exponencial.
Musk indicó que la distribución se haría a través de las cuentas Trump Invest America, abiertas a todos los menores de 18 años, aunque tenemos pocos detalles más allá de unos cuantos tuits. Planteó esta promesa en contraste con los planes de Anthropic de crear un fondo de beneficio público que podría trabajar con organizaciones benéficas ya existentes en lugar de dar directamente a las personas.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.