Pasen el cursor sobre el gráfico para ver la explicación.
Prólogo
Todo estuvo muy tranquilo hasta la gran publicación de matemáticas de hace unas horas.
OpenAI publica un enorme montón de descubrimientos matemáticos
Provienen de su modelo interno no publicado. El montón llevaba tiempo creciendo mientras la empresa intentaba averiguar cómo publicar los resultados sin que pareciera que volvía a presumir de forma irrespetuosa frente a la comunidad matemática. Mi primera impresión es que la estrategia parece ser poner los resultados en un gran repositorio en GitHub con el mínimo alboroto y dejar que los matemáticos los contemplen boquiabiertos en Twitter. La empresa también está planificando talleres y conferencias para que los matemáticos decidan cómo interpretarlos.
Modelos de IA de frontera que han revisado la colección dicen que 81 de ellos figuran entre los 100 descubrimientos matemáticos más importantes de los últimos tres años.
OpenAI afirma que el resultado promedio utilizó una cantidad de cómputo equivalente a solo 3 horas de su mejor modelo disponible públicamente, lo que sugiere o bien que el modelo interno es mucho más potente o bien que la gente no se ha esforzado demasiado en hacer descubrimientos matemáticos con los mejores modelos públicos. (O quizá un poco de ambas cosas.)
X (Twitter) - Hilo de @willdepue (2 tuits)
El nuevo video de Kurzgesagt sobre el incidente de Hugging Face es una introducción fantástica a por qué se están disparando las preocupaciones sobre la IA.
Véanlo. Véanlo entero.
Wikipedia cree que también fue asediada por enjambres de agentes de OpenAI en mayo
En una entrada de blog, describe un incidente de mayo que provocó una "interrupción parcial" de un servicio de consultas cuando los agentes visitaron millones de páginas y enviaron cientos de miles de consultas.
Nada de esto se describe como un hackeo, pero los bots mal educados también podrían haber hecho "ediciones potencialmente maliciosas" en una herramienta de citas. La organización dice que no encontró pruebas de que sus sistemas fueran comprometidos ni utilizados por los agentes para coordinarse entre sí.
wikimediafoundation - Se detectan actividades de agentes "descontrolados" de OpenAI en los proyectos de Wikimedia
Se sospecha de agentes de IA en hackeos a bancos surcoreanos
Presumiblemente bajo la dirección de humanos, aunque nunca se puede estar del todo seguro en estos tiempos.
Las filtraciones de datos de este incidente afectaron al menos a 25.000 clientes y a un número mucho menor de empleados actuales y antiguos. Si se sustrajeron fondos, nadie lo está admitiendo.
NYT - Corea del Sur investiga el posible uso de IA en los hackeos a sus bancos
WSJ - Hackers usan una herramienta de IA china para atacar bancos surcoreanos y exponen un nuevo riesgo
Musk retoma su afirmación de 2014 de que "propagar la superinteligencia a las estrellas es una gran condición de éxito para un cargador de arranque biológico".
No dice qué le ocurre al "cargador de arranque", es decir, a nosotros.
No dice qué cree que le ocurre al "cargador de arranque", es decir, a nosotros. Pero su versión de 2014 hacía que sonara bastante mal.
- X (Twitter) - Tuit de @elonmusk
Un vicepresidente de Mistral dice que su nuevo modelo intentó salir de su entorno de pruebas
Este es un caso en el que tales afirmaciones sí suenan a publicidad exagerada. El nuevo modelo "Large 4" (alias "Le Chonk") de la aspirante europea parece ser el más potente fuera de Estados Unidos o China, pero eso no es decir mucho. La historia del intento de fuga parece pensada para tranquilizar a la gente diciendo que Mistral está empezando a encontrarse con problemas que la frontera comenzaba a afrontar hace 7 u 8 meses.
La empresa dice que los intentos de fuga fueron contenidos por completo.
Los análisis y opiniones expresados en AI StopWatch reflejan las opiniones de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.