Pasen el cursor sobre el gráfico para ver la explicación.
Prólogo
La densidad de noticias sobre IA ha retrocedido a los niveles previos a la renuncia de Coxon. Parte de esto es inexcusable, como la ausencia casi total de artículos en los medios tradicionales sobre la publicación por parte de OpenAI de 722 artículos de matemáticas a principios de esta semana, con soluciones a más de 300 problemas abiertos.
Seguimos esperando a que caigan los demás zapatos: se rumorea que ese lote de resultados matemáticos es solo el primero de tres que la empresa ha mantenido guardados.
“Salir corriendo por un precipicio y caminar lentamente hacia un precipicio no son cosas tan distintas.”
Eso es lo que significa “marcar el ritmo de la frontera” para David Robinson, quien durante mucho tiempo redactó los informes de seguridad de OpenAI. Hace poco dejó la empresa y aparece hoy en el pódcast de Ezra Klein advirtiendo sobre la “cultura insegura” de la industria.
El libro que recomienda al final del programa es “The Challenger Launch Decision”, sobre la deficiente cultura de seguridad que provocó el desastre del transbordador espacial.
El efecto intimidatorio de despedir a tres investigadores de OpenAI la semana pasada era, casi con certeza, el objetivo.
En una carta conjunta, cada uno afirma haber sido despedido por motivos distintos relacionados con compartir información sin autorización. Por supuesto, esta es solo una versión de los hechos, pero cada motivo suena endeble.
Probablemente OpenAI no habría echado a posibles denunciantes si estos tuvieran suficientes trapos sucios como para destruir la empresa. Pero los directivos de la compañía podrían temer que los empleados que siguen allí sí tengan ese tipo de información, o que la tengan pronto. Los despidos son un golpe a la moral del personal, pero les advierten a los empleados que mantengan la boca cerrada incluso con los equipos externos con los que se les pide compartir información.
Los tres investigadores sí hicieron sonar una especie de silbato en su carta: advirtieron que “la IA no es una tecnología normal” e instaron a OpenAI a dejar de sacrificar la capacidad de supervisión a cambio de rendimiento en sus modelos más nuevos.
Como industria, todavía no sabemos cómo desarrollar e implementar de forma segura modelos que no podemos supervisar.
Maltratar a Claude ahora viola la política de uso de Anthropic
Queda prohibido el “comportamiento abusivo o cruel, sostenido e innecesario” hacia el bot que se lleve a cabo “sin un propósito perceptible”. Los usuarios todavía pueden desahogarse por frustración o explorar “temas creativos oscuros”.
Las actualizaciones de la política también añadieron restricciones al uso de Claude para el desarrollo de armas o la vigilancia, aunque los clientes gubernamentales pueden negociar excepciones.
El error tipográfico evidente en el acuerdo de seguridad de la IA de Trump se debió a que Zuckerberg y Huang lo estuvieron revisando hasta el último minuto
Así lo cuenta un excelente artículo publicado hoy en CNN que recorre el ascenso del director ejecutivo de Meta, desde caer en desgracia ante Trump (“¡NO LO HAGAS! ZUCKERBUCKS, ten cuidado”) hasta llegar a su círculo íntimo, junto al director ejecutivo de Nvidia, Jensen Huang.
Sí, hubo millones de dólares de por medio.
- CNN - “Camaleón político”: cómo Mark Zuckerberg conquistó a Trump y se salió con la suya en materia de IA
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.