En este número:
Queremos y no queremos hablar de los organoides - Cultivos de células cerebrales humanas juegan videojuegos mientras desinflan ideas erróneas reconfortantes sobre la IA y la consciencia
Las empresas de IA se enfrentan por la regulación de Massachusetts - OpenAI busca congelar las reglas, Anthropic busca hacerlas avanzar, despacio
¿Qué pasa cuando los robots estén listos? - La IA crea empleos a corto plazo mientras crea problemas a largo plazo
Despacho de Mitch
Queremos y no queremos hablar de los organoides
Cultivos de células cerebrales humanas juegan videojuegos mientras desinflan ideas erróneas reconfortantes sobre la IA y la consciencia
Un frasco que contiene organoides cerebrales humanos. Crédito NIAID . CC BY 2.0 .
El artículo salió hace más de una semana, pero no puedo dejar de pensar en él.
Se trata del artículo de Claire Evans en Wired sobre los organoides de cerebro humano: pequeños grumos de células cerebrales cultivados en una placa y luego puestos en línea, tanto en el sentido de conectarse entre sí para generar actividad de ondas cerebrales como en el sentido de estar conectados a aparatos electrónicos e incluso a internet. Se les puede entrenar como a las redes neuronales que son, incluso para jugar videojuegos sencillos como Pong y Doom.
El tema llevaba tiempo en la lista de espera de AI StopWatch porque la tecnología no parece avanzar lo bastante rápido como para afectar de forma significativa la carrera de la IA. Pero el hecho de que siga viendo a gente sacar el tema en redes sociales solo para que la conversación se apague de inmediato es, en sí mismo, bastante interesante. Creo que los organoides tienen cosas incómodas que decir sobre la naturaleza de los temas incómodos.
Primero, aclaremos algunas cosas: los organoides de cerebro humano son, al menos por ahora, diminutos, de una complejidad comparable a la de los cerebros de los insectos. Así que, aunque pueden vivir meses o incluso años, probablemente no tienen el tipo de vida interior profunda que podría darles derecho a protecciones éticas. De hecho, los organoides cerebrales se promueven como una alternativa más ética a la experimentación con animales, y sus usos principales hasta ahora están en la evaluación de compuestos por sus propiedades psicoactivas y su toxicidad.
Además, las células donadas originales que se cultivan hasta convertirse en cultivos de células cerebrales provienen de voluntarios adultos, lo que esquiva la polémica que ha perseguido a la investigación con células madre embrionarias.
La incomodidad viene de la intuición visceral y de adónde podría llegar esta tecnología. Los investigadores del artículo dicen que, si lograran superar los obstáculos para hacer crecer organoides tan grandes como un centímetro, los organoides estarían en el terreno del cerebro de un ratón y probablemente deberían estar sujetos a protecciones de bienestar animal.
Hay incentivos claros para ir a lo grande si pueden: los cerebros basados en neuronas son hoy mucho más eficientes en energía que las IA basadas en transistores para la cantidad de trabajo cognitivo que hacen. Un cerebro humano funciona con unos 20 vatios, mientras que incluso una sola GPU de IA ejecutando un modelo que no está en la frontera puede consumir varios cientos de vatios.
Los obstáculos para los organoides grandes son cosas como hacer crecer un sistema vascular que los sostenga. Pero si eso se resuelve, probablemente se podrían cultivar organoides demasiado grandes para caber dentro de un cráneo humano. Mucho antes de llegar a ese punto, estaríamos en un terreno ético extraño. Pero creo que el hecho de que parezca posible es importante aunque nadie lo intente nunca, porque desafía varias objeciones comunes y varios consuelos en torno a la IA y la consciencia.
Para empezar, sigo viendo gente que argumenta, o, más a menudo, simplemente da por sentado , que la IA nunca podrá ser sintiente por las diferencias físicas entre los cerebros biológicos y los centros de datos. Bueno, ¿y si esas diferencias se disolvieran? ¿Y si grandes láminas de neuronas humanas cultivadas en laboratorio estuvieran ejecutando un chatbot que dijera ser consciente, como a veces dicen los chatbots de IA?
Estoy seguro de que los esencialistas biológicos se replegarían a argumentos más estrechos, algunos de los cuales ya se usan (¡Necesita experiencias corporales!). Pero cuanto más avanzado imaginamos el organoide, más difícil resulta aferrarse a la idea de que la sintiencia es un fenómeno binario de encendido o apagado, en lugar de un espectro . Y si es un espectro, entonces criaturas menores podrían estar en él, sería difícil excluir de él a las IA potentes, y un cerebro del tamaño de una cuba (o una IA del tamaño de un centro de datos) podría ser más sintiente que nosotros.
¡Y vaya que esas ideas son incómodas! No solo porque desafían nuestro lugar como humanos, sino porque alteran nuestra preferencia humana natural por los binarios limpios. Solemos alterarnos, incluso horrorizarnos, ante la idea de zonas grises y casos límite en temas que parecían tan claros. ¿Creen que las cosas están vivas o muertas, sin más? ¿Y los virus? ¿Y los organismos que pueden secarse o congelarse , suspendiendo toda actividad metabólica durante meses o años seguidos?
¿Recuerdan lo mucho que les molestó que Plutón fuera degradado de "planeta"? Si son como yo, no fue tanto porque les tuvieran cariño a Plutón, sino porque odiaban la idea desordenada de un planeta enano .
El ejemplo más fuerte que puedo dar de este fenómeno es un elefante en esta sala en el que quizá ya estén pensando: el género, que por supuesto incomoda a mucha gente cuando se habla de él como un atributo no binario.
Para pensar con claridad sobre la IA, es importante que seamos capaces de ver en más colores que el blanco y el negro. La cuestión de la sintiencia, en particular, importa, porque mucha gente tiene la idea de que la IA solo se vuelve peligrosa si "despierta" a la sintiencia. Si los organoides ayudan a mostrar que la consciencia quizá no sea tan de encendido o apagado, podrían ayudar a enterrar esa idea. (Igual de importante es el hecho de que la IA ya está demostrando ser muy capaz de causar daños, sea consciente o no.)
También hay una creencia popular de que los humanos tenemos cualidades especiales que la IA va a necesitar o valorar, pero que no podrá poseer por sí misma, y que por esa razón la superinteligencia artificial va a necesitar preservarnos y cuidarnos. Los organoides ayudan a mostrar por qué ese es un pésimo lugar donde depositar nuestras esperanzas: cualquier cualidad especial de las neuronas humanas probablemente no requiere que esas neuronas estén dispuestas exactamente en el tamaño y la forma de un cerebro humano, alojadas dentro del cráneo de una persona que vive una vida gratificante y con sentido.
Los organoides, en otras palabras, nos muestran que si la IA conservara a los humanos por sus cerebros especiales, eso probablemente se parecería menos a la historia de las "mascotas queridas" y más a la historia de la insulina terapéutica. La insulina no es un compuesto que sepamos ensamblar desde cero, molécula por molécula, pero eso no significa que mantengamos donantes humanos de insulina con ese fin. Durante décadas, la insulina se obtenía de los páncreas de animales sacrificados, más de 20,000 animales para una sola libra de la hormona. Hoy se produce a partir de bacterias o levaduras a las que se les han insertado genes humanos en el genoma.
Sea lo que sea que la IA pueda querer y que los humanos aporten, los humanos casi nunca van a ser la manera más eficiente de conseguirlo. Eso es cierto incluso para las células más responsables de hacernos singularmente humanos.
Despacho de Joe
Las empresas de IA se enfrentan por la regulación de Massachusetts
OpenAI busca congelar las reglas, Anthropic busca hacerlas avanzar, despacio
Vista de la Casa del Estado de Massachusetts en Beacon Hill. Fuente: Keith J Sfinx vía Adobe Stock
Bloomberg informa que las desarrolladoras de IA OpenAI y Anthropic están enfrentadas por la regulación de IA de Massachusetts. El proyecto de ley en cuestión ya pasó el Senado estatal y ahora espera la aprobación de la Cámara y del gobernador del estado.
Según Bloomberg, ambas empresas han contratado firmas de cabildeo para influir en el proyecto. Entonces, ¿qué es lo que tiene a las dos principales empresas de IA en bandos opuestos frente a una regulación propuesta?
El proyecto exige que las empresas de IA compartan información con evaluadores externos. Los revisores evaluarían las prácticas de las empresas en cuanto a "riesgos catastróficos", definidos como al menos 50 muertes o mil millones de dólares en daños materiales causados por un modelo de IA de frontera. También protege a quienes denuncian irregularidades y obliga a las empresas a reportar al estado los "incidentes críticos de seguridad".
La revisión independiente parece ser el punto de fricción para OpenAI, que antes había respaldado un proyecto más acotado que carecía de ese requisito. Bloomberg dice que la empresa "advierte que las revisiones frenarán el lanzamiento de modelos de ciberseguridad que podrían proteger justamente contra los riesgos que temen los legisladores, y prefiere que los estados adopten un estándar uniforme acorde con la ley de Illinois". (Illinois aprobó hace poco regulaciones bipartidistas que eran marginalmente más estrictas que las leyes anteriores.)
Anthropic no está de acuerdo, y califica al proyecto como "la legislación de seguridad de IA más clara y más fuerte del país". Bloomberg agrega:
Anthropic cree que las evaluaciones externas más intensivas son necesarias porque "en última instancia no creemos que la industria deba calificar su propia tarea", dijo Cesar Fernandez, jefe de relaciones con gobiernos estatales y locales de Estados Unidos en la empresa. Si bien Anthropic respalda la propuesta de Massachusetts, los estados podrían necesitar adoptar una supervisión aún más estricta en el futuro, a medida que la tecnología avance, dijo.
Ya he expresado mis sentimientos encontrados sobre los mensajes públicos de Anthropic, pero respeto la posición que ha tomado aquí. Alguien cínico podría argumentar que a Anthropic le conviene exigir un examen que cree estar mejor preparada para aprobar que sus competidores. Pero creo que un evaluador de riesgos verdaderamente independiente quedaría profundamente poco impresionado por la competencia que muestran tanto Anthropic como sus competidores; evaluaciones anteriores han encontrado huecos importantes en los planes de todos. Tal vez Anthropic lo sabe y espera una desaceleración mutua que conviene a todos; o tal vez simplemente tiene un exceso de confianza institucional en sus propias prácticas.
La postura de OpenAI parece mucho más fácil de entender. Ha dicho abiertamente que su estrategia de "federalismo inverso" consiste en consagrar leyes estatales favorables a la industria como un estándar nacional de facto. Parece estar adoptando la posición de que la regulación ligera de Illinois es más que suficiente, muchas gracias. He llamado a esa estrategia un intento de poner el techo donde debería estar el piso, y la postura de OpenAI en Massachusetts parece más de lo mismo.
También me parece hipócrita y interesada en extremo la afirmación de que la ley debilitará las protecciones de ciberseguridad al frenar el lanzamiento de modelos. OpenAI ha vendido de forma constante el supuesto de que el desarrollo y el lanzamiento de IA con altas capacidades cibernéticas es inevitable, así que, por supuesto, la única manera de prevenir incidentes catastróficos es usar sus modelos para la defensa.
Pero ese supuesto es falso; pausar no es imposible. El gobierno de Estados Unidos ya ha pausado o revertido lanzamientos de manera temporal, y podría hacerlo de forma más duradera y consistente si lo decidiera. La propia OpenAI ha frenado su desarrollo después de que incidentes cibernéticos expusieran riesgos "críticos de ciberseguridad" planteados por sus propios modelos , y ese es exactamente el tipo de riesgo que la ley busca sacar a la luz y mitigar. Cuando los ataques y la defensa vienen de la misma fuente, y los ataques parecen ir ganando, es el colmo del doble discurso afirmar que frenar esa fuente es malo para la defensa.
No es una ley perfecta. Para empezar, no hay ningún fondo destinado a los evaluadores, lo que significa que tendrían que ser pagados por las propias desarrolladoras. La ley prohíbe que las empresas condicionen el pago a los resultados, pero un conflicto de interés así no se puede eliminar por decreto. Y la ley solo entra en vigor en enero de 2028, lo cual es tremendamente lento para el mundo de la IA. Hace falta más.
A pesar de algunos huecos que hacen que el proyecto de Massachusetts sea menos efectivo de lo que podría ser, sigue siendo un paso adelante para la visibilidad y la supervisión gubernamental de los laboratorios de IA de frontera. En última instancia, sospecho que eso es todo lo que hace falta para que OpenAI se le oponga.
Despacho de Alana
¿Qué pasa cuando los robots estén listos?
La IA crea empleos a corto plazo mientras crea problemas a largo plazo
Crédito: Lisa Haney vía Adobe Stock
The Washington Post parafraseó hoy una opinión del economista jefe de Moody's Analytics, en un texto sobre el impacto de la IA en la desigualdad de la riqueza: "toda la economía de Estados Unidos se sostiene gracias al gasto de los estadounidenses más ricos, entusiasmadísimos con las ganancias bursátiles ligadas a la IA". El artículo señala que el uso de la IA es mayor en las regiones más ricas, lo que en mi opinión reduce las probabilidades de que sea una fuerza igualadora.
Mientras tanto, un perfil del New York Times ofrece una mirada más visceral a la relación entre las regiones de ingresos altos y bajos. Trabajadores en India ganan 2.50 dólares por hora atándose cámaras a la cabeza mientras hacen tareas domésticas y otras labores físicas, datos que pueden ayudar a los robots a aprender a hacer esas cosas tan bien como los humanos. Aquí voy a suscribir el cliché de que "una imagen vale más que mil palabras" y les animo a mirar la foto de la mujer picando verduras con un iPhone atado a la cabeza.
Este trabajo independiente de 2.50 dólares por hora es una pieza del campo de la anotación de datos. Las otras piezas implican etiquetar y anotar el material de entrenamiento, además de mirar horas de grabaciones de robots ejecutando tareas en el mundo físico y evaluar el desempeño del robot con notas en cada fotograma. La empresa perfilada en el artículo tiene su sede en India, pero sus clientes están principalmente en Estados Unidos.
Algunos trabajadores de anotación de datos tienen títulos de ingeniería, aunque el trabajo no lo requiere. El New York Times señala:
A medida que las capacidades de la I.A. cambian la forma en que las empresas diseñan y producen productos, haciendo desaparecer empleos como la programación para los recién egresados universitarios, la anotación de datos está mostrando cómo se están adaptando países como India, con escasez de empleos de nivel inicial y grandes poblaciones jóvenes.
No puedo evitar preguntarme: ¿esto es adaptarse o es una solución de corto plazo que, a la larga, crea más problemas? ¿Qué pasa cuando los robots hayan aprendido todo lo que hay que aprender sobre cómo completar tareas que suelen hacer los humanos?
Me acuerdo de un artículo que cubrí en junio sobre cómo la IA podría estar empujándonos hacia una economía de trabajos por encargo: menos estabilidad, y una realidad oscura, en muchos campos, el único trabajo que la gente consigue es entrenar a quien la va a reemplazar.
Si esto sigue siendo una tendencia, no es de extrañar que algunos economistas teman que la IA aumente la brecha de ingresos entre quienes ganan su dinero trabajando y quienes lo ganan lucrando con sus negocios o inversiones.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.