En este número:
Se descubre que drones rusos fueron guiados por IA que funcionaba con chips de Nvidia - La escalada puede tener un impacto mínimo a corto plazo, pero las implicaciones más amplias son preocupantes
Vuelve la marea de angustia por la IA en el regreso a clases - Es la temporada de meteduras de pata, reacciones impulsivas y reflexiones
Despachos de Mitch
Se descubre que drones rusos fueron guiados por IA que funcionaba con chips de Nvidia
La escalada puede tener un impacto mínimo a corto plazo, pero las implicaciones más amplias son preocupantes
Un dron Molniya-2. Crédito: Mil.ru. Vía Wikimedia Commons . CC BY 4.0 .
The New York Times informó hoy que unos drones de ataque rusos utilizados en un ataque coordinado el mes pasado en Ucrania contenían chips de Nvidia que se usan comúnmente en robótica para procesar señales de cámara y ejecutar modelos pequeños de control con IA. Los pequeños drones de ala fija, de los que se dice que contenían imágenes sin cifrar de los tipos de tanques de propano que hay alrededor de una gasolinera a la que parecían apuntar, podrían ser la primera confirmación firme de que la guerra ha escalado a un nuevo nivel de autonomía armamentística. En ese nivel, los seres humanos solo designan una zona objetivo y el tipo de blanco que les interesa, y le corresponde al arma identificar y seleccionar su blanco una vez que observa de cerca el vecindario.
Este avance puede que todavía no sea un salto enorme respecto a los sistemas tradicionales de puntería de "última milla" desarrollados ya en la década de 1980 , que comparten la principal ventaja de la guía por IA: ser inmunes a las interferencias electrónicas. Pero sospecho que las versiones mejoradas con IA serán mejores para superar el ocultamiento de blancos y quizá para sortear obstáculos como las redes antidrones que se han vuelto habituales en Zaporiyia, el lugar del ataque ruso.
También podrían ser mejores para operar en enjambre, repartiendo las ojivas entre más objetivos y lanzándose sobre ellos al mismo tiempo desde varios ángulos. Es probable que esto no fuera una característica de la media docena aproximada de drones rusos usados en el ataque de julio, que quizá no necesitaban antenas visibles para coordinarse entre sí a corta distancia, pero de los que también se dijo que no emitían señales de radio. En teoría, se me ocurren formas en que los drones podrían coordinarse únicamente observándose entre sí de manera visual, tal como hacen las bandadas de aves. Pero los drones ya usados parecían bastante rudimentarios y básicos.
El periodista del Times autor del artículo, Andrew E. Kramer, merece un reconocimiento por comprender la disyuntiva fundamental de las máquinas dirigidas por el tipo de IA basada en redes neuronales que domina hoy el campo:
Mientras que el software tradicional sigue reglas paso a paso escritas por una persona, un sistema de I.A. deriva sus propias reglas al encontrar patrones en cantidades enormes de datos, un proceso llamado aprendizaje automático. Eso le permite manejar situaciones imprevistas. También significa que nadie puede predecir del todo lo que podría hacer.
Esa incertidumbre se convierte en una preocupación de nivel de extinción cuando los modelos son más astutos que los humanos. En las armas autónomas de hoy, es una fuente de posibles crímenes de guerra. Uno de los drones del ataque de Zaporiyia mató a tres civiles cuando impactó un edificio de apartamentos cerca de su probable blanco previsto.
Chip Nvidia Jetson Orin.
La investigación parece haberse beneficiado de al menos un dron que no explotó y que se recuperó casi intacto. El chip de Nvidia que tenía dentro era un Jetson Orin, que cuesta solo unos cientos de dólares. La empresa dice que no los vende en Rusia, pero que se revenden ampliamente en el mercado abierto.
Me preocupa que drones baratos con IA como este se conviertan en el arma preferida de terroristas y de Estados renegados al estilo de Irán, porque el tipo de blancos blandos de alto valor que un dron pequeño puede destruir van a ser difíciles de defender frente a armas inmunes a interferencias que pueden vencer redes y ocultamientos. La línea interior de defensas de destrucción directa contra tales amenazas es literalmente cuestión de suerte, y suele reducirse a un tipo con una escopeta.
El comandante de la defensa aérea en Zaporiyia cree saber hacia dónde va esta tecnología:
Esto es un riesgo para el mundo entero. Dentro de unos años estaremos viviendo en una película de "Terminator". No es broma. Las máquinas están tomando decisiones de atacar.
Vuelve la marea de angustia por la IA en el regreso a clases
Es la temporada de meteduras de pata, reacciones impulsivas y reflexiones
Crédito: Atomic Taco . CC BY-SA 2.0 .
Con muchos estudiantes comenzando el semestre de otoño, veo llegar una marea familiar de consternación estacional sobre lo que la IA le está haciendo a la escuela y sobre lo que los estudiantes deberían estar aprendiendo mientras están ahí. Esta marea tiene olas, parecidas a las etapas del duelo.
Las primeras en llegar son las meteduras de pata evidentes, como la de la escuela de Kentucky que cobró a las familias una cuota de instrucción de 10 dólares por paquetes de trabajo llenos de basura sin sentido. Miren la cobertura del New York Post para ver el mapa de Estados Unidos con estados de los que nunca han oído hablar, como New Mizone, Lookoong y Venucky. Como extra, pueden ver la tabla periódica donde el Magnesio tiene una masa atómica negativa, y el diagrama del sistema solar con una descripción que dice:
Planetary distance are temporatory earth, equater the elenonts and regnestiom org toed dishligns.
(Para que quede claro, presento esto como una metedura de pata escolar, no como una metedura de pata de la IA, porque los modelos de pago de hoy son mejores que esto; los usuarios que van aunque sea un poco más allá del nivel gratuito, y que revisan los resultados, o que al menos hacen que otros modelos revisen los resultados, no terminan quedando en ridículo de esta manera.)
Lo siguiente que llega con la marea del regreso a clases son las reacciones impulsivas ante tales bochornos: defensores de la elección parental que dicen que deberían poder excluir a sus hijos de la instrucción con IA. Este año, entre ellos está la secretaria de Educación Linda McMahon . Al ser preguntada sobre esto en CNN, dijo:
Ciertamente creo que los padres deberían estar muy involucrados en la educación de sus hijos. Si van y se involucran y buscan ver qué está pasando con su hijo, creo que le corresponde a la escuela poder mostrar: bien, esto es lo que esperamos lograr, así es como creemos que esto va a ser útil para su hijo en particular, y permítannos mostrarles el resultado.
Y si el padre no ve ese resultado, el padre tiene todo el derecho de ir y decir: "No, quiero algo distinto para mi hijo"
Como exmaestro, aconsejaré que, en términos prácticos, los padres que exijan un plan de estudios para su hijo distinto del del resto de la clase rara vez lo conseguirán salvo de boquilla, porque un maestro es una sola persona; no puede llevar una clase de forma eficaz y ser tutor privado al mismo tiempo, sobre todo si otros padres también exigen un tutor privado. Irónicamente, la manera de ofrecer realmente educación personalizada a cada estudiante sería adoptar la IA. Pero, como ocurre con toda la instrucción por computadora, los instructores de IA por ahora solo parecen funcionar con los estudiantes más automotivados.
La tercera ola de la marea del regreso a clases pregunta para qué debería servir siquiera la escuela en esta era creciente de la IA. Invariablemente esta ola concluye, como hizo esta mañana Frank Bruni del New York Times, que los estudiantes deberían estudiar humanidades:
tratar la universidad como un refinamiento de la mente y no como un morral de habilidades tiene sentido, y produce una educación infinitamente elástica, universalmente aplicable e inmune a la obsolescencia.
Esa respuesta me parece obvia y trillada, pero no estoy seguro de que sea equivocada. Si no impedimos que la IA mate a todo el mundo, entonces no importará lo que nadie estudie. Pero si detenemos la carrera y no revertimos la tecnología de IA existente, la economía igual enfrentará una transformación importante, y creo que la mayoría de los cursos que preparan para carreras específicas habrán resultado ser una pérdida de tiempo. Así que cualquier curso que inspire a los estudiantes a pensar de verdad por sí mismos y a empaparse más de nuestra sabiduría acumulada probablemente sea una buena inversión.
La cuarta y última etapa del regreso a clases es mi propia aceptación, en la que soy indulgente con posturas como la de Bruni porque mi propio consejo también suena bastante trillado cuando lo escribo: a partir de alrededor de 2020, por la amenaza de los cierres por Covid y por mi creciente intuición de hacia dónde iba la IA, mi práctica y mi recomendación a los maestros era enseñar como si no hubiera un mañana, enseñar lo que a uno le entusiasma de su materia por el gozo intrínseco de hacerlo, cultivando experiencias de aprendizaje que resulten significativas aunque queden bastante lejos del plan de estudios oficial. Hay una buena probabilidad de que nada más importe, y si ustedes y sus estudiantes están de verdad presentes juntos, es probable que ellos estén aprendiendo más de lo que van a necesitar de todos modos.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.