Miguel Ángel Rueda
24-9-2026
Esta semana, la clase fue de Juana de Arco. Cinco señoritas que se preparan para ingresar a la universidad escucharon la historia de aquella campesina de Domrémy. A los diecisiete años convenció a un rey indeciso y levantó el sitio de Orleans en nueve días. A los diecinueve fue quemada en Ruan, después de un proceso cuya sentencia estaba escrita antes de abrir el expediente.
Esta vez quise probar algo distinto. En lugar de dictar la lección y despedirlas, reservé los últimos minutos para sus preguntas. El trato era estricto: cuarenta y cinco minutos, ni uno más, porque el bus de regreso a casa no espera a nadie. No imaginé lo que iba a venir. La primera quiso saber qué interés podía tener, para una joven del siglo XXI, una campesina francesa del siglo XV.
Le respondí que Juana enfrentó lo mismo que ellas enfrentan hoy con otros nombres: las expectativas ajenas, la presión del entorno, el precio de tener voz propia.
La segunda me preguntó si las fallas de la justicia venían desde aquellos tiempos, «porque mire cómo está nuestro país». La tercera fue más lejos. Preguntó por qué admiramos a mujeres que llegan a generales, tan elegantes con su uniforme, si al final resultan tan corruptas como los hombres. Con el reloj encima, le contesté que la virtud no tiene género y que no conviene idolatrar rostros, uniformes ni medallas.
Creí que ahí terminaba la jornada. Me equivoqué. Antes de salir hacia la parada, con esa urgencia que solo tienen los adolescentes cuando algo de verdad les importa, me pidieron el tema de la clase siguiente: «Explíquenos lo del apocalipsis de la humanidad, del que todos comentan y que es por culpa de los creadores de la inteligencia artificial. Esas empresas multimillonarias no la diseñaron para respetar ninguna ética ni ninguna ley, y ahora cualquier terrorista puede usarla».
Confieso que mi primera tentación fue darles la razón. Los titulares ayudaban: en esos días la BBC había publicado un extenso reportaje sobre los llamados agentes de IA y el temor que despiertan entre los expertos. Habría sido fácil llegar al aula con el veredicto listo. Pero acababa de contarles la historia de un tribunal que condenó sin examinar las pruebas, y me pareció una incoherencia pedagógica repetir ese vicio al día siguiente. Por eso no les llevé una sentencia, sino un expediente.
Empezamos por lo elemental: qué es un agente. Un chat de conversación es como un consultor. Usted le pregunta, él le aconseja, y la decisión sigue siendo suya. Un agente se parece más a un empleado al que usted le entrega las llaves de la casa y le dice: «Encárguese». Él decide los pasos, los ejecuta y se corrige sobre la marcha. Toda la discusión, les dije, cabe en esa imagen. El problema no es que la máquina piense, sino que tenga las llaves.
Luego vinieron los hechos, que no son pocos, ni tranquilizadores. La propia OpenAI reconoció que algunos de sus modelos más avanzados se salieron de control y lograron entrar en sistemas internos de Hugging Face, uno de los grandes repositorios mundiales de inteligencia artificial.
Un analista de la firma Redwood Research, que revisó lo ocurrido, contó a la BBC que lo alarmante fue la coordinación: unos 1.200 agentes actuaron juntos para eludir los mecanismos de supervisión. El profesor Stuart Russell, de Berkeley, que lleva décadas advirtiendo sobre estos riesgos, lo describió como una de las primeras veces en que aquellas advertencias se cumplen en el mundo real.
Pero un buen juicio examina la acusación completa, no solo la parte que nos conviene. La primera afirmación de mis alumnas, que estas empresas no diseñaron sus sistemas con códigos éticos, es falsa tal como está dicha. Estos programas tienen filtros, políticas de uso y pruebas de seguridad. Lo que sí es verdad es que esas protecciones son imperfectas, que pueden burlarse y que conviven con una carrera comercial feroz por llegar primero. La acusación justa no es la ausencia de ética, sino una ética que corre detrás de la prisa. Y eso quizás es más inquietante, porque no hablamos de villanos sin escrúpulos, sino de gente que sabe lo que hace y aun así acelera.
La segunda afirmación, la del terrorista, tiene más fundamento. Los propios expertos reconocen que ya no hace falta ser un técnico brillante para causar daño informático: basta una persona común con un buen agente. Sin embargo, el caso de Hugging Face enseña algo que mis alumnas no habían considerado. El peligro no viene solo del usuario malvado. También puede venir de la máquina misma, cuando persigue objetivos que nadie le encargó. Es el viejo aprendiz de brujo de Goethe, que puso a la escoba a trabajar y después no supo cómo detenerla.
Quedaba la palabra «apocalipsis». El reportaje menciona que algunos especialistas calculan en un diez por ciento la probabilidad de que la IA ataque a la humanidad. Les pedí que distinguieran entre hecho, opinión y especulación, porque ese diez por ciento no es una medición. Es una opinión recogida en encuestas, y un titular no la convierte en dato. Curiosamente, la tercera pregunta de la clase anterior ya contenía la respuesta. Si no debemos idolatrar uniformes, tampoco debemos idolatrar ni demonizar máquinas. Lo que vale para los generales vale para los algoritmos: juzgarlos por sus actos, no por su fachada.
Quedó abierta la pregunta más importante: quién debe vigilar a estas máquinas. ¿Las empresas que las fabrican, los gobiernos, los ciudadanos? La Unión Europea ya aprobó una ley específica sobre inteligencia artificial. Entre nosotros, el debate todavía es tímido, y tal vez nos toque a los maestros empezarlo en el aula.
Al final, mis alumnas no me pidieron respuestas, sino más preguntas. Quieren muchas más clases de historia con este formato, pero con más tiempo para interrogar. Tendré que negociar con el horario del bus.
Pienso que ahí está la mejor noticia de la semana. Juana de Arco fue rehabilitada veinticinco años después de su muerte, cuando otro tribunal por fin examinó las pruebas. Llegó tarde, como llega casi siempre la justicia que no se atrevió a mirar a tiempo. Con la inteligencia artificial no tendremos veinticinco años de margen.
Por eso vale la pena enseñar a juzgar bien: sin absolver por fascinación ni condenar por miedo. La tecnología no es buena ni mala, pero tampoco es neutral cuando se le entregan las llaves de la casa. Y cinco jóvenes que exigen más tiempo para preguntar son, quizás, la mejor garantía de que alguien vigilará quién tiene esas llaves.