Hoy, 2 de abril de 2023, he encontrado, en la edición digital de La Vanguardia, un artículo de Bill Gates titulado La edad de la inteligencia artificial ha comenzado. No quiero meterme en el berenjenal de discutir sobre la inteligencia artificial: no me interesa especialmente el tema, no tengo la preparación necesaria, y además en este foro hay varios pesos pesados que saben mucho más que yo sobre el asunto.

Lo que quería es llamar vuestra atención sobre dos párrafos, que voy a reproducir en seguida, mientras intercalo mis comentarios entre ellos. El Sr. Gates se explaya sobre las virtudes de la IA, su inevitabilidad, el hecho de que tiene que ser regulada, etcétera, y en cierto momento, escribe:

Los ordenadores no han tenido en la educación el efecto que esperábamos muchos de los que trabajamos en el sector. Ha habido algunos avances positivos, como los juegos educativos y las fuentes de información online como Wikipedia, pero no han tenido un efecto significativo en ninguno de los parámetros que miden el rendimiento de los estudiantes.

Francamente, no sé cómo Gates se atreve a escribir estas cosas. Claro que los ordenadores han tenido «un efecto significativo», ¡por el amor de Dios! Han vuelto a los alumnos bastante más ignorantes, adictos al móvil, nerviosos, incapaces de concentrarse, padecedores de una serie de trastornos (TDAH, etcétera), y además, vagos mentales. Ya nadie sabe hacer un cálculo «de cabeza»: compras una chocolatina de cinco euros y le das diez al cajero, y el desventurado utiliza la calculadora. Hasta ni para darse un gusto sirven, tienen que ponerse un poco de porno primero.^[1]

La difusión generalizada de los ordenadores ha creado personas con una cantidad impresionante de información a su alcance, pero que son cada vez más ignorantes, de modo que no pueden usar esa información de un modo que valga la pena. Su attention span se ha reducido a la mitad o menos. No saben prácticamente nada. El otro día una persona me preguntaba si los Evangelios son un libro diferente de la Biblia.

O sea que lo de que «no han tenido un efecto significativo» es pura y simplemente mentira. Por eso da mucho, pero mucho miedito lo que viene después:

Sin embargo, creo que en los próximos cinco o diez años, el software basado en inteligencia artificial cumplirá por fin la promesa de revolucionar la forma en que las personas enseñan y aprenden. Conocerá nuestros intereses y nuestro estilo de aprendizaje de modo que elaborará contenidos que nos mantendrán interesados. Medirá la comprensión, se dará cuenta de cuándo perdemos interés y sabrá el tipo de motivación al que respondemos. Proporcionará un feedback inmediato.

Es impresionante: «conocerá nuestros intereses», «de modo que elaborará contenidos que nos mantendrán interesados».

Vamos a ver.

Aprender quiere decir enfrentarse a lo aburrido. A lo que no conocemos. A lo que nos asusta. A lo que, de entrada, no entendemos. A lo que nos produce un displacer. A lo que nos cuesta. A lo que nos resulta difícil.

Si no, no hay aprendizaje.

¿Es necesario que siga? Si lo que tenemos es un sistema que «conoce nuestros intereses» y nos proporciona «contenidos» que «nos mantengan interesados», lo que conseguiremos, lo voy a decir con total claridad, es no aprender nada en absoluto.

Si nos dan lo que ya nos interesaba de entrada, no podremos salir de lo que nos interesa, que es lo que ya sabemos. No podremos salir, dicho de otro modo, de nuestra propia ignorancia.

Además, la educación que funciona no consiste en transmitir «contenidos». Eso es un error espantoso. La idea del «contenido» remite a la de «continente», ¿verdad? Seríamos «continentes», se nos transmitirían «contenidos», que «incorporaríamos», y después se supone que los utilizaremos, esos contenidos, seguramente porque pensamos que los tenemos «dentro».

Lo que nos educa de verdad no es ningún «contenido». Lo que realmente nos forma es lo que primero nos rompe como continentes. No es ningún contenido: es una ruptura de lo que somos, para que podamos ir deviniendo otra cosa. Para que podamos cambiar de forma: para eso nos forma-mos.

Cuando uno se fascina con la asignatura de filosofía, por ejemplo, no está incorporando ningún «contenido», sino que se está des-estructurando por lo nuevo a lo que tiene que enfrentarse. Precisamente le está haciendo muy bien porque, al principio, no le entra. Porque no es ningún «continente».

Todas estas metáforas sobre los «contenidos» y el «interés», además de ser inexactas, de no corresponder al estado de cosas, son dañinas: no nos permiten comprender los procesos que están en juego.

Los «contenidos» no existen (o, si existen, no son lo que interesa de verdad). Por eso, un sistema que nos monitoriza para ver qué «contenidos» nos «mantienen interesados» no puede ser más que un sistema que nos da lo que ya sabemos, que impide la ruptura de la forma que implica toda forma-cion.

Ya nos ha pasado eso con las redes sociales: pensábamos que iban a revolucionar la sociedad, y lo único que han creado ha sido unas horribles cámaras de resonancia.

No somos responsables de no saber qué desarrollo tendrá una idea, cuando la ponemos en marcha. No sabíamos lo que iba a pasar con las redes sociales. Tampoco es posible anticipar, cuando uno pone unas sencillas reglas, la complejidad que se puede llegar a desplegar, a partir de esas reglas.

Aprendiendo las reglas del ajedrez no es posible imaginarse la increíble complejidad del juego.

Con el Go pasa exactamente lo mismo.

O con los axiomas de Peano: son tan sencillos y evidentes, que uno no se puede creer que el 100% de las verdades aritméticas nos serán, por siempre, inaccesibles.^[2]

No somos responsables de eso. Pero sí que somos responsables de no reaccionar cuando vemos que el desarrollo de una determinada cosa la lleva hacia territorios que nos resultan dañinos.

No somos responsables de no haber previsto lo que pasaría con las redes sociales. Pero sí que somos responsables de seguirlas usando (yo me he dado de baja de todas, por cierto), de no prohibirlas. De no informar a la gente de que son dañinas. De no promover un debate sobre cómo se están cargando la democracia. De eso sí que somos responsables. No hay que confundir una cosa con otra.

¿La IA en la educación? ¿«Contenidos» que «nos mantengan interesados»? ¡Cuidado! Ya podemos saber, desde ahora mismo, que es algo que no va a funcionar.

Vamos a generar más imbéciles, eso es lo que vamos a hacer. Ya lo estamos haciendo. A machamartillo.

Así nos va. Mientras nos cocinamos a la papillote, con la catástrofe climática, nos iremos volviendo, al mismo tiempo, cada vez más memos.

Estupendo.

Josep Maria

Notas