[Comentario a un correo que anunciaba un post sobre el tema indicado en el título — JMB].

La lucha contra los «prejuicios artificiales» me parece de lo más meritoria, sin duda alguna. Sin embargo, creo que hay un problema metodológico de base que, en mi opinión, es irresoluble: la discriminación (entre hombres y mujeres, entre ricos y pobres, entre nacionales y extranjeros, entre blancos y no-blancos, etc.) es algo que está tan arraigado en el lenguaje y en nuestros cuerpos mismos, tan diseminado en las diversas prácticas sociales, tan performado, de forma continua e iterada, en la totalidad de nuestra vida, que ya se ha vuelto imperceptible.

¿Qué quiere decir, imperceptible? Muchas cosas. En particular, quiere decir inconsciente, y también quiere decir ideológico. Voy primero por lo segundo. Por ideológico entiendo aquéllo que, apareciendo como natural, podría ser de otra manera. Algunas cosas, algunas «realidades», algunas opciones, algunos maneras de concebir las cosas, pasan a considerarse «naturales», y entonces las demás son «antinaturales», «contrarias a la naturaleza», «contra-natura», y así sucesivamente. El estudio de la historia de las opciones sexuales no heterocentradas, por ejemplo, nos da un buen ejemplo de ello. Lo «antinatural» se ve como una enfermedad, como una corrupción, como algo contagioso que debe ser contenido, silenciado y, en última instancia, exterminado. Siguiendo con el ejemplo, en muchos países todavía se mata a los homosexuales. Y en el nuestro, si eres un hombre y quieres ponerte tetas, o si eres una mujer y quieres tomar testoesterona, por poner dos ejemplos al azar, tienes que convencer a un psiquiatra de que tienes un «síndrome» que se han inventado, la «disforia de género», y sólo tienes la opción de transicionar de «hombre» a «mujer», como si tuviésemos la más remota idea de qué narices quiere decir «hombre» o qué quiere decir «mujer», o como si sólo existiesen esas opciones, que serían, claro está, «lo natural». Las palabras «hombre» y «mujer», entonces, están naturalizadas. Es un buen ejemplo.

Luchar contra esa naturalización mediante la buena fe, que doy por supuesta en los autores del artículo y, de un modo más general, en la inmensa mayoría de los trabajadores intelectuales que se dedican a este campo, tiene un peligro: nos hace creer que desde el voluntarismo podemos reemplazar la crítica filosófica. La desnaturalización de los conceptos de hombre y mujer no puede proceder de una revisión cuidadosa de ningún tipo de dato, sino de la laboriosa, minuciosa y paciente deconstrucción de lo establecido (Butler, Preciado, ...). Una IA que pretenda no tener sesgo es todavía más peligrosa para la sociedad que una que exhibe sesgos obvios. ¿Por qué? Porque en la segunda no podemos confiar, podemos denunciarla y luchar contra ella, podemos demostrar que es dañina y prohibirla, etc., mientras que en la primera sí que confiaremos, puesto que creeremos que es «libre de sesgos». Pero con la primera no podemos saber cuales son nuestros prejuicios, por la sencillísima razón de que algunos de ellos todavía no los conocemos, serán descubiertos más adelante, en el futuro. Aparece entonces como «no-sesgado» lo que tiene, por fuerza, que ser sesgado, si estudiamos con detenimiento la estructura del sesgo. Y aquí entra, claro está, la cuestión económica: una vez hayamos invertido grandes sumas de dinero en una IA de la que se descubre, a posteriori, un sesgo, ¿qué coste tiene, es económicamente viable, reemplazarla en todas partes? Tengo muchas dudas de que, una vez las IAs estén bien establecidas, sea ni siquiera factible, sin involucrar un coste inasumible. ¿Queremos, realmente, meternos en esta trampa?

Imperceptible también quiere decir inconsciente. Siempre decimos más de lo que queremos decir, y también menos de lo que queremos decir, y eso no sólo, como le gusta remarcar a mi amigo Carles, porque nuestros sistemas conceptuales son bastantes penosos, sino, como dirían los lacanianos, por estructura. Por ejemplo, en el por otra parte excelente, y muy bien escrito y documentado artículo, se incluye la siguiente frase:

Sabiendo esto, ¿cómo evitar que la IA perjudique menos a las mujeres?

Un somero análisis de su estructura sintáctica, que incluye tres elementos de significado o connotación negativa, «evitar» (= conseguir que algo no suceda), «perjudicar» (= causar un perjuicio a alguien, esto es, desposeerlo de un bien que anteriormente poseía), «menos» (= opuesto a más), nos permite ver, mediante una serie de transformaciones banales, su significado inesperado.

1. Evitar que la IA perjudique menos a las mujeres.
2. Conseguir que la IA no perjudique menos a las mujeres.
3. Conseguir que la IA perjudique más a las mujeres.

Estoy convencido de que esto NO era lo que los autores querían decir; por el contexto del artículo queda más que claro. «Es un lapsus linguae», me dirán, «a slip of the tongue». Sí, claro que sí. Pero tiene un sentido; en este caso, justamente el contrario del que se pretendía.

Y si, en un artículo escrito para defender el trabajo contra los sesgos en las IA, se ha podido deslizar un lapsus así, ¿podemos aún seguir creyendo que es una batalla que podemos ganar?

Just wondering...

Josep Maria