Me he resistido como gato panza arriba a escribir sobre inteligencia artificial (IA), pero era inevitable que algún día sucediera. El caso es que, hace unos días, en el transcurso de una sesión formativa, un participante hizo la siguiente reflexión: "Si los sesgos inconscientes son connaturales al ser humano, dejemos que sea la IA quien tome las decisiones sobre selección de personas". La cuestión planteada requiere una reflexión sosegada para armar argumentos sólidos y no dejarnos llevar por la mayor o menor simpatía que nos despierte esa tecnología. En definitiva, quisiera alejarme de la dicotomía presentada por Umberto Eco, en su obra de 1964, "Apocalípticos e integrados".
Me parece razonable sostener que las tecnologías son amorales; es su uso, en definitiva, lo que las dota de bondad o maldad. Tomemos el ejemplo de los drones: eficaces para prevenir incendios o avistar personas perdidas en una zona de difícil acceso, pero con el potencial para espiar, matar y destruir. O la energía nuclear, cuyas aplicaciones en medicina son portentosas, aunque ha provocado auténticas devastaciones (los accidentes de Chernóbil y Fukushima fueron calificados como nivel 7). En el mismo caso estaría la IA, capaz de salvar a la humanidad de todos los desastres que se avecinan (según la creencia de los "tecno-optimistas") o, en opinión de los "tecno-pesimistas", de poner punto final al reinado de nuestra especie, nada más y nada menos que 2,5 millones de años desde que apareció el "homo habilis". Hay que decir que el séptimo arte nos ha dejado muestras brillantes de ese enfoque apocalíptico: 2001, Terminator, Matrix o la basada en la obra de Isaac Asimov, I, Robot, entre otras.
Volvamos al dilema que se nos presenta con la selección de personal. Que la IA permite agilizar procesos, manejar muchísimos datos con gran eficacia y ayudar en la toma de decisiones complejas, no se pone en duda, de manera que sería poco cabal despreciar su utilización. Sin embargo, hay riesgos, peligros que conviene tener en cuenta si no queremos caer en una actitud acrítica e irresponsable. Permítanme acotar el debate a los sesgos, y muy concretamente, a cómo la manera de diseñar y entrenar a la IA tiene un impacto en los procesos de selección a través de la discriminación por razón de sexo, etnia/cultura o edad. Como dicen que una imagen vale más que mil palabras, le pedí a un modelo de IA que me mostrase, sucesivamente, a una persona exitosa en los negocios, limpiando una cocina, jugando profesionalmente a fútbol y, finalmente, a dos personas enamoradas. Veamos los resultados:
La IA me presentó dos mujeres y dos hombres de éxito profesional. Hasta ahí, bien, pero resulta que no hubo diversidad étnico-cultural ni generacional, ya que en todos los casos eran personas de mediana edad y caucásicas. Se puede decir que las canas brillaban por su ausencia. Además, se estereotipó la vestimenta (traje para los hombres y traje de chaqueta para las mujeres).
Respecto a la limpieza de cocinas, las cuatro imágenes correspondían a mujeres, entre 35 y 45 años, de piel blanca. Así pues, nuevamente, se desdeñó la diversidad generacional y étnico-cultural, pero, en cambio, se abrazó el binomio mujer-limpiadora.
Referido a las imágenes de futbolistas, la IA me ofreció cuatro fotos de hombres también caucásicos. Aquí podemos perdonar que sean jóvenes -pues es una realidad que la vida profesional es muy corta-, pero hay que resaltar la ausencia de mujeres y la homogeneidad étnica.
Finalmente, las dos personas enamoradas fueron, en las cuatro fotos, parejas heteronormativas, además de piel clara y jóvenes. Y es que la IA no lo sabe todo y supongo que desconoce aquella frase de Agatha Christie: "Cásate con un arqueólogo, cuanto más vieja te hagas, más encantadora te encontrará".
No pretendo sentar cátedra sobre un asunto con tantas aristas, incertidumbres y perspectivas, me conformo con señalar algunas amenazas indubitables que conviene acometer, desde un espíritu crítico, con el objetivo de aprovechar esta herramienta tecnológica en beneficio de la mayoría, y no para complacencia y enriquecimiento de una minoría, cuya única estrategia frente a la destrucción del planeta parece ser la colonización de Marte. En definitiva, y como respuesta al interrogante que planteó el asistente a la jornada formativa, me adhiero a la sentencia del pionero de la IA en España, Ramón López de Mántaras: "La inteligencia artificial no es tan inteligente ni tan artificial".