Inteligencia Artificial explicable

Me pregunto qué pasaría si una inteligencia superior aterrizara en La Tierra y nos mostrara cómo juegan al ajedrez. Ahora lo sé”. Así se manifestó Peter H. Nielsen, jugador profesional de ajedrez y antiguo entrenador del campeón mundial, Magnus Carlsen, cuando vio jugar al ajedrez al programa Alpha Zero de Google. Actualmente, este programa es capaz de vencer a cualquier jugador profesional humano e incluso al mejor de los programas de ajedrez existentes hasta entonces.

El algoritmo Alpha Zero de Google, se basa en el uso de las llamadas redes neuronales profundas, que son modelos matemáticos complejos capaces de aproximar con una precisión arbitraria, cualquier función no lineal. Estos modelos contienen un altísimo número de parámetros, organizados en múltiples capas, que son estimados a partir de grandes volúmenes de datos. En el caso del ajedrez, los datos son partidas jugadas al azar por el propio ordenador en el que se ejecuta Alpha Zero, y la función a aproximar es la probabilidad de ganar la partida si en determinada posición hacemos cierto movimiento.

Este mismo proceso se puede replicar en cualquier ámbito de decisión o predicción sobre el que tengamos abundantes datos. Ejemplos habituales son el diagnóstico de enfermedades a partir de imágenes de radiografía, predicción de la morosidad de los clientes de un banco, etc.

La reflexión del ajedrecista Nielsen pone de manifiesto cómo un modelo matemático implementado en un ordenador puede ser capaz de resolver una tarea de forma que ni siquiera los mejores profesionales en la materia sean capaces de entender cómo lo hace. Si bien esto puede no ser un problema para la humanidad, pensemos en qué ocurriría si esta tecnología se aplica en ámbitos como el diagnóstico de enfermedades, los vehículos autónomos o la concesión de créditos. En el peor de los casos, podríamos llegar a una sociedad fuera del control de los humanos.

Las matemáticas están trabajando ya en esa dirección, desarrollando modelos que expliquen las predicciones o decisiones de esos modelos complejos, de forma que los humanos podamos entenderlas. Pero de nada servirá eso si los ciudadanos de a pie no nos dotamos de cierta cultura matemática, pues de otra forma corremos el riesgo de convertirnos en nuevos analfabetos, ya que estos algoritmos ya están presentes en el día a día de todos los ciudadanos.