Una eficacia peligrosa
Las grandes compañías de IA están advirtiendo que el desarrollo de la inteligencia artificial está saliéndose de control. Los peligros que se ciernen sobre el potencial de esta inteligencia ya venían siendo avisados en películas admonitoras. Por ejemplo, el peligro de la eficacia de HAL 9000, el superordenador que controlaba la nave espacial de “2001: Una odisea del espacio” (1968) y que, por eficacia, mata a los astronautas que la habitan. O “Colossus: The Forbin Project” (1970), que lleva el principio de la eficacia a su límite: para garantizar la paz (el fin), elimina el error humano y, con él, la libertad (el costo no evaluado). Su cálculo es perfecto precisamente porque ha suprimido la variable de la incertidumbre moral. Al evolucionar y fusionarse, Colossus revela la paradoja fundamental: sustituir la decisión humana por el cálculo frío, convirtiendo el instrumento en una tiranía de la eficiencia. Hoy sabemos empíricamente que existe un riesgo real de que el desarrollo de las capacidades de los poderosos chatbots se acelere más rápido de lo que somos capaces de entender o de controlar. Hasta las empresas creadoras advierten que el sector tendrá que coordinarse en torno a unos principios éticos compartidos si no queremos que la eficacia vaya contra nosotros. El riesgo no es futuro; ya es presente.