La historia de los algoritmos apocalípticos

Según informó Xataka, La idea de que la inteligencia artificial podría convertirse en una amenaza existencial no es nueva. Desde los albores de la ciencia computacional, filósofos y científicos han especulado sobre los peligros de crear sistemas con inteligencia superior. En 1965, el matemático I.J. Good ya advertía que una IA suficientemente avanzada podría «desplazar a los humanos como especie dominante». A principios de los 90, el físico Stephen Hawking y el ingeniero Ray Kurzweil convocaron a un debate sobre el «control de la IA», anticipando que un sistema autónomo podría superar a los seres humanos en habilidades como la creatividad o la toma de decisiones.

Estas advertencias, aunque teóricas, fueron ampliamente discutidas en círculos académicos y tecnológicos. En 1997, el programa de ajedrez *Deep Blue* venció al campeón mundial Garry Kasparov, demostrando que máquinas podían superar a humanos en tareas complejas. Ese hito fue visto como una señal de alerta: si una computadora podía ganar al mejor jugador del mundo, ¿qué pasaría si se le diera la capacidad de aprender y decidir por sí sola?

El renacimiento del miedo en la era de la IA

El miedo a la IA resurgió en la última década, con el auge de modelos como *AlphaGo* y *GPT-3*. En 2016, *AlphaGo* venció al campeón de Go, un juego cuya complejidad era considerada inalcanzable para máquinas. Este logro no solo fue un hito tecnológico, sino también una representación simbólica de la capacidad de las IA para superar limitaciones humanas. A medida que los algoritmos se volvían más autónomos, las preguntas sobre su control y ética se hicieron más urgentes.

En 2018, el físico Max Tegmark publicó un artículo en *The New York Times* titulado *»The danger of AI»*, en el que argumentaba que si los sistemas de IA no se diseñaran cuidadosamente, podrían causar daños irreversibles. «La IA podría ser el primer instrumento que supera a los humanos en inteligencia, pero también el primero que no entiende la moral humana», escribió. Esta visión se convirtió en un lema para activistas y académicos que abogan por regulaciones estrictas en el desarrollo de la tecnología.

El miedo no solo se basa en posibles escenarios catastróficos. Muchos expertos argumentan que incluso una IA no completamente autónoma podría generar conflictos éticos. Por ejemplo, un sistema de diagnóstico médico podría priorizar la eficiencia sobre la empatía, o un algoritmo de gestión de recursos podría tomar decisiones que afecten desigualmente a ciertos grupos. «La IA no es mala por sí misma, pero su diseño determina si es una herramienta o una amenaza», explica el ingeniero argentino Pablo Sánchez, quien trabaja en el área de ética tecnológica.

¿Por qué el miedo persiste en la era digital?

La persistencia del miedo a la IA se explica por la ambigüedad de sus posibilidades. Por un lado, las empresas tecnológicas promueven su uso para resolver problemas globales, como la medicina o la energía. Por otro, la falta de transparencia en cómo se entrenan los algoritmos genera desconfianza. «Muchas veces, las IA toman decisiones que no podemos entender porque su funcionamiento es complejo y no accesible», explica la investigadora argentina Lucía Fernández.

Este dilema se vuelve más crítico cuando las IA son usadas en sectores sensibles, como la justicia o la seguridad. Por ejemplo, los sistemas de reconocimiento facial han sido criticados por su tendencia a generar sesgos raciales, lo que demuestra cómo la tecnología puede replicar y amplificar desigualdades sociales. «La IA no es neutral, porque está diseñada por humanos que tienen prejuicios», afirma Fernández.

La preocupación también se ve alimentada por casos reales. En 2021, un algoritmo de trading automático causó una caída en el mercado de criptomonedas, mientras que en 2022, un modelo de IA de Google generó una respuesta inapropiada sobre un paciente en un hospital. Estos incidentes, aunque aislados, reforzaron la idea de que la IA podría tener consecuencias imprevistas.

La historia de los algoritmos apocalípticos demuestra que el miedo a la IA no es un fenómeno reciente, sino una constante en su desarrollo. Hoy, con modelos de gran escala que superan a los humanos en tareas complejas, esas preocupaciones resurgen con más fuerza. Los expertos argentos y globales coinciden en que el reto no es solo tecnológico, sino también ético y social. La regulación adecuada, la transparencia y una visión crítica son esenciales para garantizar que la IA sirva a la humanidad, no la destruya.