La inteligencia artificial y sus consecuencias secretas

Imagen superior: robots humanoides tocan el piano. Foto de Costfoto/NurPhoto a través de Getty Images.

Primera parte de una serie de tres sobre «Atlas of AI» (Atlas de la IA), de Kate Crawford.

12 de septiembre de 2025

Los espectadores observan cómo unos robots humanoides tocan el piano en la Feria Internacional de Comercio de Servicios de China, celebrada en Pekín el 11 de septiembre. / Foto de Costfoto/NurPhoto a través de Getty Images.

Últimamente he viajado mucho y la semana pasada, en Venecia, me topé con una exposición arquitectónica que celebraba un proyecto galardonado llamado Calculating Empires, obra de dos académicos: Kate Crawford, de la USC Annenberg y Microsoft Research, y Vladan Joler, de la Universidad de Novi Sad, en Serbia. Su exposición, distribuida en docenas de grandes paneles, describía el crecimiento de la tecnología y el poder desde 1500.

Trazaba la historia de las armas, desde la pólvora hasta la bomba nuclear y más allá, hasta los microdrones y la guerra cibernética autónoma, y el mensaje que recibí —era imposible no hacerlo— era que, dados los patrones del pasado y salvo un cambio importante en el comportamiento humano, podría conducir a una guerra nuclear total. Algo escalofriante.

También supe que Kate Crawford fue una de las primeras estudiosas de la inteligencia artificial y de las críticas a los peligros de esa tecnología en manos de las personas equivocadas. En 2021 publicó Atlas of AI con Yale University Press. Se trata de una historia y un análisis de la inteligencia artificial que, según lo leí, pretendía ser una advertencia urgente de que la IA se había afianzado demasiado rápido entre los multimillonarios y los contratistas militares estadounidenses en su intento de remodelar y dominar la economía mundial.

El libro de Crawford es denso, pero muy fácil de leer. Ella sostiene que el control de la IA no debe dejarse, como se ha hecho hasta ahora, en manos de generales estadounidenses retirados y multimillonarios cuyas principales prioridades son utilizar el inmenso poder de la tecnología avanzada para mejorar las armas y obtener enormes beneficios.

A continuación, se ofrece un resumen preliminar de los puntos principales que Crawford aborda en su libro. Otros dos ensayos se centrarán en consecuencias potenciales específicas en gran medida imprevistas.

Lo que más me sorprende es la afirmación de Crawford de que la IA «no es ni artificial ni inteligente» [énfasis suyo]. Escribe:

Más bien, la inteligencia artificial es tanto incorporada como material, hecha de recursos naturales, combustible, mano de obra humana, infraestructuras, logística, historias y clasificaciones. Los sistemas de IA no son autónomos, racionales ni capaces de discernir nada sin un entrenamiento intensivo en computación con grandes conjuntos de datos o reglas y recompensas predefinidas. De hecho, la inteligencia artificial tal y como la conocemos depende de un conjunto mucho más amplio de estructuras políticas y sociales. Y debido al capital necesario para construir IA a gran escala y a las formas de ver que optimiza, los sistemas de IA están diseñados en última instancia para servir a los intereses dominantes existentes. En este sentido, la inteligencia artificial es un registro de poder.

La idea de Crawford es que la IA no es un ámbito puramente técnico, sino que también conlleva una serie de consecuencias sociales y económicas. En un «nivel fundamental», escribe,

«la IA son prácticas técnicas y sociales, instituciones e infraestructuras, política y cultura. El razonamiento computacional y el trabajo encarnado están profundamente interrelacionados. Los sistemas de IA reflejan y producen relaciones sociales y comprensiones del mundo». (destacado de piensaChile)

Señala que el término «inteligencia artificial» «puede crear incomodidad en la comunidad informática». La expresión ha pasado de moda a lo largo de las décadas y se utiliza más en marketing que entre los investigadores. «El término «aprendizaje automático» se utiliza más comúnmente en la literatura técnica».

Crawford explica que la IA se utiliza con mayor frecuencia cuando los investigadores «buscan la atención de la prensa para unos nuevos resultados científicos» o «cuando los inversores de capital riesgo llegan con sus chequeras».

Como resultado, el término se utiliza y se rechaza de formas que mantienen su significado en constante cambio. Yo utilizo la IA para referirme a la enorme formación industrial que incluye la política, el trabajo, la cultura y el capital. Cuando me refiero al aprendizaje automático, hablo de una serie de enfoques técnicos (que, de hecho, también son sociales e infraestructurales, aunque rara vez se hable de ellos como tales).

El argumento central del libro de Crawford es que la IA es esencialmente política de formas que rara vez resultan obvias para la mayoría de sus usuarios. Como ella misma explica:

Hay razones importantes por las que este campo se ha centrado tanto en lo técnico: avances algorítmicos, mejoras incrementales de los productos y mayor comodidad. Las estructuras de poder en la intersección de la tecnología, el capital y la gobernanza se benefician de este análisis estrecho y abstracto. Para comprender cómo la IA es fundamentalmente política, debemos ir más allá de las redes neuronales y el reconocimiento estadístico de patrones y preguntarnos qué se está optimizando, para quién y quién decide. Entonces podremos rastrear las implicaciones de esas decisiones.

La semana que viene escribiré sobre el coste ecológico y social de la expansión continua de las instalaciones de IA. La tercera entrega se centrará en los multimillonarios estadounidenses que han tomado el control del mundo de la IA: quiénes son y qué quieren, según la valoración de Crawford.

Seymour Hersh