La integración de inteligencia artificial en sistemas organizacionales: oportunidades, sesgos y paradojas...
La creciente adopción de inteligencia artificial en contextos organizacionales -lejos de constituir una simple ventaja técnica- expone tensiones sociotécnicas y paradojas profundas que este artículo examina críticamente desde la ingeniería sistémica. A partir de un análisis de sus fundamentos históricos, técnicos y epistémicos, se muestra cómo la integración de modelos predictivos reconfigura la toma de decisiones, las estructuras de poder y las dinámicas de aprendizaje, al tiempo que se advierte sobre los riesgos de delegar el juicio estratégico a algoritmos en organizaciones carentes de retroalimentación y reflexión efectivas. Naturalizar la automatización algorítmica sin comprender sus implicancias culturales, políticas y epistemológicas amenaza con erosionar la capacidad organizacional de pensar, aprender y decidir de forma consciente en entornos crecientemente complejos.
Por Eduardo Vásquez Reyes – Mg. Ing. Ind. / Ing. Civil Ind.
En los últimos años, la inteligencia artificial (IA) ha dejado de ser una curiosidad académica o una distopía de ciencia ficción para convertirse en el nuevo tótem corporativo. Su sola mención en comités de innovación, licitaciones públicas o pitches ejecutivos parece garantizar modernidad, eficiencia y futuro. Las organizaciones, presionadas por la narrativa de la transformación digital, la han adoptado con entusiasmo. O al menos, eso declaran en sus presentaciones de PowerPoint con títulos como “Optimizando el negocio con aprendizaje automático” o “Futuro cognitivo y toma de decisiones inteligente”. Sin embargo, al observar el fenómeno desde la perspectiva de la ingeniería sistémica, surgen preguntas inquietantes. ¿Qué significa realmente introducir inteligencia artificial en una organización? ¿Estamos usando tecnología inteligente en sistemas que han dejado de aprender?
La IA, entendida en términos amplios, se refiere a sistemas capaces de aprender a partir de datos, reconocer patrones complejos y tomar decisiones sin necesidad de intervención humana explícita. Esta capacidad técnica permite automatizar tareas repetitivas, anticipar riesgos, personalizar servicios y optimizar operaciones. En teoría, es el sueño del gerente moderno: una máquina que opera sin descanso, sin conflictos laborales, con capacidad predictiva y una aparente neutralidad técnica. Sin embargo, cuando se implementa sin una comprensión sistémica, la IA corre el riesgo de convertirse en una nueva forma de automatización de la inconsciencia.
El entusiasmo tecnológico suele ocultar la historia detrás de estas herramientas. La IA no nació como producto de marketing, sino como una inquietud filosófica y matemática. En los años 50, Alan Turing formuló la pregunta fundacional: “¿Pueden las máquinas pensar?”. Este cuestionamiento, más allá de su valor teórico, planteaba una reflexión sobre los límites de la computación y la imitación del juicio humano. En 1957, Frank Rosenblatt propuso el perceptrón, un modelo inspirado en las neuronas biológicas, capaz de aprender a clasificar datos. Si bien su potencial era notable, también lo eran sus limitaciones: solo podía resolver problemas linealmente separables. Marvin Minsky y Seymour Papert expusieron estas debilidades en su libro de 1969, lo que ralentizó el desarrollo del área por más de una década.
El renacimiento de las redes neuronales ocurrió en los años 80, gracias a la incorporación del algoritmo de retropropagación del error. Esto permitió entrenar redes multicapa capaces de modelar relaciones no lineales. Con el auge del poder computacional y la disponibilidad masiva de datos digitales, la IA resurgió con fuerza en el siglo XXI. Hoy, modelos de aprendizaje profundo (deep learning) son capaces de traducir idiomas, detectar cánceres en imágenes médicas y recomendar productos con precisión quirúrgica. No obstante, esta sofisticación técnica no ha venido necesariamente acompañada de una mejora en la comprensión organizacional de su funcionamiento.
En el ámbito empresarial, el ciclo de vida de un sistema de IA puede parecer sencillo: se recopilan grandes volúmenes de datos históricos (ventas, clics, incidentes, métricas internas), se entrena un modelo predictivo, y luego este se utiliza para estimar probabilidades de eventos futuros: qué cliente abandonará el servicio, qué proyecto se atrasará, qué zona geográfica tiene más riesgo de siniestralidad. Lo que parece ser un proceso objetivo y matemático, en realidad está lleno de decisiones humanas implícitas: qué variables se consideran, qué sesgos existen en los datos, qué objetivos se optimizan, qué métricas de éxito se definen, por ejemplo.
Desde una perspectiva sistémica, este proceso es profundamente incompleto si se reduce a entrada-salida. Todo sistema de control requiere retroalimentación efectiva. Sin embargo, lo que ocurre muchas veces en la práctica es que el modelo se entrena una vez y luego se aplica sin revisión constante, sin trazabilidad ni rendición de cuentas. Peor aún, se convierte en una caja negra que valida decisiones sin ofrecer explicaciones comprensibles. En comités de dirección, basta con decir “lo indicó la IA” para cerrar un debate. La autoridad se transfiere al algoritmo, aunque nadie entienda exactamente cómo funciona.
Este fenómeno tiene implicancias profundas. Como advertía Russell Ackoff, uno de los referentes del pensamiento sistémico, el verdadero problema no es hacer las cosas bien, sino hacer las cosas correctas. Una organización puede optimizar sus decisiones operacionales, pero si lo hace en función de objetivos mal definidos, métricas erradas o interpretaciones sesgadas del entorno, solo estará acelerando su desconexión de la realidad. La eficiencia sin efectividad es, al fin y al cabo, una forma de autoboicot.
El problema se agrava cuando el uso de la IA no se articula con una reflexión sobre la estructura organizacional que la alberga. Muchas organizaciones aplican modelos predictivos sobre estructuras burocráticas inflexibles, donde los sistemas de información no conversan, los silos funcionales impiden el aprendizaje transversal y las métricas de desempeño promueven comportamientos disfuncionales. En esos contextos, la IA no corrige la ceguera organizacional, sino que la automatiza.
Desde la cibernética organizacional, Stafford Beer propuso el Modelo de Sistema Viable (VSM) como una forma de entender cómo una organización puede adaptarse en entornos inciertos. Su enfoque enfatizaba la importancia de la autonomía local, la autorregulación y la retroalimentación estructurada. En ese sentido, la IA puede ser una herramienta poderosa para enriquecer estos mecanismos, siempre que se inserte dentro de un diseño sistémico coherente. Pero si se utiliza de forma aislada, sin integración funcional ni aprendizaje institucional, termina operando como un artefacto sin contexto, un injerto técnico en un cuerpo que no lo reconoce.
Humberto Maturana, desde una mirada biológica y epistemológica, recordaba que todo sistema social es, ante todo, un sistema conversacional. Las organizaciones no son máquinas que ejecutan instrucciones, sino redes de conversaciones donde se coordinan acciones, se construyen significados y se legitiman decisiones. Introducir IA en este entramado implica modificar las formas en que observamos, interpretamos y decidimos. No es solo una cuestión técnica; es una transformación epistemológica. Y si no se reflexiona sobre esa transformación, el riesgo es que la organización termine pensando menos, confiando más, y responsabilizándose menos.
Esta delegación de juicio tiene un efecto colateral importante: diluye la responsabilidad. Cuando una decisión se basa en lo que “dijo el modelo”, ya no hay un sujeto claro que pueda responder por ella. Las consecuencias se disuelven en una cadena de opacidades técnicas, donde nadie tiene control total ni comprensión suficiente. En este escenario, la IA se convierte en una excusa elegante para justificar errores, mantener el statu quo o evitar conversaciones incómodas sobre el rumbo estratégico.
En suma, la inteligencia artificial, aplicada con criterio sistémico, tiene el potencial de ampliar la capacidad de observación y acción de una organización. Puede permitir nuevas formas de diagnóstico, anticipación y adaptación. Pero su eficacia no reside en los algoritmos, sino en la consciencia del sistema que los utiliza. No basta con “usar IA”. Es necesario diseñar sistemas que comprendan, evalúen y aprendan con ella. Que establezcan retroalimentaciones efectivas, integren diversas perspectivas, y mantengan espacios de deliberación humana, donde el juicio no se delegue ciegamente.
Porque al final del día, el mayor riesgo no es que las máquinas piensen por nosotros. El mayor riesgo es que nosotros dejemos de pensar, creyendo que las máquinas ya lo hacen. Y lo más peligroso: que lo hagan en organizaciones que nunca se dieron el tiempo de aprender a aprender.
Artículo publicado en Revista Laboratorio de Emprendimiento Organizacional (LEO) del Departamento de Ingeniería Industrial de la Universidad De Santiago de Chile (USACh). Edición XLVII - 2025 "Liderazgo y gestión para conversaciones pertinentes sobre un mundo cambiante".
Comentarios
Publicar un comentario