Sistemas sociotécnicos

Los sistemas sociotécnicos combinan personas y tecnología en un mismo sistema, como un hospital donde médicos, personal de enfermería, herramientas de diagnóstico con IA y programas de gestión de citas dependen unos de otros. La idea clave es que no puedes optimizar solo la parte técnica sin afectar al trabajo de las personas, ni cambiar cómo trabajan sin rediseñar la tecnología. Cuando una empresa introduce herramientas de IA, la tecnología cambia aquello en lo que las personas se fijan y lo que deciden, mientras que las personas también influyen en lo bien que funciona la IA en la práctica. Fíjate en esto: la próxima vez que uses un sistema automatizado, pregúntate qué habilidades humanas está sustituyendo y qué nuevas habilidades exige.

La teoría de los sistemas sociotécnicos surgió del estudio de las minas de carbón británicas en la década de 1950. Los investigadores descubrieron que cambiar solo la tecnología minera fracasaba porque no tenía en cuenta cómo los mineros colaboraban, se comunicaban y tomaban decisiones juntos. Los mejores resultados se lograban al rediseñar al mismo tiempo tanto los equipos técnicos COMO la organización social del trabajo. Este principio se aplica en todas partes: cuando un banco introduce algoritmos de detección de fraude, cambia las tareas de quienes investigan los fraudes, su formación, lo que se considera una prueba e incluso cómo viven los clientes los controles de seguridad.

La idea central es la optimización conjunta. En lugar de tratar a las personas como piezas intercambiables que deben adaptarse a la tecnología, el diseño sociotécnico da la misma importancia a los subsistemas técnicos y humanos. Cada uno tiene sus puntos fuertes: las máquinas destacan por su constancia y su capacidad para trabajar a gran escala; las personas, por su criterio, su comprensión del contexto y su capacidad para afrontar situaciones nuevas. Un sistema sociotécnico bien diseñado aprovecha estas fortalezas, en vez de sustituir por completo a las personas o dejarles la tarea de resolver los problemas de la automatización. Piensa en las cajas de autopago: reducen los costes de personal, pero aumentan los hurtos y frustran a los clientes cuando detectan artículos inesperados. Son señales de un diseño sociotécnico incompleto.

En la ética de la IA, esta perspectiva cambia nuestra forma de entender la equidad. Un algoritmo puede ser estadísticamente equitativo sobre el papel y, aun así, causar daño si quienes lo usan no comprenden sus limitaciones o no pueden anular sus decisiones cuando corresponde. A su vez, el criterio humano por sí solo tiene sesgos que los sistemas bien diseñados pueden reducir. El objetivo no es lograr una automatización perfecta ni un control exclusivamente humano, sino diseñar la interacción para que cada parte compense las debilidades de la otra. Esto implica involucrar a las comunidades afectadas en el diseño, formar a las personas para que comprendan qué puede y qué no puede hacer la automatización, y crear ciclos de retroalimentación para que el sistema aprenda de su uso en el mundo real.

La teoría de los sistemas sociotécnicos surgió en el Instituto Tavistock de Relaciones Humanas en la década de 1950. Se basó en estudios de Eric Trist y sus colegas sobre la minería del carbón que mostraron que los subsistemas técnicos y sociales deben optimizarse de forma conjunta. Este marco ha evolucionado y hoy orienta la ética de la IA y la interacción entre personas y computadoras.

• Trist (1981): La optimización conjunta de los subsistemas técnicos y sociales produce mejores resultados que optimizar cualquiera de ellos por separado, ya que cada subsistema influye en el rendimiento del otro [1].
• Shneiderman (2022): Los sistemas de IA fiables requieren un diseño centrado en las personas que tenga en cuenta sus capacidades, limitaciones y valores durante todo el ciclo de desarrollo [2].
• Baxter y Sommerville (2011): La ingeniería de sistemas sociotécnicos reconoce que los sistemas de software existen dentro de contextos sociales que determinan su éxito o fracaso [3].

Algunos críticos de la teoría de los sistemas sociotécnicos sostienen que puede ser poco precisa sobre CÓMO lograr la optimización conjunta en la práctica. El marco funciona bien para el análisis, pero ofrece menos orientación concreta a quienes deben diseñar sistemas y encontrar un equilibrio entre objetivos con restricciones reales. También tiende a centrarse en organizaciones laborales formales y se aplica con menos claridad a productos de consumo o espacios públicos donde los usuarios son anónimos. Algunos investigadores señalan que el «subsistema social» no es un bloque uniforme: distintos grupos —usuarios, trabajadores, directivos y comunidades— tienen intereses contrapuestos que el marco no resuelve. Por último, la tecnología cambia más rápido de lo que avanzan los procesos de diseño participativo que recomiendan los enfoques sociotécnicos.