社会技术系统

社会技术系统把人与技术结合在一起，让它们作为一个整体运作。比如在医院里，医生、护士、人工智能诊断工具和排班软件都相互依赖。关键在于，你无法只优化技术而不影响人们的工作方式，也无法只改变人的工作方式而不重新设计技术。公司引入人工智能工具时，技术会改变人们关注什么、如何做决定，而人们也会影响人工智能在实际使用中的表现。 请注意：下次使用自动化系统时，问问自己，它取代了人的哪些技能，又要求人掌握哪些新技能。

社会技术系统理论源于20世纪50年代对英国煤矿的研究。研究人员发现，只改变采矿技术并没有取得成功，因为这种做法忽略了矿工如何协作、沟通和共同决策。同时重新设计技术设备和工作组织方式，才能取得最佳效果。这一原则适用于各种场景：比如银行引入欺诈检测算法后，欺诈调查人员的工作内容、培训方式、什么算作证据，甚至客户接受安全检查时的体验，都会随之改变。

核心思路是联合优化。社会技术系统设计把技术子系统和人的子系统放在同等重要的位置，而不是把人看作可以随意替换、必须适应技术的零件。双方各有优势：机器擅长保持一致性和处理大规模任务；人擅长判断、理解情境和应对新情况。设计良好的社会技术系统会发挥这些优势，而不是完全取代人，或让人专门给自动化系统收拾残局。想想自助结账机：它们降低了人力成本，却也增加了店内盗窃，还会因为“意外物品”问题让顾客感到烦躁。这些都说明，社会技术系统的设计还不完善。

在人工智能伦理中，这一视角改变了我们思考公平性的方式。一个算法在理论上可能符合统计公平标准，但如果使用它的人不了解它的局限，或无法在适当的时候推翻它的决定，它仍然可能造成伤害。反过来，单靠人的判断也会带来偏见，而设计良好的系统可以减少这些偏见。目标不是实现完美的自动化，也不是完全由人掌控，而是设计好两者的互动，让双方弥补彼此的弱点。这意味着要让受影响的群体参与设计，培训人们理解自动化能做什么、不能做什么，并建立反馈循环，让系统从实际使用中学习。

社会技术系统理论起源于20世纪50年代的塔维斯托克人际关系研究所。埃里克·特里斯特及其同事对煤矿的研究表明，技术子系统和社会子系统必须进行联合优化。随着这一框架的发展，它也为现代人工智能伦理和人机交互提供了思路。

• Trist（1981）：对技术子系统和社会子系统进行联合优化，比单独优化任何一方都能带来更好的结果，因为每个子系统都会影响另一方的表现 [1]。
• Shneiderman（2022）：可靠的人工智能系统需要以人为中心的设计，在整个开发生命周期中考虑人的能力、局限和价值观 [2]。
• Baxter 与 Sommerville（2011）：社会技术系统工程认识到，软件系统存在于社会情境之中，而这些情境决定了系统的成败 [3]。

社会技术系统理论也受到一些批评：它对如何在实践中实现联合优化，可能说得不够清楚。这一框架很适合分析问题，但当设计者需要在现实约束下做取舍时，它提供的具体指导较少。它也往往聚焦于正式的工作组织，较难直接适用于用户身份不明的消费产品或公共空间。一些研究者指出，“社会子系统”并不是一个利益一致的整体：用户、员工、管理者和社区等不同群体之间存在利益冲突，而这一框架并没有解决这些冲突。最后，技术变化的速度超过了社会技术方法所倡导的参与式设计流程所能跟上的速度。