面向 EHS 团队的工作场所 AI 风险评估指南（2026）
一套以人为先的工作方法：帮助团队判断 AI 可以在哪里支持工作、可能出现什么问题、需要哪些控制措施，以及谁必须继续承担责任。
作者：Alvin Liao，最后复核于 · 阅读 English version
在 AI 影响员工、任务、机器、记录或安全决策之前，应记录它的目的与边界，梳理可能受到错误影响的人员，识别物理、健康、心理社会、隐私、信息、网络安全与治理风险，评估失败的后果与不确定性，然后分配控制措施和合格的人类复核者。应从可测试、后果最低的用途开始。不要让 AI 成为安全关键控制、合规审批、事故结论或重要人员决定的唯一依据。
范围：本指南覆盖什么
本指南适用于由 EHS、运营、工程、人力资源、学习、维护或事故团队使用或代其使用的 AI 工具、模型、代理、分析、计算机视觉、算法管理功能以及与机器人相关的系统。范围既包括在 EHS 工作流中使用的通用助手，也包括嵌入设备或工作场所流程的 AI 组件。
对员工的影响
可能改变工作方式、暴露情况、监测内容、培训内容，或改变员工理解和质疑决定的能力的输出或行动。
对系统和流程的影响
对机器、车辆、流程、许可证、检查、报告路径、应急工作流、数据流、工作组织或安全控制的改变。
不是法律测试
这不是针对特定司法管辖区的法律解释、认证方案、工程签字，也不能替代当地要求下由有能力人员进行的正式风险评估。
纳入员工声音
尽早与受影响员工及其代表沟通。他们经常能发现系统描述忽略的变通做法、误报、工作量变化和实际失败模式。
英国健康与安全执行局（HSE）表示，其健康与安全框架适用于工作场所中的 AI；影响工作场所健康与安全的 AI 用途需要进行风险评估并采取适当控制措施，同时关注网络安全。这一表述属于 HSE 的监管范围；本页面将其作为部署前评估 AI 的有来源依据，而不是普遍适用的法律规则。
面向 EHS 团队的工作风险分类
不要只检查准确率。AI 可能改变物理系统的危险特征，也可能通过工作组织引入心理社会影响，或者让人员更难理解和质疑某个决定。下表是一套受到 NIOSH 工作场所 AI 风险讨论启发的实用评估视角，不是监管分类。
| 风险类别 | 评估问题 | 控制措施示例 |
|---|---|---|
| 物理与流程安全 | 输出是否会改变机器、车辆、流程隔离、警报、检查优先级或工作指令？如果输出错误、延迟、不可用，或脱离上下文被执行，会发生什么？ | 在需要时保持安全功能独立；定义故障安全和人工后备；在有代表性的条件下验证；要求合格人员发布并保留停止权限。 |
| 职业健康与心理社会风险 | 系统是否可能加剧工作强度、降低自主性、引发疲劳、改变技能、增加压力，或把暴露转移到噪声、化学品、人体工学或其他危害上？ | 与员工一起审查工作设计；保留合理的工作量和休息；监测新的暴露；提供培训、支持，以及质疑或暂停工作流的路径。 |
| 人因与决策完整性 | 自动化偏见、解释不清、上下文缺失、幻觉、过时数据或过度自信的语气，是否可能让人员接受错误输出？ | 展示来源证据和不确定性；使用独立检查；设计拒绝和升级路径；测试罕见及失败场景，而不只测试典型样例。 |
| 隐私、公平与员工发声 | 收集了哪些员工、健康、位置、图像、绩效或事故数据？输出是否可能使某个群体处于不利地位，或使人员无法理解和质疑结果？ | 最小化数据；设置访问和保留规则；检查代表性表现；在相关情况下提供告知和人类质疑渠道；让隐私、人力资源和员工代表参与。 |
| 网络安全与韧性 | 提示词、文件、传感器、集成、供应商或模型更新是否可能泄露数据、操纵输出、绕过控制或让工作流不可用？ | 对输入和集成进行威胁建模；控制访问；测试恶意和格式错误的输入；记录版本；保留后备运行和事故升级能力。 |
| 治理、变更与责任 | 谁负责用例、模型、数据、决定和纠正？哪些变化会触发重新评估？组织能否重建系统输出及复核者的决定？ | 维护用例登记表；分配 RACI；保存版本化证据和复核记录；定义变更控制、投诉、事故复盘和退役标准。 |
分步评估方法
让执行工作的人员、对安全结果负责的人员和技术负责人共同完成以下步骤。如果团队无法说明系统边界、受影响人员、证据或后备方案，就应暂停提案。
- 定义目的和停止条件。用一句话写明 AI 支持的任务、预期好处以及 AI 不被允许做什么。明确仍由人负责的决定、行动或控制。将模型、界面、数据来源、集成、下游使用者和物理设备纳入边界。
- 梳理人员、任务和决定。识别操作、监督、维护、复核、被监测或可能受输出影响的员工。描述正常流程、可预见的变通方式以及应急或降级模式。询问谁的工作、隐私、自主性、工作量和发声能力可能发生变化。
- 描述 AI 特征。记录模型或算法类型、已知的训练或检索来源、输入数据、更新路径、置信度或不确定性信号、延迟、已知限制、供应商依赖和访问权限。将算法与其影响的物理平台或流程区分开来。
- 识别危害和失败模式。逐项检查上面的风险分类。对每一种失败都问：谁可能受伤或受到影响，通过什么任务或决定，人员如何发现，多久可以纠正，以及系统不可用时会发生什么？纳入误用、过度信任、恶意输入、数据漂移、集成失败和工作变通。
- 评估后果、暴露和不确定性。使用下一节的风险等级作为定性决定标签。考虑最可信的最坏员工影响、人员接触输出的频率、他们有多少控制权、证据有多不确定，以及结果是否可逆。如果证据不支持精确数字，不要为了得到数字而编造评分。
- 在工作流中选择控制措施。在依赖警告或培训之前，优先减少不必要的 AI 暴露、缩小目的、减少敏感数据，并让人员远离可避免的危险。加入技术防护、访问控制、来源展示、独立检查、人工后备、员工协商和升级机制。给复核者足够时间、能力和权限来拒绝输出。
- 用有代表性的场景测试。测试正常、边界、罕见、模糊、过时、缺失数据、恶意输入和系统不可用的情况。包含重要的语言、班次、环境、设备状态和员工群体。记录发生了什么、复核者看到了什么、他们改了什么，以及控制措施在实践中是否有效。
- 批准、记录并沟通。根据组织基线决定用途是允许、受限、延期还是禁止。记录目的、风险等级、证据、控制措施、复核者、负责决定的人员、后备方案、员工沟通、未解决问题和复核触发条件。在相关情况下告诉受影响人员系统做什么、不做什么，以及如何质疑结果。
- 监测并重新评估。关注事故、未遂事件、投诉、误报、漏报、工作强度增加、漂移，以及数据、模型或供应商的变化。当重要变化发生，或原有假设不再成立时，重新打开评估。
风险等级表
下面四个等级是本指南的内部运行标签，用来帮助团队选择复核深度；它们不替代当地法律、正式安全方法、工程标准或监管机构的分类。
| 等级 | 典型触发条件 | 最低控制预期 | 决定姿态 |
|---|---|---|---|
| 低 | AI 从获批准材料中起草、整理或检索信息；错误在影响工作之前可见且容易纠正。 | 明确目的；使用获批准的数据；进行基本输出和来源检查；指定负责人；不自动采取行动；记录使用情况。 | 完成相称审查后，可在获批准的边界内使用。 |
| 中 | AI 影响计划、排序、培训、检查分流或人员用来决定行动的报告；错误可能带来有意义但可发现的伤害。 | 进行有代表性的测试；记录限制；保留来源或输入可追溯性；指定合格复核者；收集员工反馈；保留后备方案和重新评估触发条件。 | 只有在受限使用、明确复核和记录化负责决定的前提下继续。 |
| 高 | AI 实质性影响安全控制、事故响应、员工监测、工作分配、合规解释，或其他可能来不及纠正、难以纠正或受到争议的决定。 | 正式用例审批；领域和技术评估；强数据与网络安全控制；对每个重要输出进行合格复核；质疑和升级路径；可审计记录。 | 在证据和责任充分之前延期、缩小范围，或在更高治理下进行试点。 |
| 关键 | AI 可能直接驱动或覆盖安全关键功能、发出应急行动、授权许可证或合规决定、决定重要人员结果，或在失败时使员工遭受严重伤害。 | 不得自主使用，也不得作为唯一决定依据。任何受控使用前都需要正式的安全或工程保证、明确的负责签字、独立质疑、经过测试的后备方案和指定停止权限。 | 本指南的基线禁止使用；除非正式治理下有充分理由并由组织负责人员批准例外。 |
允许、受限和禁止使用矩阵
这套基线矩阵有意保持保守。组织政策、合同、当地要求或安全论证可能规定更严格的控制。只有在证据、控制措施、员工沟通和负责审批支持新边界后，用途才可以改变状态。
| 状态 | 示例 | 条件 | 人类决定边界 |
|---|---|---|---|
| 允许 | 起草班前安全谈话；摘要获批准的会议记录；提取行动项；翻译草稿；从受控来源库检索段落；制作培训大纲。 | 使用获批准的信息；减少敏感数据；标注 AI 辅助输出；分享前检查事实、来源和语言；指定负责人；不触发自动行动。 | 由人员决定发布、分配或使用什么。AI 只能辅助准备，不能审批。 |
| 受限 | 检查照片或传感器分流；标准适用性说明；风险优先级建议；事故叙述摘要；员工排班或监测分析；个性化培训建议；对外安全内容。 | 记录用例和受影响人员；测试有代表性和失败场景；控制访问和保留；保留来源可追溯性；根据情况让 EHS 与技术、隐私、人力资源或员工代表参与；记录复核决定。 | 在影响工作前由合格复核者验证输出。工作流影响到的人员，在相关情况下应有要求更正的路径。 |
| 禁止 | 自主驱动或覆盖安全关键功能；仅由 AI 批准许可证、合规状态、事故结论、纪律处分或适岗结果；未经批准将敏感员工、医疗或事故数据交给公开工具处理；秘密监测员工；未经复核的应急指令。 | 本基线下不得使用。若要考虑不同边界，必须在任何受控例外前完成正式治理、证据、负责审批及适用的当地审查。 | AI 不能成为唯一决策者，也不能悄悄改变安全关键条件。边界不清时应停止工作流。 |
人类复核与 RACI 指引
只有当复核者理解工作、看得到证据，并拥有足够时间和权限拒绝输出时，人类复核才有意义。对不透明、仓促或无法质疑的建议点击“批准”，并不是有效控制措施。
检查证据
确认系统和版本正确，任务上下文、来源文件或传感器输入适当，事实准确，没有遗漏信息或过度超出证据范围的不确定性。
检查后果
询问谁可能受到影响，决定是否在 AI 边界内，是否存在更安全的替代方案，以及复核者是否有权暂停、更正或升级。
保留记录
在获批准的数据政策允许的范围内，保留相关输出、输入或来源、复核决定、修改、例外理由和升级记录。
倾听员工
邀请员工报告误报、漏报、工作量变化、隐私担忧和意外变通。把质疑当作安全信号，而不是麻烦。
| 活动 | 负责最终结果（A） | 负责执行（R） | 征询意见（C） | 知会（I） |
|---|---|---|---|---|
| 定义目的、员工影响和停止条件 | 对安全结果负责的运营负责人 | EHS 或流程负责人，与系统负责人共同执行 | 受影响员工或代表；工程；根据情况包括隐私或人力资源 | 经理和治理论坛 |
| 描述数据、模型、集成和技术控制 | 系统或产品负责人 | 技术负责人或供应商管理者 | EHS；IT/安全；隐私；采购 | 运营负责人和复核者 |
| 评估危害、测试场景并设定风险等级 | 根据当地治理由运营负责人和 EHS 负责人共同承担 | EHS 评估者与技术负责人 | 一线员工；工程；维护；根据情况包括人力资源或员工代表 | 治理论坛和受影响团队 |
| 批准受限或高风险工作流 | 指定的运营负责人 | 系统负责人维护审批记录 | 根据情况包括 EHS、安全、隐私、工程和员工代表 | 用户和受影响员工 |
| 复核每一个重要输出或行动 | 决定负责人继续承担责任 | 合格的 EHS、工程或运营复核者 | 行为异常时征询技术负责人 | 需要最终决定或更正的人员 |
| 监测、处理质疑并重新评估 | 登记表中指定的系统或运营负责人 | 流程负责人和保证团队 | EHS；员工；安全；隐私；供应商 | 治理论坛和受影响团队 |
RACI 只是分配工具。它不会把法定责任、专业义务、工程签字或运营决定转移给软件供应商或 AI 系统。
AI 风险登记表示例
以下条目是说明性示例，不是这些系统已经部署或获批的证据。请将字段调整到组织现有的 EHS、变更控制、隐私和信息安全记录中。
| 编号和用例 | 人员和输入 | 基线等级 | 状态和控制 | 负责人和证据 |
|---|---|---|---|---|
| EHS-01 会议摘要和行动项提取 | EHS 协调员；获批准的会议记录；不包含未经批准的个人或事故敏感数据。 | 低 | 允许用于起草。人员在发送前检查姓名、行动、日期和上下文；不自动关闭任务。 | EHS 流程负责人；保存来源记录、输出和复核修改。 |
| EHS-02 受控标准检索和适用性说明 | EHS 与工程复核者；许可或获批准的来源库；项目范围和版本背景。 | 中 | 受限。展示引用和来源版本；合格的标准复核者确认范围和解释；AI 不决定合规。 | 标准负责人；来源链接、复核说明和决定记录。 |
| EHS-03 检查图像分流 | 检查员和受影响员工；获批准的图像、位置和资产元数据。 | 中 | 受限。测试光照、遮挡和漏报场景；工作重新排序前由复核者验证每个问题；保留人工检查。 | 检查流程负责人；测试集、复核日志和更正路径。 |
| EHS-04 事故叙述摘要 | 调查人员、证人和受影响员工；事故记录可能含有敏感个人信息。 | 高 | 只有在数据处理获批准、访问受控、来源可追溯并由调查人员复核时才可受限使用。AI 不决定因果、责任或报告义务。 | 事故调查负责人；访问记录、来源材料和签署的复核记录。 |
| EHS-05 许可证或安全控制授权 | 许可证签发者、操作员和维护员工；实时运行状态和安全控制。 | 关键 | 禁止自主或唯一决定。授权继续由合格的负责人员掌握；任何拟议支持功能都需要正式工程和运营保证。 | 许可证权限负责人；任何例外前都需要正式变更和保证记录。 |
实用证据包
对于每个受限或更高风险的用例，保留一个其他合格人员可以理解的证据包。内容应包括目的和边界、系统与数据描述、受影响人员、危害分析、风险理由、测试场景和结果、控制措施、后备方案、复核者和负责审批者、员工沟通、版本历史、投诉或质疑记录、事故或未遂事件，以及下一次复核的触发条件。
让来源证据紧靠声明。对于检索工作流，保留引用的来源和版本。对于模型输出，在获批准的数据政策允许的情况下保留相关输入和版本。对于物理或流程控制，保留测试条件、观察到的行为和发布决定。目标是可追溯，而不是为了文书而文书。
以下公开来源构成本指南的证据边界，可直接阅读；页面没有转载付费标准的正文。
- HSE：人工智能（AI）的监管方法 - 英国健康与安全执行局介绍其监管范围、基于风险且相称的方法、对影响工作场所健康与安全的 AI 进行评估和控制的必要性，以及关注网络安全的要求。该页面针对 HSE 的执法范围，不应被理解为适用于所有司法管辖区的规则。
- NIOSH：管理工作场所 AI 危害的实用策略 - 美国国家职业安全与健康研究所关于工作场所 AI 危害、算法卫生、现有职业危害方法、工作设计和软件设计控制以及评估方法的官方讨论。
- NIOSH：算法与工作的未来 - NIOSH 关于侵入式监测、算法偏见、自主性与隐私丧失、错误输出和工作强化等工作场所风险的官方讨论。
- NIST AI 风险管理框架 - 美国国家标准与技术研究院关于在 AI 系统的设计、开发、使用和评估中纳入可信赖性考量的自愿性框架。其 RMF 1.0 和相关资源本身不是法律强制要求。
- ISO/IEC 42001:2023 - AI 管理体系 - ISO 关于建立、实施、维护和持续改进 AI 管理体系的管理体系标准公开概览。本文不转载标准正文，实施标准也不等同于获得认证。
复核于 2026 年 8 月 29 日。官方页面和标准可能发生变化。在做出部署或合规决定前，请检查当前来源、适用司法管辖区、合同、现场程序和合格专业意见。
限制与边界
- 本指南是教育性运行框架，不是法律、监管、医疗、职业卫生、网络安全、工程或雇佣建议。
- 低、中、高和关键是本指南的定性决定辅助标签，不是普遍风险类别，也不能证明某项使用合法、安全或合规。
- AI 的行为取决于模型、数据、界面、指令、集成、环境、使用者和变更历史。页面级说明无法证明某一具体系统安全。
- 员工协商、人类复核和登记表并不会消除底层危害。控制措施必须在真实工作环境中测试，并在假设失败时修订。
- 当地要求可能规定更严格的控制、协商、记录、隐私保障、机器保证或专业签字。组织负责人员必须判断哪些要求适用。
常见问题
什么是工作场所 AI 风险评估？
这是对 AI 系统如何影响员工、任务、决策、设备与工作组织进行记录化审查，并据此配置相称的控制措施、人类复核、责任归属与监测。
EHS 团队使用的每个 AI 工具都需要评估吗？
每个拟议用途至少需要经过相称的初筛。只从获批准的非敏感材料生成草稿的工具可能只需轻量审查；影响实体工作、员工监测、合规或事故决策的工具，则需要更深入的评估和更强的审批。
EHS 团队可以使用生成式 AI 吗？
可以用于受治理的决策支持任务，例如起草、摘要或检索获批准的来源；前提是敏感数据受到控制、输出经过检查，并且合格人员继续承担决策责任。
什么会使 AI 用例达到高风险？
当错误、延迟、有偏或不可用的输出可能实质性影响员工安全、健康、隐私、公平性、安全控制、事故响应或重要的雇佣决定时，用例就可能达到高风险；如果人员无法及时发现或纠正错误，风险会进一步上升。
人类复核者应该检查什么？
复核者应在接受输出或行动前检查系统、上下文、来源证据、事实准确性、不确定性、员工影响、决策权限和必要记录。复核者必须具备拒绝该输出的能力和权限。
什么时候应该重新审查 AI 风险评估？
应在使用前审查；当模型、供应商、数据、提示词、界面、任务或控制措施发生重大变化后重新审查；发生事故、未遂事件、投诉、复核失败或员工反馈发生有意义的变化后也应重新审查。
可以将本指南与 AI 原生 EHS 入门工具包配合使用，阅读 EHS AI 治理说明，或了解 企业 AI 安全诊断，为用例登记表和实施边界做好准备。