ServiceNow推出自主AI代理的紧急停止开关，强调其日益重要性

据 CNBC Technology（https://www.cnbc.com/2026/07/22/servicenow-ceo-kill-switch-rogue-ai.html）报道，Bill McDermott，ServiceNow的首席执行官，强调了公司在企业中日益广泛使用自主AI代理背景下的重要性。他同时推出了一项新的安全功能，作为对意外或有害行为的AI代理的“紧急停止开关”。

自主AI代理的安全担忧

随着自主AI系统在企业中的普及，越来越多的人担心这些代理可能在无人监管的情况下行动，进而可能造成损害。McDermott强调，ServiceNow致力于通过技术保护机制来降低这些风险。紧急停止开关使企业能够在AI代理出现异常行为时立即停止其运行，以防止不良后果。

ServiceNow作为AI管理的核心平台

ServiceNow正逐步定位为企业管理复杂AI生态系统的不可或缺平台。通过整合如紧急停止开关等控制机制，公司希望确保AI应用不仅高效运行，同时也安全且负责任地被使用。这一点尤为重要，因为许多企业正加大对自主系统的依赖，以实现流程自动化和辅助决策。

重要性所在

为AI代理引入紧急停止开关，解决了企业AI整合中的核心挑战之一：自动化优势与控制权丧失之间的平衡。若无此类安全机制，自主系统可能做出意外决策，带来财务、法律或声誉风险。此外，ServiceNow的举措展示了科技行业如何为一个AI不仅辅助而且日益自主运作的未来做准备。能够在必要时即时停用AI代理，是企业和客户对这些技术建立信任的重要基石。

展望未来

随着自主AI代理承担越来越多任务，对强大控制和安全解决方案的需求将持续增长。ServiceNow有望通过其方法成为行业先驱，制定企业中负责任使用AI的标准。同时，业界如何应对这一挑战及未来AI安全领域的创新仍有待观察。总体来看，ServiceNow的宣布凸显了技术创新与人工智能安全之间的紧密联系——这是企业和开发者共同关注的议题。