基础性漏洞使大型语言模型长期易受攻击

据 MIT Technology Review（https://www.technologyreview.com/2026/07/30/1140927/a-fundamental-flaw-leaves-llms-vulnerable-to-attack/）报道，科学家们在国际机器学习大会上展示了大型语言模型（Large Language Models, LLMs）中的一项基础性漏洞。该漏洞使得模型无法完全防御针对性的攻击。

漏洞的本质

研究人员解释说，LLM的架构和工作原理本身就存在固有的攻击面。与基于确定性规则的传统软件不同，这些模型通过海量数据学习，并基于概率生成回答。这一特性使它们容易受到所谓“提示注入”（Prompt-Injection）攻击，攻击者通过设计输入使模型产生不良或有害的输出。团队指出，没有简单的技术方案能在不大幅削弱模型性能的情况下完全阻止这些攻击。语言模型的复杂性及其对上下文信息的依赖导致安全机制总是可能被绕过。

对安全性和信任的影响

这一发现对在医疗、法律或金融等安全关键领域使用的人工智能系统产生深远影响。如果LLM被操控，可能传播错误信息、发布欺诈性指令，甚至导致自动化系统误操作。企业和开发者面临挑战，需在此漏洞存在的情况下实施切实可行的防护措施，包括将人工监督与AI结合、制定更严格的使用政策以及持续监控输出内容。

重要性

大型语言模型现已广泛应用于聊天机器人、翻译服务及自动文本生成等多种场景。该基础性漏洞的发现表明，尽管技术取得了进步，但仍非无懈可击。用户和提供者必须意识到风险，负责任地使用该技术。研究还强调了将AI安全作为独立学科继续发展的必要性，并探索超越传统IT安全理念的新方法。

展望

尽管目前全面防护LLM免受操控被认为不现实，研究人员正致力于开发补充方法，如更鲁棒的训练技术、改进的攻击检测系统以及融合人类专业知识的混合模型。性能与安全之间的平衡仍是未来AI发展的核心挑战。该研究成果应促使开发者、用户及监管机构在AI系统的开发和应用中更加重视安全因素。