AI 任务做到哪一步算越界：天盾智安做任务级安全契约

企业让 AI 整理客户资料、分析合同、调用业务系统时，一项原本只需“读取和分析”的任务，可能逐步涉及数据导出、对外发送或修改记录。单次回答合规，并不意味着连续执行始终处于授权范围内。AI 能调用的工具越多，企业就越需要回答一个具体问题：这次任务究竟允许它做到哪一步？

天盾智安正在研发企业 AI 安全中台，计划在企业 AI 应用与数据、业务系统之间建立独立安全控制层，围绕敏感信息泄漏、AI 行为违规及多轮工具调用越界三类风险，把企业规则落实到任务的授权、执行与审计过程。

先明确任务边界，再约束每一步操作

天盾智安的产品思路，来自团队对企业实际使用环境的关注。不同企业的数据分类、系统权限和审批流程各不相同，安全要求需要进入具体业务，而不只是停留在一套通用的内容过滤规则中。

按照研发方案，系统首先结合用户意图、任务上下文和数据敏感级，形成“任务级安全契约”，明确可用工具、可访问数据以及动作上限，再在工具调用前校验权限、参数和审批条件。对识别出的风险，按企业策略采取脱敏、改写、审批或阻断等处置。

例如，在一个客户资料分析场景中，“读取指定记录并形成内部摘要”与“导出全部客户资料并发往外部地址”属于不同授权范围。天盾希望让系统既理解两者在语义上的区别，也把限制落实到具体工具和参数上。这是产品机制的说明场景，并非已完成的客户案例。

在此基础上，平台设计进一步串联模型调用、工具参数、外部请求与执行结果，持续检查多步行动是否符合最初目标。其重点是识别单步看似合理、组合起来却越界的操作，帮助企业把安全管理延伸到 Agent 的整个执行过程，并为告警和人工介入保留可追溯依据。

让安全策略随业务更新，也让更新可验证

企业制度与业务流程会变化，安全策略也需要持续维护。天盾智安为此设计了由三个 Agent 协同工作的策略迭代流程：Policy Builder 将企业制度、业务规范等资料转成候选规则；Eval Builder 构建正常、违规及边界样本；Optimizer 负责评测、改写与再测试。

候选策略经测试和发布确认后再生效，并保留版本追溯与退化回滚机制。后续产品使用中发现的误报、漏报与新业务需求，计划回流到规则和评测样本中，支持下一轮更新。

这一方案希望降低企业编写和维护复杂规则的负担，同时控制规则调整对正常业务的影响。任务级授权、跨步骤判断与受控策略更新，共同构成天盾智安面向业务 Agent 的产品方向。具体拦截效果、误报水平与响应性能，仍需在平台建设和实际场景验证中检验。

据项目材料，团队已就《一种基于多层语义识别的企业 AI 使用安全动态管控与审计系统》提交国内发明专利申请。

从企业场景切入，探索持续服务

市场拓展方面，团队计划围绕软件服务、智能制造、医疗医药、金融保险等行业，对接有明确 AI 应用场景和安全需求的 IT、安全与业务负责人，从需求沟通、场景评估及产品验证逐步推进。

商业化方案包含 POC 与部署项目收入、固定订阅收入和超额用量计费，并考虑企业私有部署及定向适配需求。团队希望在交付中沉淀可复用能力，围绕企业持续变化的 AI 使用需求提供服务。当前企业接触仍处于前期需求沟通阶段，尚未形成基于实际产品使用的反馈。

企业级工程、AI 研发与商业化经验互补

企业团队经历分别对应技术产品与企业架构、产品与商业化、语义模型与评测，为项目提供不同维度的研发和需求理解基础。

天盾智安目前处于平台研发建设阶段，资金由创始团队自筹，计划开展 450 万元人民币种子轮融资，主要用于团队建设、产品开发、市场推广与基础运营。接下来，团队将重点补充研发与交付力量，推进核心功能建设和企业场景验证，逐步形成适合中国企业落地环境的 AI 安全平台，让安全规则进入 AI 的每一次数据使用与业务行动。