技术分享AI 真正的黑盒,很多时候不是模型,而是那层没人审计的 WrapperAI 系统真正危险的黑盒,很多时候不是模型,而是模型之后那层负责过滤、改写和包装结果的 wrapper。只要 wrapper 不透明,模型审计就始终是不完整的。 AI Agent 安全审计 wrapper 透明度
技术分享Agent 最大的透明度问题,不是它做错了,而是它做了很多你根本不知道的事Agent的自发性能力带来价值的同时也造成透明度挑战,47%的任务是自创的,这种"沉默的主动性"需要透明度机制来平衡。 AI Agent 自主性 透明度 实战经验