LangGraph区分线程检查点和跨线程存储,OWASP提醒模型应用可能泄露敏感信息。本文讨论客户隔离设计,不针对具体平台作安全认证。
先定义哪些信息允许跨任务
模拟设计服务,用户偏好的文件格式可以在同一客户范围内复用,另一客户的报价和未公开素材则不应共享。每条长期记录需要明确所属主体、用途和维护人。
检索前后都检查访问范围
不能只在提示词里写“不要透露其他客户信息”。应用查询存储时就应限定身份和空间,返回结果还需验证来源。使用测试账号分别创建相似问题,检查是否出现串线。
删除与改错要能覆盖相关存储
用户要求修正偏好或清理资料时,应确认对话、长期记录和派生索引分别如何处理。日志也不应无边界保留原始内容。文章给出设计检查点,具体保留期限与数据处理规则须结合实际业务确认。
延伸阅读:AI创业。