敏感词库与PII脱敏配置,让AI更安全可信!

科技   2024-12-11 07:45   广东  

🎉金蝶云·苍穹V7.0新特性系列文章重磅上线

每一、三、午早上07:45

准时为你带来最新产品资讯


在数字化转型的浪潮中,企业对于数据安全与合规性的需求日益增强。苍穹AI开发平台,在追求智能化、高效化的同时,也致力于保障数据安全与用户隐私的重要性。


苍穹V7.0 AI开发平台内置了强大的可信层能力,特别是针对敏感信息的处理,如敏感词库与PII(个人身份信息)脱敏配置,旨在为企业打造一个既智能又安全的数字化工作环境。


本期文章,让我们一同走进苍穹AI开发平台的可信层,探索它如何为企业的数字化转型之路保驾护航~


👇点击下方音频,1分钟快速了解列表AI开发平台可信层新特性,详情阅读全文噢~
















适用版本














金蝶云·苍穹V6.0.15及以上



特性展示














AI开发平台提供的可信层能力包括敏感词库PII脱敏配置,点击下方视频速览~



敏感词库


在与大模型交互的过程中,对内容安全、法律法规等方面会有相关的要求,借助“敏感词”审查功能,可以审查终端用户是否触发企业定义的敏感词,营造更安全的交互体验。


AI开发平台支持自定义配置敏感词,企业可根据自身需求灵活添加或删除敏感词,确保信息审核的精准性。在与苍穹助手进行对话时,会自动识别并过滤这些敏感词汇,并根据设置好的回复话术进行答复,有效防止不当言论的传播,维护健康的沟通环境。


点击“新增”,在敏感词库弹窗中填写要审查的敏感词以及触发敏感词后的回复内容,就可以完成敏感词库的建立。


注:词与词之间用换行符间隔,一个敏感词一行,每行最长100字符,空行及重复敏感词会合并处理。


图1 新建敏感词库


同时,支持配置多个敏感词库,便于管理,增强安全性与灵活性。


图2 敏感词库


PII脱敏配置


针对个人身份信息(PII),金蝶AI开发平台的可信层提供了严格的保护机制。在使用苍穹助手进行对话时,会将这些敏感信息替换为非敏感信息后提供给语言模型,语言模型处理完请求后,将替换后的信息进行还原,有效防止数据滥用和隐私侵犯。


图3 PII脱敏配置列表


目前,我们支持对“国内银行卡号”、“国内电话号码”、“邮箱”三类信息进行保护。


在【PII脱敏配置】中,点击“新增”按钮,选择需要保护的类型,完成配置后,即可在助手对话中对PII类型进行数据保护。


图4 PII脱敏配置界面



应用案例














敏感词库


新增一个敏感词库,设置敏感词“购买身份证”,设置审查回复为“您提问的内容我还没有学习到,请换个话题再试试吧。”


图5 敏感词设置


设置完成后,当你在苍穹助手问类似问题时,就会触发敏感词审查机制,根据设置内容进行回复:


图6 敏感词效果


PII脱敏配置


新增PII脱敏配置,设置需要进行脱敏的PII类型为“国内银行卡号”、“国内电话号码”与“邮箱”:


图7 PII脱敏配置


这时,我们在苍穹助手中,查询 “张一”的联系方式,看看效果如何。


在对话界面,我们输入“我怎么联系张一”,可以看到“张一”真实手机号为: 13712356789,邮箱为:zhangyi@gmail.com”


图8 对话效果


这时,我们去“监控优化>会话管理”中,查看传给大模型的“张一”的联系方式:


图9 脱敏效果


从图中可以看到,张一的手机变为:17250555273,邮箱为:tcl@yrz.com,和真实的联系方式均不一样,实现了PII的脱敏操作。



亮点价值














亮点一:增强安全性

平台提供统一的可信能力,通过敏感词库与PII敏感配置的双重保护,可以有效降低企业因数据泄露或不当使用而面临的风险。同时,通过不断更新和扩展敏感词库,可以持续提高系统的安全性,防止新型敏感信息的泄露,保证企业数据及敏感信息安全。


亮点二:提高灵活性与适应型

根据应用场景,定制化不同的可信策略,不同组织可启用不同的可信策略,进行不同粒度的可信控制。允许组织根据实际需求进行调整和优化,以满足多样化的需求。


亮点三:使用成本低

无代码配置,通过简单的配置即可完成设置,操作门槛低。



相关链接














敏感词库用户手册:

https://vip.kingdee.com/link/s/lDVky


PII脱敏配置用户手册:

https://vip.kingdee.com/link/s/lDVkU



划重点















金蝶云苍穹V7.0AI开发平台,提供了安全可信能力,功能如下:

1、敏感词库

  • 支持自定义配置敏感词,确保信息审核的精准性

  • 自动识别并过滤敏感词汇,有效防止不当言论的传播

  • 支持配置多个敏感词库,增强安全性与灵活性

2、PII脱敏配置

  • 提供严格的保护机制,防止数据滥用和隐私侵犯

  • 支持对“国内银行卡号”、“国内电话号码”、“邮箱”三类信息进行保护

  • 通过配置,可在对话中对PII类型进行数据保护



#往期推荐#

# 全新苍穹助手门户,打造你的AI管理助手

# 苍穹编程助手,开启AI编程新纪元

# 大模型自定义提取,帮你实现任意版式文档信息提取

# 大模型上下文长度优化与通用能力提升,助力高效财务分析!



对文章有任何疑问或建议,欢迎评论区留言~

PaaS平台那些事
分享苍穹最新特性、功能使用和开发小技巧、最佳实践等,做苍穹用户的知心朋友
 最新文章