上新了！这次是大模型安全
科技
2024-08-02 16:49
北京
在2024京东云峰会上，京东云正式发布了全新的大模型安全可信平台。平台覆盖超过50个基于大模型技术的应用场景，其中包括自训练模型与外部基础大模型，涉及内容生成等关键领域。通过智能化检测和风险分析，京东云大模型安全可信平台为用户提供高达95%以上的检测准确率，确保大模型及其应用的安全性和合规性。大模型技术已成为推动行业创新的引擎，实际落地中却面临诸多挑战：数据安全、模型安全、内容输出合规等，京东云大模型安全可信平台，针对大模型应用的潜在风险，提供了一站式的安全防护解决方案，确保大模型技术在各个行业的安全、有效应用。- 在数据安全方面，通过在模型的训练阶段施加防御手段，包含对语料库的脱敏处理、使用密文运算和安全环境等，以及使用差分隐私、同态运算等技术，使得数据不出域完成大模型的预训练、精调。
- 在模型安全方面，内置了多种先进的安全技术和防护措施，包括内容安全智能检测、基于垂直领域的复杂攻击手法、多身份标注管理功能等，确保大模型及其应用在各种复杂场景下的安全性和可靠性。
- 在AIGC内容合规方面，京东云构造并打磨出覆盖面广、可用性高、针对性强的大量内容安全问题集，覆盖监管合规要求的全部31类风险类型，通过内容安全问题集、内容安全自动化检测和内容研判三大功能，帮助测评人员进行快速准确的风险评估。
针对Prompt注入攻击等高风险因素，平台不仅从事前模拟风险攻击机制来提前暴露风险，更进一步提供大模型应用防御安全网关，无需对现有系统进行改造，实现大模型应用的快速安全发布。当前，京东云大模型安全可信平台，从基础模型构建时、到模型运行时、模型生成时以及模型服务时四个阶段提供全方位的安全服务，让用户快速将大模型安全应用于实际业务场景中，更好地保障业务的稳定性和安全性。- End -
![]()
