护航端侧大模型平稳健康发展，百度大模型内容安全Lite版正式发布

2024-07-05 20:25:331157人阅读

6月28日，WAVE SUMMIT深度学习开发者大会 2024 “智变应用、码动产业”平行论坛在北京召开。与会，百度大模型内容安全Lite版正式发布，可面向低算力和超低算力的终端大模型提供离线场景下的一站式安全解决方案，为各类终端大模型平稳健康发展保驾护航。

当下，“人工智能+”已成为催生新质生产力的重要引擎，大模型在加速产业升级和经济增长的同时，也为网络安全带来了全新的机遇与挑战。2023年，基于文心大模型安全实践经验，百度安全推出了以AI安全为核心的大模型安全解决方案，旨在为大模型提供全生命周期的安全保障。面对大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段所面临的安全风险与业务挑战，方案提供了包含数据安全与隐私保护、模型保护、AIGC内容合规、业务运营风控的安全产品与服务，同时结合以攻促防守的思路建立AIGC 内容安全蓝军评测能力，对大模型实现例行化的安全评估，迄今已在金融、科技、电商、教育、零售等多个领域落地，助力客户和生态合作伙伴实现了大模型的安全升级。

进入2024年，伴随多模态大模型能力的不断升级和端侧算力的日趋增强，越来越多的大模型能力开始向终端设备转移，手机、个人电脑、可穿戴设备、网联汽车、机器人等智能终端迎来新一轮技术革新和应用创新，海内外诸多知名厂商纷纷入局。据摩根士丹利最新研报中指出，2024年AI PC渗透率将达2%，到2028年有望升至65%。相较于云端大模型的功能强大和泛化能力，端侧大模型因部署在本地，具有较小算力成本、低延时响应、保障用户数据隐私安全等显著特点，同时也因受限于运行环境、内存、存储空间等因素面临挑战。

从大模型内容安全防护角度，无论是云端大模型还是端侧大模型，均需保障自身生成式内容的合规、安全、可控、可靠，降低常态化运营风险，进而为用户提供稳定可信赖的服务。在此背景下，为满足端侧大模型的安全需求，作为一款专为低算力和超低算力终端大模型定制的安全解决方案，百度大模型内容安全Lite版应运而生。

百度安全副总经理冯景辉表示，大模型终端的安全必须通过以端内安全围栏为主，以云端安全检查为辅的方式进行，否则用户隐私和数据的安全无法保障，终端企业大模型成本也会居高不下难以推广。

百度安全副总经理冯景辉

在会上，百度安全副总经理冯景辉正式发布百度大模型内容安全Lite版。据他介绍，目前，百度大模型内容安全Lite版可面向包括AI PC、手机终端、平板Pad、边缘计算的各类终端场景，提供离线场景下的内容安全审核与内容干预服务。平台一大特点是“深度智能”，即在超低算力需求的同时，仍然保持对标云端大模型安全内容检测效果的“技术高配置”，在全面守护端侧内容安全的同时，进一步释放终端潜能。

具体而言，百度大模型内容安全Lite具备五大特点：

超低算力需求，释放终端潜能：百度大模型内容安全Lite可在纯CPU环境下的高效运行，仅需最低180 Mhz主频CPU及不超过1024MB内存的支持，这一特性可为终端大模型释放出更加宝贵的GPU算力资源。
全离线运行，守护隐私安全：百度大模型内容安全Lite采用全离线运行模式，在生成内容安全检查时无需联网，实现了超低响应时间。同时，这一特性可大幅降低传统云端上报隐私泄露的风险，令用户的个人隐私数据得到进一步的保障。
多平台兼容，覆盖广泛场景：目前，大模型内容安全Lite版本已全面支持X86、ARM架构，并原生兼容Linux、Android平台，更实现了国产化适配，确保在各种操作系统和硬件环境下都能稳定运行。
纯语义理解，规避泄露风险：在大模型输入输出内容检查方面，大模型内容安全Lite版采用了纯语义理解的方案，终端无需加载任何敏感词库，从根本上降低了因终端产品破解或敏感词泄漏而引发的安全风险。
可回复干预，灵活应对风险：为了进一步提升风险应对能力，大模型内容安全Lite版构建了超灵活的回复干预手段及干预平台，结合OTA通道可实现轻量级快捷的风险干预处置，在面对复杂多变的网络安全风险和黑产高级攻击时，进一步降低常态化运营风险。

百度大模型内容安全Lite版

在此次发布的百度大模型内容安全Lite版之外，百度安全也在持续为大模型产业各界生态合作伙伴提供完善灵活的安全能力支持。与会，百度大模型内容安全Turbo版迎来全新升级。该方案面向云端全功能大模型构建了一套功能完备、服务全面、开箱即用的大模型内容安全产品矩阵，助力客户和生态合作伙伴全方位应对包括大模型生成内容合规、大模型上线备案、大模型内生安全和常态化运营的风险与挑战。

作为人工智能领军企业，百度高度重视大模型安全风险防范的能力建设和生态建设。面对当下“大模型+安全”所面临的新形势、新机遇、新挑战，百度将不断拓展人工智能技术在网络安全领域的技术革新与应用，与各界保持合作，共筑大模型安全防线，并以实践经验推动相关标准的建设，助力构建完善的人工智能安全保障体系，探索更安全的大模型落地千行百业的无限可能。更多大模型安全相关的内容可以通过百度搜索“百度大模型安全”进入官网了解详情。

热门主题

热门文章

护航端侧大模型平稳健康发展，百度大模型内容安全Lite版正式发布