“AI安全治理论坛”成功举办 | CAISP认证培训班11月开班
为推动人工智能技术健康发展和规范应用，由中国信通院人工智能所举办的2025年人工智能产业及赋能新型工业化大会-AI安全治理论坛，于9月25日上午在北京国家会议中心顺利召开。此次活动汇聚科研机构、高校以及行业企业的专家学者，共同探讨了人工智能安全治理的前沿趋势、风险防控与安全评估等关键议题，推动治理原则向实践落地，并为构建开放、协同的人工智能安全治理生态注入新动能。
电信AI安全实践录
中国电信研究院AI安全解决方案总监程崇浩在主题分享中，将人工智能系统分为数据处理、研发训练、部署应用等阶段，系统呈现其风险视图，并深入分享了中国电信研究院在以AI治理AI、智能体攻击面检测、实战数据反哺安全对齐等领域的探索成果与实践经验。
大模型安全风险剖析与前瞻
北京理工大学网络空间安全学院袁艳丽教授在分享中，首先系统剖析了大模型在数据、模型、系统三大核心层面的风险挑战。随后聚焦具身智能（智能代理），深入拆解其在数据隐私保护、抵御数据投毒、强化模型鲁棒性、保障输入输出安全等维度的具体难题。最后前瞻性地提出未来研究方向，包括构建大模型安全性评估框架、提升技术可解释性，以及探索可信现实场景的落地应用。
AI SOC解析与展望
上海观安信息首席安全官王文君深入剖析了传统SOC产品的核心痛点，展现了行业现存的短板。详细解读了基于人工智能的AI SOC的定义，同时围绕其智能体告警分类、AI分析师、知识复制等核心功能与技术栈展开具体阐述，还结合告警研判、威胁狩猎等实际场景，展现了AI SOC的应用价值。最后，王文君也指出了AI SOC当前在数据、AI技术及人员层面面临的挑战。
智能体化与新安全观
绿盟科技集团股份有限公司总工办资深总师张睿，聚焦智能体发展，剖析了其催生的抗干扰、防污染、控权限等核心安全需求。同时围绕安全运营、数据分级分类、安全攻击武器封账、漏洞挖掘等方向，阐述了这些领域向“智能体化”演进的现状和未来趋势。最后，他围绕自然人与IT资产的关系展示网络安全IAM、ZTA、IRM理念的发展，介绍了人因恶意在结合AI技术的潜在风险。
智能体安全标准体系建设
中国信通院人工智能所安全与具身智能部魏峰，围绕智能体的概念界定、发展趋势到安全风险，梳理了智能体安全的核心范畴，并聚焦行业标准，详细介绍了信通院牵头制定的智能体安全技术规范，以及智能体安全标准体系的建设路径，明确将覆盖感知、记忆、规划、工具、行为、通信六大安全领域。最后，分享了信通院人工智能所在智能体安全测试方面的实践探索，提供了标准落地的鲜活案例。
结论：“数字免疫系统”的军备竞赛
中国信通院人工智能所安全与具身智能部邵彦华，首先深刻剖析了大模型一体机的安全痛点，并重点解读了中国信通院人工智能所牵头研制的《大模型一体机安全要求与评估方法》技术规范，详细拆解了规范中涵盖的通用安全、硬件层、模型层、系统层、数据层及智能体应用层等多维度安全要求。最后，介绍了依据技术规范开展的大模型一体机产品评测实践，展现了技术规范从制定到落地的完整路径。
大模型一体机安全标准与评测
上海斗象信息科技有限公司技术总监王涛，在介绍中特别指出，随着大语言模型在网络安全领域的应用持续深化，安全语料资源数据的核心价值正日益凸显。王总进一步详细介绍了斗象安全语料工程平台，并深入阐述了该平台在安全语料工程化管理方面的具体实践，以及为网络安全领域实践应用提供的赋能路径。
AI安全新挑战与应对
北京明朝万达技术总监王世彪，在分享中聚焦AI 安全领域核心议题 -“智防 AI 安全‘新’挑战，共绘安全新蓝图”。王总首先全面剖析了人工智能面临的新型风险与挑战，并针对性提出应对建议。随后分享了明朝万达在数据安全领域的深耕成果与实战经验，重点介绍了覆盖“端、边、网、云、应用” 全场景的数据安全防护体系。最后，王总倡导产业生态各方携手合作，为AI 安全合规发展明确了方向。
本次会议的召开，不仅汇聚了人工智能安全治理的前沿观点和多方智慧，更深入剖析了AI技术加速迭代阶段下的安全挑战和应对路径，为构建稳健、可信、可持续的AI治理注入了新的动能。未来，各方将携手将论坛共识转化为切实行动，夯实安全基础，共同推动人工智能产业在规范有序的轨道上稳健前行，助力其实现长期、可持续的发展。
由CSA（国际云安全联盟）推出的CAISP人工智能安全认证专家课程内容全面覆盖技术细节、政策法规以及安全标准，并通过丰富的实践案例分析，确保学员能够深入掌握人工智能安全领域的专业知识，该认证课程内容符合企业对AI安全人才的需求。
CAISP
人工智能安全认证专家
CAISP课程专注于理解人工智能安全的治理与管理环境，学习 AI 安全的术语与安全目标、针对于算法、模型以及数据安全和隐私进行学习，全面提升对 AI 安全风险的识别、评估与测评等实战化能力；课程还涵盖了 AI 安全的国内与国外的法律法规框架，并通过实际案例，探讨如何在组织中实施 AI 安全；此外，学员还将具体学习如何应对 AI 安全的风险与挑战，包括应对数据投毒、对抗性攻击和供应链威胁等多种安全挑战。
承制CAISP培训班
承制科技作为CSA授权培训机构，已成功举办了多期CAISP认证培训班，并且有不少学员已经申请并通过考试。
承制将继续提升CAISP教学服务质量，现在报名可直接进入录播群与讲师面对面，学习完成之后可随时预约考试。
承制将继续提升CAISP教学服务质量，并将在11月22日举办新一期CAISP直播培训班，现在报名可免费选择一门CSA认证课程培训视频。
CAISP课程收益
对个人价值
- 技术与实战结合：通过实际案例和实践指导，提升解决实际问题的能力，将理论知识转化为实际操作技能，促进个人技术成长与实操经验积累。
- 国际视野拓展：结合全球AI安全标准和法规的学习，帮助个人形成国际化的视角，提升在跨国企业或国际合作项目中的适应性和价值。
- 法律法规精通：熟悉国内外政策法规，增强伦理道德意识，为个人职业生涯树立合规操作的基石，降低法律风险。
- 职业发展加速：获得CAISP认证，证明个人在AI安全领域的专业地位，有利于职业晋升、薪资增长以及更广泛的职业选择。
- 安全思维培养：从设计到运营的全周期安全管理能力，使得个人能够在任何涉及AI安全的项目中发挥关键作用，成为企业不可或缺的安全专家。
对企业价值
- 合规性保障：员工熟悉国内外AI安全政策和伦理道德，帮助企业建立合规的安全管理体系，避免法律风险，提升企业形象和社会责任感。
- 成本效率优化：通过DevSecOps的集成，提高AI开发流程的安全性与效率，减少因安全问题导致的修复成本和时间延误。
- 创新能力提升：在大语言模型安全实践与ChatGPT安全最佳实践的指导下，企业能够安全高效地利用最新技术，推动产品和服务创新。
- 安全化构建：培养员工在全生命周期的AI安全管理意识，形成以安全为导向的企业文化，为企业的可持续发展打下坚实基础。
- 竞争力增强：拥有具备CAISP认证的专家团队，企业能够在激烈的市场竞争中展现更高的安全标准和专业实力，吸引更多合作伙伴和客户信任。
CAISP学习对象
- AI行业相关人员：AI工程师与开发者、AI安全工程师、AI应用终端用户；
- 安全相关人员：安全研究员、合规与风险管理专员、网络安全从业者；
- 其他：政策制定者和监管机构、科技管理者、在校学生
CAISP课程大纲
| 模块 | 培训内容 |
| AI安全概述篇 | AI与AI安全基本概念AI与安全衍生技术发展脉络 |
| 技术基础篇 | 常见AI算法与模型介绍AI模型与算法安全性分析数据隐私保护与安全措施 |
| 安全风险篇 | 大模型安全风险概述典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略防御机制解析 |
| 政策与治理篇 | 国内外AI安全法律法规、标准规范分析AI安全治理框架 |
| 全生命周期管理篇 | DevSecOps与AIAI安全需求分析与设计安全的AI系统开发指南与实践AI安全测评框架应用AI渗透测试技术与方法AI安全运营保障体系建设 |
| 标准与评估篇 | AI安全框架AI成熟度模型应用与评估AI安全标准与测评认证实践 |
| 特别篇ChatGPT的安全影响 | 恶意行为者利用LLM的安全分析防御者如何将LLM应用于网络安全恶意提示词攻击的防范措施企业安全使用ChatGPT的最佳实践 |
| 实践案例篇 | 现实世界中的AI安全问题深度分析解决方案制定与应对策略关键领域的AI安全最佳实践案例行业大模型应用及安全实践案例 |
| 伦理与未来发展 | AI伦理道德挑战与分析典型场景下的AI伦理道德风险未来发展趋势 |
| 考前串讲 | 考前要点讲解与考前练习 |
CAISP证书样例
