2021年7月8日，由国家互联网信息办公室信息化发展局、世界人工智能大会组委会办公室、上海市委网信办指导，中国互联网投资基金、国家互联网应急中心主办的“世界人工智能大会（WAIC 2021）”在上海正式拉开帷幕。其中，北京明朝万达科技股份有限公司董事长王志海受邀出席本届大会，并于8日下午举办的“构建AI产融新生态”论坛中发表《人工智能系统安全防护探索与实践》主题演讲。国家互联网办公室副主任杨小伟、上海市委常委宣传部长周慧琳、中国工程院邬贺铨院士、清华智能产业研究院张亚勤院长、国家互联网应急中心副书记卢卫、中国互联网投资基金董事长吴海出席了本次论坛并发表了主旨演讲。
此次演讲，王志海强调了人工智能作为新的生产力在产业变革进程中的重要作用，结合当前人工智能面临的安全挑战，向与会的领导、专家、业界精英们分享了近年来明朝万达为实现人工智能“安全可控”所作努力和实践经验，为大家介绍了明朝万达应对人工智能安全挑战的安全防护体系。王志海表示，随着人工智能在社会、经济诸多领域的广泛应用，全面赋能的同时也带来严峻的安全风险和挑战，成为社会各界关注的重点。作为专业安全厂商，明朝万达针对日益严峻的人工智能安全风险形式，提出要在经典信息安全分析方法基础上，特别关注算法和数据两个要素。其研发团队通过对网络通信安全、边界区域安全、计算环境安全、物理环境安全、数据安全、算法安全6个方面进行风险分析，综合提出了以保障智能系统的网络通信、数据、算法安全为核心目标的人工智能安全防护的方法论。
基于此方法论，明朝万达以保障人工智能系统核心要素安全，护航人工智能产业发展为宗旨，形成了安全防护系列产品，覆盖数据安全、网络通信安全、区域边界安全、计算环境安全4个主要领域。同时将AI技术与已有产品深度融合，不断提升产品的安全防护能力。而在不断完善公司产品体系之余，明朝万达还对同态加密、联邦计算等领域进行了深入研究，不断探索安全服务用户的新方式、新途径，满足行业用户需求。之后，王志海以政务领域数据安全管控项目为例，形象立体地为与会者介绍了明朝万达如何以数据全生命周期为主线，综合使用安全接入控制、数据防泄露、异常行为分析等技术手段，体系化地解决了客户所面临的数据安全风险。他还提出，在大数据、云计算技术落地开花的当下，新型攻击手段层出不穷，人工智能安全攻防呈现出新态势，构建基于人工智能的自适应安全防护体系成为信息安全技术企业探索热点。
为了应对新型安全威胁挑战，业界需要不断提升复杂数据分析能力，通过实时计算等数据处理与分析技术，快速识别分布式攻击；提升隐私数据计算保护能力，不断探索同态加密、联邦学习等安全计算方法，提升数据可算不见能力。不断加强基础算法研究，提升生成式对抗网络等基础算法，持续加强攻防对抗能力。人工智能的安全防护需要业界同仁共同努力，明朝万达以数据安全为中心，将持续扩大在人工智能领域的投入，坚持“产学研用”创新发展路线，与业界同仁一起，为人工智能产业发展保驾护航。