新科技在支持和驱动业务的过程中,同时带来了相应的风险。企业数字化转型必须进行风险控制,这不是可选择的,而是必须要做的。像 ABCDE 等这些新兴技术都存在安全风险。例如以 AI 来说,近些年来由于人工智能而引发的安全事件频繁发生,安全问题已经到了无法回避的地步。我们重新定义了 AI 的原生安全系统,并且从内生安全(包括 AI 代码安全、数据完整性、模型保密性、模型鲁棒性等方面)以及外生安全(涵盖物理层、系统层、数据层、应用层、网络层)的角度,对其进行了研究和安全实践,期望能够从不同的维度,让技术更健康地应用于业务。当然,AI 的发展离不开数据。目前,数据泄漏等安全问题十分严峻。要让技术成为业务健康可持续发展的推手,我们就必须时刻保持对安全的防御与风险管理,一刻也不能放松。
信创指的是信息技术应用创新。这个概念是由国产化、自主可控、安可等发展而来的。它是中国各行各业以及企业通过数字化技术推动转型过程中不可忽视的一个环节。过去,我们金融、制造、电信等各行业的信息化技术以及 IT 基础设施等,都过度地依赖国外的产品和解决方案。在某些敏感时期,甚至是非常时期,这种依赖就如同一颗颗生死攸关的“定时炸弹”,是没有益处的。当时,我在世界 500 强金融集团平安集团。针对人工智能这一新型技术,它异常火热且应用场景极为广泛。我提出了“人工智能原生安全理论”。其中一个目的是希望提醒业界审慎对待外来框架的人工智能安全问题,要防微杜渐,做到“勿在浮沙筑高台”。