齐向东：人工智能带来新的安全问题，需要人工智能技术化解

海峡网5月24日讯（海峡网记者 李牧晨）5月24日，以“释放数据要素价值 发展新质生产力”为主题的第七届数字中国建设峰会在福州开幕。在“数据资源与数字安全”分论坛结束后，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东接受了媒体采访，他表示：“人工智能带来的新的安全问题，还需要人工智能技术进行化解。这次BCS大会我们将主题定为‘AI驱动安全’，就是希望立足安全领域，以全局视角和大家共同探讨人工智能与安全的未来。我们要用AI驱动安全，跟数据投毒者、数据篡改者、数据窃取者进行赛跑，借助大模型的开发、应用和创新，把他们远远甩在后面。”

奇安信集团董事长齐向东接受媒体采访。海峡网记者 李牧晨 摄

齐向东说，在数据、算力、算法“三驾马车”的拉动下，人工智能正从“智慧型工具”，进化成人类的“全能型伙伴”。它给我们带来的影响是全方位、颠覆性的，除了在促发展上起到的提质增效作用外，人工智能所带来的安全问题最受人关注。当前，“饱和式”攻击、深度伪造、数据投毒等等安全新风险，严重冲击原有的网络安全防线和安全体系，加剧了我们的不安全感，引人深思。

具体到数字安全方面，有三大新挑战：

一是AI投毒安全隐患加重，攻击者可以通过在训练数据中加入精心构造的异常数据，破坏训练数据集的准确性；

二是数据篡改隐患加重，AI的大规模内容生产能力可能产生真假难辨的信息，控制社交软件乃至媒体的舆论声音，激化意识形态矛盾；

三是数据泄露隐患加重，在向人工智能投喂数据的过程中，也会产生商业机密泄露问题，进而导致企业丧失核心竞争力。

安全是人们对美好生活最本质的向往，网络安全是人工智能发展过程中无法回避的挑战。作为人工智能最快落地、最快见到实效的行业之一，网络安全产业肩负重任。未来人工智能给人类带来的影响是正还是负，取决于当下如何培养和训练它。如果培养得当，人工智能将会带给人类应对新时代、新挑战的“最优解”。做好“人工智能+安全”，关键要从提高防护效率入手。“去年，奇安信创新发布了QAX-GPT安全大模型，从开始训练我们就制定了明确的目标：生产力是硬道理，一定要让客户在使用奇安信的GPT产品时就像是雇请了一个高级安全专家队伍，把产品领回去就能变成自己的力量。”齐向东说。