1. 首页>>分享

两会前夕心智观察所对话齐向东:探讨网络安全及政策机遇相关议题

今年二月十七日,正值中国经济巨轮勇往直前、迎风奋进之际,我国领导人亲临民营企业座谈会并发表了重要谈话。奇安信集团的首席执行官齐向东,作为参会的民营企业家代表之一,出席了此次会议。在两会即将召开的前夕,心智观察机构与全国政协委员齐向东就“数据驱动安全”的理念、云端网络的防御措施,以及我国软件生态系统等话题,展开了一场深入的交流与探讨。

心智观察所:在最近举行的民营企业家交流会上,奇安信在网络安全技术革新方面取得的成就引起了广泛关注。考虑到我国当前对科技创新和自主发展的政策支持,您觉得民营企业应如何抓住这一政策利好,深化核心技术的研发突破?奇安信是否计划将会议中提出的建议转化为实际的战略规划?

齐向东在民企座谈会上强调,在新征程新时代,企业家们有着广阔的作为空间。他进一步指出,当前的社会经济和政治环境相当优越,这为民营经济的蓬勃发展提供了良好的条件。总书记指出,当前科技进步迅猛,新兴产业、新型业态和新型场景层出不穷,在这些领域中,民营企业能够充分发挥自身多方面的优势,为推动中国式现代化作出更为显著的贡献。

谈及美国对中国高科技领域的施压,众多科技创新企业或许面临了挑战。在谈话中,总书记为我国民营企业家注入了力量,鼓舞了他们的士气,极大地提升了他们的信心。总书记指出,我国拥有14亿人口的庞大市场,坚实的工业制造基础,以及改革开放过程中培育出的众多科技创新人才。近几年来,我国在数字经济、人工智能、先进制造业等领域取得了显著成就,这不仅源于大家的共同努力,也反映了我国综合国力的增强。因此,总书记深情地告诫我们,面对困难不要畏惧,不要被干扰所左右,我们要致力于扩大、强化、精化我们的主营业务,深入发展,攻克科技难关。

奇安信持续强调战略部署应聚焦于“安全快一步”,意即抢先一步掌握产品和技术的优势。每种技术均存在不足之处,网络攻击者往往瞄准这些不足,而我们用户所关注的往往是技术的优势,往往忽视了其不足。作为安全企业,我们需具备双重视角,既要洞察技术的优势所在,也要识别技术的潜在缺陷。这正是安全公司的特色所在,我们必须在业界磨砺出与众不同的技能和才能。

心智观察所:身为首次亮相两会民营科技企业的代表,奇安信是否有意向针对网络安全、数据安全以及人工智能监管等热点话题提出建议?在数字经济与实体经济日益紧密融合的大背景下,目前行业最为迫切需要的政策扶持或是法规的哪些方面需要进一步完善?

齐向东表示,在今年的两会期间,他主要关注两个议题,首先是对人工智能安全的考量,其次是关于软件产业如何实现健康持续发展的讨论。

首先,我们谈谈人工智能安全领域。目前,以大型模型为核心的人工智能技术正在对生产生活、科技创新模式产生深远影响。在今年春节期间,我国自主研发的DeepSeek大模型崭露头角,引发了社会各界的广泛关注。这一创新成果打破了传统的人工智能发展模式,预示着人工智能技术将更快地融入各行各业。然而,人工智能在发展过程中也遭遇了成长的困扰,伴随人工智能技术的深入运用,大型模型所遭遇以及引发的网络安全问题愈发严重。奇安信作为网络安全和数据保护领域的佼佼者,肩负着守护人工智能时代网络空间安全的重大使命。因此,在此次两会中,我特别关注这一议题,并期待通过采取一系列切实有效的措施,为人工智能的安全进步添砖加瓦。

谈及软件产业的稳健发展,这一领域不仅是推动新技术进步的核心,更是促进数字经济成长的强劲动力。然而,我国软件产业在追求高质量的发展过程中,正面临诸多挑战。首先,软件产业内部竞争激烈,常常陷入“内卷”的困境,如招投标中出现的“低价恶性竞争”、技术评分体系存在不足、项目转包现象频发等问题,这些因素共同制约了软件产业的创新速度。此外,我国软件行业的市场价值遭受了极大的忽视。据公开资料揭示,我国软件产业市值排名前十的总和,与美国软件行业前十名的市值总和相较,差距竟达百倍之多。这种状况对于软件行业的持续创新与发展极为不利。因此,在此次两会期间,我特别关注这一议题,期望能够为我国软件产业的良性发展贡献自己的力量,提出有益的建议。

心智观察所:我们应如何审视目前全球网络安全威胁的发展动向?随着人工智能技术的迅猛进步,网络安全防御所面临的核心挑战又有哪些新变化?

齐向东指出,人工智能技术持续实现突破与革新,"人工智能与各行各业融合"的趋势将激发众多新兴场景与商业模式。随之而来的是全新的安全挑战。据他总结,人工智能在发展过程中遇到的安全问题主要可分为三个类别。

人工智能大模型领域存在一系列安全问题,其中,开发过程中的潜在风险、数据安全风险、应用层面的风险以及基础环境的风险尤为显著。在开发环节,需着重警惕开源大型模型中的代码漏洞和潜在的后门风险;在应用层面,需防范内部人员对训练数据进行恶意操作,包括对模型和配置的篡改;针对数据管理,需留意因内部配置失误或弱密码导致的数据库泄露风险;而在基础环境构建上,应特别关注云计算、API接口以及传统设备可能存在的安全漏洞。目前,某些团队已经揭露了DeepSeek的严重缺陷,并且能够利用这些缺陷窃取后端隐私信息、API密钥以及操作元数据。尽管该漏洞已经迅速得到修复,然而,根据我们的过往经验,新的漏洞仍将不断被发现。

第二类问题涉及的是人工智能技术在网络攻击中的应用。人工智能的运用推动了网络攻击技术的不断进步,使得“饱和式”攻击变得可行,攻击者能够迅速发起大量攻击,从而摧毁现有的网络安全防护。此外,人工智能还增强了制造虚假信息的能力,使得深度伪造、认知战、钓鱼等威胁变得更加严重。攻击者能够借助人工智能技术进行“换脸变声”,进而制造虚假信息,进行网络诈骗活动。此外,他们还可能借此传播与主流价值观相悖的内容,对人们的认知安全构成威胁。

第三类攻击方式是针对人工智能所引发的“网络攻击大爆炸”。随着人工智能逐渐成为社会的基础设施,特别是当大型模型被应用于智慧城市、工业控制系统、智慧政务等关键领域时,它们可能会放大传统安全威胁,如漏洞等。一旦这些人工智能大模型遭受攻击,可能会引发连锁反应,导致社会服务中断、生产活动停滞以及隐私数据泄露等一系列安全事件。

心智观察所:探讨与政府、学术界及企业合作,共同促进AI大模型安全标准和合规框架的发展,具体合作方向包括哪些?比如,如何应对大模型在数据安全与伦理层面所面临的挑战。

齐向东表示,2024年4月,公司推出的QAX-GPT安全机器人在多个维度上展现出卓越性能,成功荣获由中国计算机行业协会人工智能专委会及中国软件测评中心(工业和信息化部软件与集成电路促进中心)共同颁发的国内首个“大模型安全评定证书”,并经评定,完全满足二级评定标准的资格条件。这代表着目前大模型在安全服务领域所获得的认证达到了前所未有的最高等级,且该水平在行业内处于遥遥领先的地位。

心智观察所:近期,我国政府高度重视“链主”企业在生态中的领导地位。作为网络安全领域的领军企业,奇安信在参与制定行业标准、支持中小企业共同创新上有哪些具体举措?在两会这一平台上,奇安信将如何促进形成更加开放的产学研合作体系,以促进整个产业的竞争力增强?

齐向东指出,奇安信在人才培养方面的经验可归纳为以下几点:首先,我们创建了专业的培养基地,自2018年起,在绵阳设立了安全人才虎符基地,并在武汉、沈阳、扬州等地陆续建立了基地,至今已累计培养了超过1.5万名网络安全人才;其次,我们与高校携手,共同培养高层次人才,奇安信被中组部认定为“培养卓越工程师重点企业”,与清华大学、北京邮电大学、北京航空航天大学等高校合作,目前在校企双方共有60多名硕博士在读;最后,我们通过竞赛促进学习和教学,积极举办网络安全实战大赛,打造众创平台,与高校合作构建实践性学科体系,探索出多元化的实战人才培养模式,为网络安全事业注入了源源不断的人才活力。

要解决AI领域的“人才短缺”问题,核心在于疏通企业与高校这两个“人才储备库”,为年轻创新人才提供更广阔的发挥空间。以DeepSeek为例,该团队的核心成员主要来自清华、北大、浙江大学等一流高校的应届毕业生和博士生,他们中的大多数出生于90年代。这样一支人才阵容,不仅学术功底深厚,而且充满创新活力,对我国科技创新事业提供了强有力的支持。提议增强校企合作的强度,采取挑选与人工智能行业紧密相关的核心科技企业作为大学生实习实践基地、激励校企共同进行技术难题攻克等多种措施,为青年提供更多接触产业前沿的机遇,进而逐步缓解我国所遭遇的AI领域人才短缺问题。

心智观察所:奇安信是否有意向携手云计算服务提供商、电信服务商、集成电路企业或终端设备制造商,共同构建人工智能安全生态系统?

齐向东表示,奇安信作为我国网络安全领域的佼佼者,始终专注于AI安全生态系统的构建。该公司主动与云计算服务商、电信运营商、芯片制造商以及终端设备供应商建立合作关系,携手应对AI技术所带来的安全难题。在众多合作伙伴的共同努力下,奇安信力求打造一个开放、协作的AI安全生态系统,以保障AI技术的安全运用和持续发展。

独家对话|齐向东:大模型的安全挑战日益严峻,如何应对__独家对话|齐向东:大模型的安全挑战日益严峻,如何应对

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://www.mjgaz.cn/fenxiang/275950.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息