同花顺-圈子

　　美国时间5月6日RSAC大会在美国旧金山开幕。在首日举办的创新沙盒比赛中，从事深度伪造检测的初创企业Reality Defender最终成为冠军，荣膺“最具创新初创公司”奖项。

　　据Reality Defender公司CEO 本·科尔曼介绍，该公司研发的深度伪造检测工具，可以实时识别AI合成与深度伪造的欺诈、虚假信息和有害内容，包括文本、图像和音视频等，目前主要为金融企业、政府机构和媒体提供服务。

　　01

　　深度伪造成全球危害，虚假信息检测受追捧

　　Reality Defender成为创新沙盒冠军，这也代表着业界对虚假信息识别和检测的迫切需求。在RSAC 2024召开前，RSAC执行主席休·汤普森 (Hugh Thompson)就撰文介绍，根据对参会发言提交材料的分析，信息操纵、人工智能等大会主题非常突出。 人工智能的兴起导致了深度伪造的产生。现在人工智能创建的虚假和误导性内容已从理论上的威胁变成了令人震惊的现实，而且辨别虚假图像、视频和新闻的难度越来越高。 当前利用深度伪造制造混乱已成为国际冲突中的重要内容，俄乌冲突、以哈冲突中，都有利用深度伪造视频在对方国家制造混乱的实例。此外，利用深度伪造，突破安全机制实施金融欺诈，同样成为一大社会公害。 Reality Defender使用人工智能检测技术，实时识别社交媒体、新闻和深层网络中出现的受操纵内容，从而使组织能够应对潜在威胁。针对深度伪造的风险，本·科尔曼表示，目前美国没有相关法律来规范消费媒体平台的义务，Reality Defender主要服务金融、政府等垂直行业。

　　02

　　AI再度主导RSAC

　　除利用AI的Reality Defender进行虚假信息检测，RSAC 2024继续延续去年的趋势，由人工智能占据大会的主导地位——十几场主题演讲及更多专门的技术会议，讨论如何重塑AI时代的网络安全行业并推动创新。 据统计，本届RSAC创新沙盒共有半数厂商涉及人工智能安全，其中Antimatter、Bedrock Security、Harmonic以及Reality Defender提供面向大模型应用的数据安全防护及深度伪造检测。Dropzone AI则致力于推动人工智能赋能安全运营。 RSAC 执行主席休·汤普森 (Hugh Thompson)表示，RSAC 2024近1/5演讲者提交的内容都集中在人工智能方向。在演讲中，汤普森强调，业界除了除了利用AI赋能安全，还同时关注使用AI带来的数据安全与隐私问题。

　　作为本次创新沙盒中唯一的华人代表，Dropzone AI CEO Edward Wu在接受采访时表示，网络安全行业面临告警披露和安全人员不足的挑战，利用AI赋能提升安全运营效率，实现安全自动化是比较可行的方向。网络安全专家谭晓生则指出，在AI赋能安全运营领域，国内网络安全企业目前已经走在全球的前列，包括奇安信在内的企业在这方面已经进行了领先的探索。 今年3月，奇安信新版QAX-GPT安全机器人面向全行业正式发售，可以大幅提升安全运营的效率，包括告警研判效率达到人工研判的60多倍，研判误报率是人的接近一半。安全事件平均调查响应时间从原来小时级缩短至分钟级，单一威胁事件处理时间减少98%。

　　作为代表中国网络安全高水平和前沿声音的第六届北京网络安全大会（BCS2024）将于6月5日~6日在北京·国家会议中心举办。今年的主题为：“AI驱动安全”。届时，将有来自多个国家及联合国等国际组织的重磅嘉宾出席，围绕“人工智能+安全”展开讨论。

　　展望未来，网络安全可能不会实现完全的自动化，但借助AI，安全运营的模式无疑将会被重塑，引发人工智能+安全的技术革命。