同花顺-圈子

请广大用户注意风险,切勿加入站外群组或添加私人微信,如因此造成的任何损失,由您自己承担。
星云Clustar创始人陈凯:攻坚“算力”,让高性能隐私计算成为生产力
0人浏览 2022-01-26 18:45

早在进入隐私计算领域之前,作为香港科技大学副教授、智能网络与系统实验室主任的陈凯就已经在研究高性能算力、网络与数据中心,并已经成为该领域知名专家。事实上,在人工智能与大数据时代,更高性能算力的不断突破是至关重要的。

正如GPU是人工智能发展的核心利器,高性能算力也是隐私计算能否从发生量变到质变的关键钥匙。陈凯教授认为,没有英伟达等企业对GPU的死磕,人工智能深度学习发展的不会这么快;而算力性能上不去,隐私计算处理更多大规模的数据以及规模化发展是很难的。

2018年,对陈凯教授及其团队而言,无疑是一个非常关键的时间节点——星云Clustar诞生的契机出现。由于陈凯教授在数据中心网络、机器学习系统等方面成绩斐然,很多投资者开始向他提出商议:以团队的研究成果为基础进行创业。陈凯教授本人也是“产学研”结合的实践者,在创办星云Clustar之前,其数据中心网络领域的研究成果就曾与华为、腾讯和微软等企业进行过合作。

“创办星云Clustar不单是因为我觉得这样有更大的自由度,可以使大家可以拿出最大的激情做自己想做的研究。更是考虑到,把在高性能网络领域的研究真正转化为生产力才有更大的实践意义。”回想起这段经历,陈凯教授总结道。

作为星云Clustar创始人,陈凯教授对星云Clustar的期望就是坚定做以算力为核心的隐私计算技术提供商,研发隐私计算的加速引擎,推动隐私计算行业的快速扩展与规模化。

陈凯教授介绍,无论是多方安全计算、联邦学习、同态加密还是秘密共享等隐私计算技术,搭建的隐私计算平台在真正的生产应用中都对算力,即计算和网络通信,有越来越高的需求。新的一年,星云Clustar将在底层算力性能研发的基础上,与隐私计算、云计算等行业内头部企业深度合作,共同深度赋能产业。

在陈凯教授的带领下,其团队在2021年取得了许多成就。在场景落地方面,与某国有银行达成合作,完成全国首个国有大行隐私计算场景应用;作为粤港澳大湾区科技创新企业代表,与南京市就隐私计算与数据交易平台项目达成合作;依托算力解决方案实现联邦数据网络算力加速50-70倍算力提升,落地行业最大联邦学习应用场景 。

此外,还先后加入全球最大联邦学习开源社区FATE技术指导委员会(TSC Board 单位),大数据技术标准推进委员会(CCSA TC601)以及深圳市软件行业协会;作为IEEE联邦学习标准工作组秘书长深度参与的联邦学习首个国际标准正式发布;成为北京金融科技产业联盟成员单位;成为隐私计算联盟成员单位。

算力智库注意到,截至目前,星云Clustar专利申请量达到151 项,作为独立技术公司成为隐私计算技术专利申请量排名前2(incopat数据)。

新的一年,星云Clustar将继续为隐私计算行业带来哪些新的突破呢?我们来听听陈凯教授怎么说。


以高性能算力推动隐私计算行业发展


算力智库:

您既在香港科技大学智能网络与系统实验室做研究与教育,又是星云Clustar创始人,您是怎么处理在学校与企业之间不同的角色?当时为什么会关注到隐私计算?

陈 凯:

在香港科技大学的研究内容与星云Clustar的业务发展都是围绕高性能网络、数据中心,云计算后台系统等进行的,主要是研究算力加速等问题。

广义的算力不仅包括单点计算,也包括集群计算,这就需要一个高性能的网络,是数据在计算节点之间高效传输。在大数据、人工智能时代,单点算力一定是无法满足海量数据处理,隐私计算更是如此。

在创办星云Clustar之前,我与华为、腾讯和微软等企业也在网络和算力加速等领域合作落地了一些科研成果。我们意识到隐私计算对算力性能的高需求,同时也有很多投资机构找到我们来以研究成果基础创业,这催生了星云Clustar的诞生,也是“产学研”结合的结果。

我之前十几年的论文研究方向也是围绕高性能网络和数据中心展开的,最近几年对隐私计算的算力性能做了很多研究,而且我始终认为把研究的内容真正转化为生产力才有更大的实践意义。


算力智库:

“星云Clustar”这个名字寄托着企业的什么发展愿景?在隐私计算领域的定位什么?

陈 凯:

“Clustar”其实就是Cluster star的合成,“集群之星”的含义。代表了我的研究方向:就是数据中心集群计算、高性能网络,通过高性能网络及算力,将更多计算机连接集群,支撑大数据的运行。

同时也寄托我们通过高性能网络技术将单点计算发展为集群计算,使星云Clustar能成为包括隐私计算、人工智能、大数据在内的集群计算算力担当,通过更高性能算力探索未知,探索星辰大海的愿景。

“星云Clustar”的定位就是做一家提升隐私计算算力的公司,以高性能算力推动隐私计算行业发展。目前的产品已经有隐私计算的软件计算平台,软硬一体机、算力加速卡等。


算力智库:

目前,行业中很多厂商都倾向于软件平台类的方案服务,星云Clustar为什么选择将算力作为公司的未来战略?

陈 凯:

目前,隐私计算企业的侧重各有不同,当未来行业发展更成熟以后,会和现在的人工智能的发展一样,各家企业的业务发展会更清晰的,更加分化。

有些企业在做上层应用,有的在做底层基础设施平台,而星云Clustar定位于底层的基础算力技术的创新与研发。和人工智能一样,没有英伟达,深度学习发展的不会这么快,而算力性能上不去,隐私计算处理更多大规模的数据几乎不可能。

当数据要素真正成为生产力时,对算力更高的需求就会更加明显。目前,客户端已经将效率和性能参数视作隐私计算应用的重要参考项之一。星云Clustar致力于以“算力+”技术布局与战略理念,为隐私计算应用规模化落地打造算力“基建”,高效赋能数据有序共享与综合应用,将隐私计算真正规模化的应用在金融、医疗、政务等多个领域。


算力智库:

从您的介绍中,我更感觉星云现在做的事情,更像是在布局未来?

陈 凯:

我们的实验室是研究的比较超前,但是星云Clustar在做的并不是很遥远的未来,而是即将到来的未来。


算力智库:

星云Clustar在通信网络方面的优势有哪些?

陈 凯:

从我自身来说,我研究通讯网络领域好多年了,从大学、读博到香港十多年的时间都是围绕这一领域学习探索的。目前在港科大的实验室也都是在做高性能数据中心、网络通信的研究,包括大量的网络协议、底层架构、路由负载均衡、拥塞控制等内容。

隐私计算领域特别是秘密共享,对网络性能的需求是特别高的,这是我研究领域一个非常好的落地应用场景。在人工智能领域,Google深度学习计算平台TensorFlow就是应用了我们实验室于2017年开源的高性能网络通信方案,即TensorFlow over GDR (GPU-Direct-RDMA),这是一种高性能分布式架构。

在隐私计算领域,我们强化了分布式隐私计算系统的通信效率,也是应用了人工智能的集群计算的网络通信,在算力性能方面的提升还是非常显著的。


算力智库:

星云Clustar打造的高性能算力的性价比如何呢?

陈 凯:

举个例子,比如进行人工智能的深度学习,使用CPU(中央处理器)也可以进行,但是效率非常低,可能需要几个月的时间才能有所推进;但是如果使用了英伟达GPU(图形处理器)就会非常快,即便GPU非常贵,但是做人工智能的都需要用到GPU,否则就失去了竞争力。

隐私计算也是如此,一方面高性能算力是必要的,隐私计算本身就是通过消耗大量的算力来获得更高效的隐私保护的;另一方面我们也在尽可能的降低高性能算力的成本。此外,高性能算力下,功耗节能等方面也有所优化。

比如我们的软硬隐私计算一体机,数据使用方开箱即用,大大降低了企业应用联邦学习的门槛;数据提供方插卡即用,无需添购额外设备,在原有集群上,插上星云隐私计算加速卡就可以搭建联邦数据中心。


算力智库:

如果需求方发现其原有的隐私计算底层基础设施的算力性能没办法满足使用了,星云Clustar的产品能否直接搭建在原有的隐私计算底层基础设施上?还是需要重新搭建新的基础设施?

陈 凯:

不需要重新搭建。我们可以根据其现有的设施进行评估,然后提供基于FPGA(Field Programmable Gate Array)的算力加速卡,这是一款即插即用的产品,插在客户原有的机器上就可以使用。

另外,我们也在和头部的一些云厂商合作,探索云上的高性能算力加速解决方案,从而帮助客户更好、更快的提升计算性能,优化业务能效。


算力智库:

2022年,星云Clustar在技术创新以及深度场景落地如何更进一步?

陈 凯:

我一直强调星云是一家底层算力公司,我们也会一直坚持去做以算力为核心搭建底层技术的业务,目标就是做隐私计算的加速引擎,推动隐私计算行业的快速扩展与规模化。

2022年的发展策略总结来看,也是“一纵一横”。

从纵向来看,在生态上,继续强化高性能算力技术布局;在应用场景中,通过做算力基础设施搭建平台,服务于各行各业。同时,深入产业生态,推动技术、应用等行业标准的建设,并借助合作伙伴的服务场景来实现产业的深度赋能。

在横向来看,我们会更注重生态共建,会与市场上头部的云计算企业、隐私计算企业进行深度合作,通过算力上云、方案集成等方式,让高性能的算力能够更好的服务于产业,让隐私计算更快形成生产力。


算力智库:

星云Clustar是不是也在为其他隐私计算企业提供高性能算力服务?

陈 凯:

我们一直在做这个方向的研发。星云Clustar的高性能算力不仅能应用在场景需求方,也赋能整个隐私计算行业,比如研究如何提升多方安全计算、联邦学习等的算力加速。隐私计算领域在场景方逐渐跑通以后,对算力的需求也会显现,我们的业务也会更加开放。

刚刚也提到,FPGA算力加速卡是可以十分便利的与业内企业合作,并且通过与云的相结合,也能实现高性能算力无缝接入。



2022年将会更加“热闹”


算力智库:

星云Clustar 2018年成立,是较早一批的隐私计算厂商,在这近4年时间中,您感受到隐私计算行业趋势或者变化有哪些?

陈 凯:

这个行业4年来是从无到有的。2018年国内还没有太多的声音,2019年一些行业内的人开始关注隐私计算,2020年隐私计算相关标准开始搭建,到了2021年隐私计算行业才是真正发展起来了,2022年将会更加“热闹”。

从客户需求角度看,也分两个阶段。以2021年《中华人民共和国数据安全法》与《个人信息保护法》的颁布为界线,隐私计算的需求也从小众需求逐步开始普及。首先是在金融再到医疗、政务等领域,加之各地大数据交易所的纷纷成立,隐私计算技术开始普遍发挥作用。


算力智库:

我们看到星云与某互联网银行的合作落地案例,以算力服务为该行的隐私计算平台实现了50-70倍算力提升,性能功耗价格比提升了7倍。未来「算力+隐私计算平台」的组合是否会成为应用常态?

陈 凯:

无论是多方安全计算、联邦学习、同态加密还是秘密共享等隐私计算技术,搭建的隐私计算平台在真正的生产应用中都会对算力有越来越高的需求,比如基于秘密共享的隐私计算方案,其实是需要大量的分布通信网络去保护隐私。基于同态加密的隐私计算平台其实运行起来是很慢的,它对计算性能的要求很高。

针对一种叫Pallier的同态加密算法,我们分析了十多种影响计算效率的密码学计算算式,同时又把算子的公共部分抽象出一些核心的公共算子引擎,比如模乘、模幂,然后进行动态组合进行FPGA加速。与传统的CPU方案相比,实验结果发现有50到70倍单点算力的提升。我们还在继续提升这个效率。


算力智库:

如今来看,您认为隐私计算大规模应用还面临哪些挑战?

陈 凯:

从星云的角度看,隐私计算真正生产化、规模化的过程中,对算力的需求会越来越大。算力性能能否跟上,是其中的挑战之一。


算力智库:

AI智算中心如今已成为各地方的热门基建,对于国内AI智算中心的建设,您有哪些建议?

陈 凯:

智算中心一个重要任务就是在处理海量数据,强调传统算力的同时,也应该尽早加入隐私计算技术,去支持国家对数据要素化的发展需求。




更多
· 推荐阅读
0
1
扫码下载股市教练,随时随地查看更多精彩文章
发 布
所有评论(0
  • 暂时还没有人评论
  • 0
  • TOP
本文纯属作者个人观点,仅供您参考、交流,不构成投资建议!
请勿相信任何个人或机构的推广信息,否则风险自负