您的位置:主页 > 公告动态 > 期货市场资讯 > 期货市场资讯
快手StreamLake:构建大算力基础设施系统,应对视
8月24日,2023浪潮信息新产品“互联网 AIGC”职业巡展暨大模型智算软件栈OGAI发布会在北京举行。作为浪潮协作同伴,快手StreamLake深化参加此次大会,快手异构计算负责人刘凌志博士进行了《“芯”驱动:开释智能视频之力 》主题讲演,要点共享了快手SL200芯片的最新进展,介绍了智能视频SOC芯片的典型架构和主要功用,以及根据此芯片建立的智能视频处理云端基础设施,展现在多种场景所体现的优异功用,并在圆桌论坛环节与嘉宾们讨论了怎么与上下游企业进行深度协作。
构建大算力基础设施系统,应对视频和大模型应战
随同快手用户、内容、商业生态的快速开展,AI*、AI数字人等使用在快手广泛落地。在AI大模型进入AGI年代的过程中,快手紧跟大模型使用浪潮,在搜广推场景、内容创造、进步研制效能等方面继续深耕大模型范畴,并于近期发布了“爽快”大言语模型,在 CMMLU 中文向排名中,KwaiYii-13B 一起位列 five-shot 和 zero-shot *。
刘凌志指出,大模型在音视频上的使用愈加杂乱。依据音视频*性的原理,音视频主要是要处理清晰度、本钱和流通度三个问题,需求在这三者之间做到平衡。在此过程中,处在中心位置的便是视频的紧缩和增强。
快手的大模型和视频编解码怎么结合?刘凌志表明,在传统出产和消费的过程中,出产端视频首要经过编码器发生码流并传送到消费端,消费端经过解码器把视频解码出视频展现出来。使用大模型来做视频紧缩和增强,视频经过了解网络生成出高维特征,并传输Text和Prompt,这是一个十分小的信息量,用户经过生成网络大模型再把视频康复出来,这样可以极大地削减传输本钱,得到更好的作用。
在刘凌志看来,快手在大模型和视频范畴面临的应战归根到底是大算力的应战,包含视频算力应战和大模型算力应战两个方面。
快手又是怎么处理这两大应战中的各类问题?刘凌志表明,快手构建了大规划的基础设施,来支撑主站、电商、商业化、本地日子和海外在内的产品矩阵。快手中心技能包含音视频、AI和数据中心三大类,每一类技能都需求十分巨大的基础设施,比方千万等级的CPU核、10万等级的GPU和算力、10EB等级的数据存储,带宽需求也到了100TB规划。
为此,快手建立了大模型架构系统。经过AI算力中心、渠道、数据等高功用、高并发、高算力的大基建,可以支撑快手多模态大模型,而多模态大模型经过生成或了解,可以支撑快手的搜广推、AIGC、增加或研制效能等大使用。
更进一步来看,快手AI大基建的数据已有日均数千万的短视频和数千万小时的直播,一方面是传输给用户,另一方面也是作为输入继续不断的输送到大模型之中,不断打磨大模型,到达更佳的作用。刘凌志着重,“更重要的是,咱们在算力中心里边进行了比较深化的开发,这个深化开发终究体现在自研芯片SL200上。”
*智能视频处理芯片,SL200节约30%码率,支撑8K使用
作为快手StreamLake*自研智能视频处理芯片,快手SL200芯片具有十分优异的视频作用。提及该款芯片可以做哪些作业,刘凌志表明,SL200芯片首要是高质量、高密度的编解码器。比方,把快手自研的算法固化到硬件中,作为一个硬件的视频处理引擎;高质量的编码器在相同的质量下,可以节约30%的码率,在相同的带宽下,可以提高相应的清晰度。依托SL200芯片,不只天然场景视频可以取得十分好的作用,较难处理的游戏、数字人等场景也会得到十分明显的清晰度的提高。
一起,刘凌志指出,SL200也已完成了智能视频的处理,这在未来视频范畴特别重要,在相同片面质量下,可以继续下降20%以上的带宽。比方把感兴趣的区域找出来,然后对它投入更多的带宽,而对不感兴趣的当地可以下降清晰度以平衡带宽。传统视频的使命,如去模糊、降噪、去视频效应等,除了可以用自己硬件的传统算法来做,也可以用AI取得更好的作用,而且可以二者在流水线上进行叠加取得叠加的作用。SL200芯片在其他智能视频使用中也展现优异功用,比方超分,可以实时的把一个小的幅面扩大到4K/8K,或许是大的变小;在视频内容辨认和检测使用中,SL200有较高的处理速度,准确率也是比较高的。
据悉,具有高质量、高功用、智能化特色的快手SL200,已到达职业*的紧缩功率,客观质量比较X265 medium可以节约30%码率,单卡可以支撑8K120帧/秒的处理或许8路4K60帧/秒的处理,内置智能画质处理引擎,支撑内容自适应编码。
刘凌志以为,从芯片规划来看,进入到智能视频年代,需求的是一个具有多种功用的SOC芯片。这就要求芯片不只要有高质量高密度的编解码器,还需求有可以支撑实时视频处理的AI引擎。别的,为了支撑未来视频算法的迭代,需求有较强的可编程的才能,所以SL200集成了多核GPGPU和高功用多核CPU,RISC-V处理器,以及数据中心里边的功耗检测、温度检测等功用,为了维护用户的隐私也需求内嵌硬件安全模块。
SL200芯片也取得了业界高度认可,在本年7月举行的MSU2022国际编码器大赛中,SL200一举夺得4K和1080P赛道24项目标中的16项*,在悉数6个赛道中取得5项“*ASIC编码器”。
刘凌志泄漏,根据SL200芯片,快手自研了板卡、服务器,也与浪潮等协作开发了云服务器,一起建立了算力中心,开发了全套自主软硬件的生态系统,已经在快手布置了数万片,并在各大公有云厂商进行测验。快手StreamLake继续经过老练的技能赋能工业,并与浪潮等生态同伴深化协作。
活动现场,快手StreamLake还环绕芯片、快手智播等中心产品进行了要点展现,向现场嘉宾展现了产品的广泛使用场景。
据悉,根据浪潮与快手StreamLake的深度协作,两边将在硬件生态等范畴携手开展,布局算力未来。刘凌志表明,快手StreamLake期望经过*的技能才能,可以更好地助力各行各业在智能视频新年代、大模型新年代取得成功。