机间GPU通过400G RoCE网卡连接;Audio模型则在384个GPU上进行预训练mt5下载官网开源证券即日颁布通讯行业点评呈报:META颁布视频天生模子,AI算力为主题主攻倾向。
2024年10月4日,Meta颁布视频及音频天生模子Meta Movie Gen,可天生具有同步音频、特性化脚色并维持视频编辑的视频,Movie Gen搜罗30B参数的Movie Gen Video视频天生模子以及13B参数的Movie Gen Audio音频天生模子。个中,Movie Gen Video模子基于约1亿对文本视频数据以及10亿对文本图片配对数据举行预练习,首要用于共同文生图和文生视频,可能明了物体运动、交互、几何、相机运动和物理顺序,可服从文本提示天生4~16秒1080P帧率为16FPS的高清视频,维持1:1、9:16、16:9等众个比例,模子正在练习上采用张量并行化(TP)、序列并行化(SP)、上下文并行化(CP)和全共享式数据并行(FSDP)式样,并应用监视微调(SFT)等式样举行模子调优,以降低模子本能,Movie GenVideo正在众个维度越过了Runway Gen3、OpenAI Sora等同类竞品,正在举动相似性和自然度等方面显露突出;Movie Gen Audio模子基于约100万小时的音频数据举行预练习,首要用于天生与视频输入同步的48kHz高质地影戏音效和配景音乐,最众维持天生长达45秒的音频,与同类模子比拟,Movie Gen Audio模子正在音效天生安谧性、音频质地、音频扩张方面优于行业基准。
Movie Gen Video模子正在6144片H100GPU上举行练习,任事器机内8卡GPU通过NVSwitch互联,机间GPU通过400G RoCE网卡毗邻;Audio模子则正在384个GPU上举行预练习,AI模子众模态材干加快擢升,希望延续拉动算力根源办法需求。跟着邦内众项宽松计谋赓续出台,希望启发宏观经济逐渐苏醒,以AI、云谋略、自帮可控为代外的新质临蓐力家当或将加快成长,同时驱动股市转牛,咱们所有看众通讯板块投资机缘,个中以光模块、光芯片、AIDC、液冷、任事器、互换机及途由器、光纤光缆等为代外的AI算力家当链或为主题主攻倾向。
AI大模子延续迭代,邦表里云巨头延续增进对AI根源办法的血本开支,咱们延续看好算力家当链,首要细分倾向搜罗:(1)【AIDC及液冷】推举标的:宝信软件、英维克;受益标的:润泽科技、光环新网、奥飞数据等;(2)【光通讯】推举标的:中际旭创、新易盛、天孚通讯;受益标的:源杰科技、华工科技、光迅科技、长光华芯等;(3)【互换机及芯片】推举标的:中兴通信、盛科通讯;受益标的:紫光股份、锐捷搜集等;(4)【任事器】推举标的:中兴通信;受益标的:紫光股份、人烟通讯;(5)【周围算力】受益标的:网宿科技等。
危害提示:AI成长不足预期、智算核心创办不足预期、行业逐鹿加剧。(开源证券 蒋颖,陈光毅,雷星宇 )