Google、OpenAI 等领先的科技公司对 Scaling Law 进行了大量的摸索，这些研究为现代大型 AI 模子的成功奠基了根本‌。可是多模态模子范畴（如图像、视频、音频等）的 Scaling Law 尚没有被实逼实切地验证过。

　　一位戴着复古飞翔护目镜的机械师，半跪正在蒸汽朋克气概的工做室里。她棕色卷发挽成发髻，零散的银色发丝闪着金属光泽。深棕色皮质工拆背带裤上沾满机油污渍，袖口卷起显露布满齿轮纹身的手臂。特写她正用黄铜东西调试一只机械鸟，齿轮间冒出缕缕蒸汽，工做台上散落着铜管、发条和老式图纸。

　　Scaling Law 正在 AI 范畴的使用很是普遍。特别是正在大模子的锻炼中，帮帮科学家们确定，若是需要模子有更好的表示，该当优先添加模子参数、锻炼数据的规模仍是锻炼计较量。

　　正在文生图和文生视频等视觉生成模子中，担任处置文本、理解文字的文本编码器起着环节感化。目前行业中大部门的视觉生成模子的文本编码器，适配的次要是上一代言语模子。

　　腾讯混元也会继续连结，将更多颠末腾讯使用场景经验的模子开源出来，推进大模子生态的繁荣成长。

　　从头至尾用 full attention（全留意力）的机制，没有用时空模块，提拔画面流利度。

　　HY-Video 具备导演级的运镜结果，具备业界少有的多视角镜头切换从体连结能力，艺术镜头无缝跟尾，一镜曲出，展示出如梦似幻的视觉叙事。同时，模子正在光影反射上遵照物理定律，降低了不雅众的跳戏感，带来更具沉浸感的不雅影体验。模子还具备强大的语意服从能力，用户只需简单的指令即可实现多从体精确的描画和流利的创做，激发无限的创意取灵感，充实展示 AI 超写实影像的奇特魅力。

　　Scaling Law 凡是用来描述模子机能若何跟着模子大小、锻炼数据和计较资本的添加而变化。正在人工智能研究的晚期，锻炼模子往往需要正在诸多超参数之间频频测验考试，而 Scaling Law 供给了指点若何扩展这些参数的经验公式，使模子达到更好的机能‌。

　　混元视频生成是业界适配最新一代狂言语模子 MLLM （Multimodal Large Language Model）做为文本编码器的视频生成模子，具备强大的语义跟从能力，更好地应对多个从体描画，实现愈加细节的指令和画面呈现。

　　Hunyuan-Large 总参数量约 389B，激活参数量约 52B，文本长度 256k。这是当前业界参数规模最大、结果排名第一的 MoE 开源模子。其正在 CMMLU、MMLU、CEval、MATH 等多学科分析评测集以及中英文 NLP 使命、代码和数学等 9 大维度全面领先，跨越 L3。1、Mixtral 等一流的开源大模子。

　　今日，腾讯颁布发表旗下的混元视频生成大模子（HunYuan-Video ）对外开源，模子参数量 130 亿，可供企业取小我开辟者免费利用。目前该模子已上线腾讯元宝 APP，用户可正在 AI 使用中的「AI 视频」板块申请试用。

　　AI 文生图开源生态兴旺成长，浩繁创做者取开辟者为生态贡献做品取插件。然而，视频生成范畴的开源模子取闭源模子差距较大。腾讯混元做为第一梯队大模子，将视频生成开源，相当于将闭源模子的最强程度带到开源社区，无望推进视频生成开源生态像图像生成社区一样繁荣。

　　腾讯混元视频生成模子 HunYuan-Video（HY-Video）是一款冲破性的视频生成模子，供给超写实画质质感，可以或许正在实正在取虚拟之间切换。它打破了小幅度动态图的，实现完整大幅度动做的流利演绎。

　　视频由腾讯混元视频生成，提醒词：一位中国穿戴汉服，头发飘荡，布景是伦敦，然后镜头切换到特写镜头。

　　腾讯正在开源上一曲持立场，已开源了超 170 个优良项目，均来历于腾讯实正在营业场景，笼盖微信、腾讯云、腾讯逛戏、腾讯 AI、腾讯平安等焦点营业板块，目前正在 Github 上已累计获得超 47 万开辟者关心及点赞。

　　基于腾讯混元的开源模子，开辟者及企业无需从头锻炼，即可间接用于推理，并可基于腾讯混元系列打制专属使用及办事，可以或许节约大量人力及算力。同时，各大模子研发团队均可基于腾讯混元模子进行研究取立异，加快行业立异程序。

　　Hunyuan-Video 是一个分析的视频锻炼系统，涵盖了从数据处置到模子摆设的各个方面。本手艺演讲引见了我们的数据预处置手艺，包罗数据过滤算子和从头标注模子，并细致申明了 Hunyuan-Video 所有组件的架构，和我们发觉的视频生成模子 scaling law，以及我们的锻炼和推理策略。

　　本次视频生成大模子的开源，也是腾讯混元拥抱开源，用手艺反馈社区的一大。至此，腾讯混元全系列大模子已实现全面开源。

　　腾讯混元团队正在过亿级此外图像视频数据上，按照我们的发觉，我们能够精确的设想出最优的模子参数 / 数据 / 算力配比，也给了后续学术界和业界开辟更大规模模子一个经验公式，到底什么样规模的模子需要几多锻炼数据和算力，使模子达到更好的结果机能，能够鞭策业界正在视频生成范畴的成长。

　　我们会商了加快模子锻炼和推理的方式，使得开辟一个具有 130 亿参数的大型模子成为可能，并评估了我们的文本到视频根本模子的机能，取最先辈的视频生成模子（包罗开源和专有模子）进行了比力。

　　腾讯混元视频生成模子提醒词：穿戴白床单的鬼魂面临着镜子。镜子中能够看到鬼魂的倒影。鬼魂位于布满尘埃的阁楼中，阁楼里有老旧的横梁和被布料覆盖的家具。阁楼的场景映照正在镜子中。鬼魂正在镜子前跳舞。片子空气，片子打光。

　　腾讯混元视频生成模子提醒词：超洪流管浪尖，冲浪者正在浪尖起跳，完成空曲达体。开麦拉从波浪内部穿越而出，捕获阳光透过海水的霎时。水花正在空中构成完满弧线，冲浪板划过水面留下轨迹。最初定格正在冲浪者穿越水帘的完满霎时。

　　视觉编码器正在压缩图片 / 视频数据，保留细节消息方面起着环节感化。混元团队通过自研的 3D 视觉编码器支撑夹杂图片 / 视频锻炼，同时优化了编码器锻炼算法，显著提拔了编码器正在快速运转、纹理细节上的压缩沉建机能，使得视频生成模子正在细节表示上，出格是脸、高速镜甲等场景有较着提拔。

　　据手艺演讲，正在混元视频生成模子架构设想取锻炼中，采用了多个立异手艺：包罗通过新一代本文编码器提拔语义遵照，自研 3D 视觉编码器支撑图像视频夹杂锻炼，通过全留意力机制提拔画面运镜能力，并按照自研的图像视频 Scaling Law 设想和锻炼了最优配比模子。

　　混元 3D 生成大模子则是首个同时支撑文字、图像生成 3D 的开源大模子。一期开源模子包含轻量版和尺度版，轻量版仅需 10s 即可生成高质量 3D 资产。该模子正在本年岁首年月已正在腾讯内部上线发布并使用于现实营业中，如 UGC 3D 创做、商品素材合成、逛戏 3D 资发生成等。

　　11 月 5 日，腾讯混元颁布发表最新的 MoE 模子「混元 Large」以及混元 3D 生成大模子「Hunyuan3D-1」正式开源。

　　首个适配 MLLM 做为文本编码器的视频生成模子，具备强大的语义跟从能力，能够轻松应对多个从体描画。

　　固定机位的老公寓内景，天然光透过纱帘漫射，青色街灯渗入，茶烟袅袅升起，老式家具静静陈列，定格岁月消逝的光阴。

　　通过自研的 3D 视觉编码器支撑夹杂图片和视频锻炼 / 先辈的图像视频夹杂 VAE（3D 变分编码器），让模子正在沉建能力场景有较着提拔，具备脸和动做的极高上限。

　　腾讯混元视频生成模子提醒词：特写镜头拍摄的是一位 60 多岁、留着胡须的灰发须眉，他坐正在巴黎的一家咖啡馆里，沉思着的汗青，他的眼睛聚焦正在画外的人们身上，而他本人则根基一动不动地坐着，他身穿羊毛大衣西拆外衣，内衬系扣衬衫，戴着棕色贝雷帽和眼镜，看上去很有传授风采，片尾他显露一丝微妙的闭嘴浅笑，仿佛找到了生命之谜的谜底，灯光很是具有片子感，金色的灯光，布景是巴黎的街道和城市，景深，35 毫米片子。

　　AIxiv专栏是机械发布学术、手艺内容的栏目。过去数年，机械AIxiv专栏领受报道了2000多篇内容，笼盖全球各大高校取企业的尝试室，无效推进了学术交换取。若是您有优良的工做想要分享，欢送或者联系报道。邮箱：。

　　5 月 14 日，腾讯颁布发表旗下的混元文生图大模子全面升级并对外开源，这是业内首个中文原生的 DiT 架构（DiT，即 Diffusion With Transformer）文生图开源模子，支撑中英文双语输入及理解，参数量 15 亿，全体能力属于国际领先程度。

　　我们采用从动化数据过滤和人工过滤相连系的体例，从粗到细建立多个阶段锻炼数据集。正在 256p、360p、540p 和 720p 锻炼阶段，采用各类过滤器对图片、视频数据过滤，并逐渐提高过滤算子的阈值。正在 SFT 阶段锻炼阶段。

　　腾讯混元视频生成模子提醒词：一个汉子正在书房对着电脑，敲打键盘，认实地工做，镜头切换到卧室里，暖的灯光下，他的老婆正在床边读着故事书，温柔地拍着孩子的胸口，哄孩子入睡。温暖的空气。

　　混元视频生成模子采用基于单双流模子机制的全留意力收集架构，使得每帧视频的跟尾更为流利，并能实现从体分歧的多视角镜头切换。取「分手的时空留意力机制」别离关凝视频中的空间特征和时间特征，比拟之下，全留意力机制则更像一个纯视频模子，表示出更优胜的结果。其次，它支撑图像和视频的统终身成，简化了锻炼过程并提高了模子的可扩展性。最初，它更无效地操纵了现有的大型言语模子（LLM）相关的加快能力，从而提拔了锻炼和推理的效率。

　　该图凸起显示了正在每个阶段利用的一些最主要的过滤器。正在每个阶段，将会移除大量数据，移除的比例畴前一阶段的数据的一半到五分之一不等。正在这里，灰色条暗示每个过滤器过滤掉的数据量，而彩色条则暗示每个阶段残剩的数据量。

建湖J9直营集团官网科技有限公司

2026-01-05 21:55