（+微:hywyysxs）
风险提示：💟未来中美贸🗓🤚易摩擦可能进一步🇱🇧加剧，存在美国🇨🇩政府将⏸继续加👩⚕️征关税、设置进⚡💈口限制💁↪条件或其他贸🏝易壁垒🚎风险；宏观环境的👽不利因素将可能使↩🇨🇾得全球经济增🍼🌑速放缓，居民🧸◻收入、购买🔽力及消费意愿将🐙受到影响，存在下🇻🇦💍游需求不及预期风🍍🈺险；大🈳♦宗商品价格仍🤷♂️未企稳，🎑🧨不排除继🇯🇪🍵续上涨的🥐可能，存在原材😔💙料成本提💟高的风险；全球政🏨治局势复杂，🏇🐞主要经济体争🤢🧖♀️端激化，🇼🇸😀国际贸易🏈环境不确定性增🇵🇬大，可能使得2️⃣🇭🇳全球经济增速🎎🥨放缓，从而🥽影响市场需求结构🚸，存在国际政🖱5️⃣治经济形势🚃风险🇬🇫。
Q1环比微降🇻🇦🍷，主要因为Q4🚴🤳有较多中国收入而🤾♀️🇻🇬Q1减少☁。研究团队发现，有🍠两类数据对模型🗒提升毫🐷🏞无帮助🛥🇭🇰、甚至有害🤺。这个设计有几个🎸🇸🇨值得注意的特💋点📻。某些VL🥳👽M数据源—📱⛱—比如专注🍚于空间指代推理的🧫RefSpati🛡🇳🇦al数据🇮🇪集——与机👕器人数据的🇪🇦距离，明显比纯图🇧🇱🤑文描述数据更近🌰。
此外，🔬为了确保模型🚣♀️🚭原有的参数也能适🚢应新的路由约束，💧👨🦰研究团队🇻🇪还给模型的😄✏专家层和注意力🤫层加了LoR🇧🇭🧙♂️A适配器—🖼—这是一种🔛👩🚀非常轻量的💂♀️微调方式🇪🇨🦹♂️，只需要在🇧🇳▪原有参数旁边附加🈁一小块低秩🆒🏈矩阵，参数量极🇧🇬🇨🇰少但效果显著💼🥔。大模型在变🏊🐠。预测窗口N😀的影响更🛐🇺🇾关键——训🦘🚲练时预测得越🍁🚞远，模型在👩🎤⛴长期预测📨🍸时的表现就⚽⚙越好🏈。训练时🇫🇯，每个词🇵🇷都可能路由到☦👑任意一个专家🛫，所有专家的参数🤝📚在前向和🦝后向传播☔💉中都必须可🇳🇴💸访问，内存压力极👞大😅📋。
