（+微:hywyysxs）
在疫情结🇷🇴👩👩👧束后，B站💭和中国的大🍹🐞多数互🎃联网平台一样☣经历了增长受🏖🇳🇨阻、裁员等过程🇾🇪，如今其市值🤘🇧🇩只有巅峰时🏌🧲期的1/🔱5左右🥫单身试管。上游厂商也在挟天🇭🇲子以令🦈诸侯，借着自家🐫技术优势，🇱🇦😠替代光模🔝块厂商去🇵🇷🐻做tier1👛🇨🇵。这不是东方甄选🥴第一次尝试🤩。
原因在🦞于AI并不是一🚒🔕个边际成本接近于🐾零的业务，🕜🤤相反，它是一🥒🤖个对算力极度🔋依赖的产业🚚🙃。在传统架构中，😽🍽有一种叫做🏯👱KV缓🗜存的机制：在解👗码过程中🇮🇹，计算完toke🛒n之后，🔵🇫🇲单身试管将KV缓存保存在💛内存里，再把它🚊🏎读回来🦆，继续计算下一🇬🇾个toke☯n，如此反复迭❇🇵🇦代🔀🌝。此外，还😮🥢有另一📑♾️个令人兴奋◽的未来增长点：🍢🇸🇪由于没有足🕷够的内存🇳🇮来存储🗃📇所有KV💀缓存，数据中心😋🇲🇰SSD将迎来巨💖🦏大的增量需求，用🇺🇸于存储查询👩🦱🚓调度和多轮对话工🇦🇹🤵作流——如📂🧝♂️果用现🥑🎠有架构来处理，就🇸🇬🕊不得不反复经历🏄♀️我前面说的那种👰重新计算的循环🕢。
