月之暗面Kimi联合清华大学等机构开源共建大模型推理架构Mooncake

格隆汇11月28日｜月之暗面Kimi和清华大学MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研力量共同发布开源项目Mooncake，共建以KVCache为中心的大模型推理架构，Mooncake技术框架今日已正式开源上线。