清华大学KVCache.AI团队与趋境科技联合发布KTransformers开源项目重大更新，成功打破大模型推理算力门槛
2月10日，TsinghuaUniversity和TrendTechnology的KVCACHE.AI团队发布的Ktransformers开源项目迎来了重大更新，成功地打破了大型模型推理和计算能力的门槛。以前，具有671B参数的MoeArchitectureMockupDeepSeek-R1在推理方面遇到了困难。推理服务器通常由于高负载而失败，而GPU小时收费的独家云服务器的高成本使...
