国产开源推理引擎“赤兔”发布了 v0.4 版本，大幅提升了一体机推理部署场景的性能和稳定性，适配昇腾、英伟达、沐曦、海光，支持 DeepSeek、Qwen、GLM、Kimi 等模型。
Chitu（赤兔）是由清华系 AI Infra 明星创企——清程极智联合清华大学团队发布的开源项目。赤兔定位于「生产级大模型推理引擎」，充分考虑企业 AI 落地从小规模试验到大规模部署的渐进式需求，专注于提供以下重要特性：
在今年三月首个版本发布时，赤兔通过底层算子优化（如 GeMM、MoE 的指令级重构）和编译技术创新，首次实现在无 FP8 硬件单元的算力芯片上原生运行 FP8 高精度模型，赋能众多存量算力芯片推理 DeepSeek-R1 满血版大模型。
StreamPark 社区以及广大开源社区的朋友们大家好： 关于近日 "赤兔" 实时计算平台违规使用 Apache StreamPark (Incubating) 代码一事[1], 赤兔开发团队已经重新按照 Apache 的合规要求, 更新了相关代码, 并且公开在官网[
部署提供生产级服务。 3.KV 缓存 v1 连接器 在 v0.3.0 版本开源了KV 缓存卸载框架，并将其与 vLLM v0.8.5（V0 架构）集成。现在，在 v0.4.0 版本中进一步优化了该框架，并将其集成到 vLLM v0.9.1（V1 架构）中，提高了兼容性和性能。
部署、运维、实时数仓等。2021 年 4月 以 StreamX 为名进行开源，于 2022 年 8 月更名为 StreamPark，随后通过投票于 9 月 正式成为 Apache 开源软件基金会的孵化项目。 被抄袭侵权 前几天，有开发者跟我们反馈，有项目 copy StreamPark
，企业版包含社区全部功能，并提供高可用、可观测性、国产卡支持。详细请联系 📞 @李鹏 🆕 主要更新内容 1. 🎥 支持 minicpm base64 格式视频解析 2. 🚀 默认开启 SGLANG 引擎 3. 🔧 暴露删除运行实例的接口，便于处理数据不一
讯飞星火 X1 全新升级，号称是“当前业界唯一的基于全国产算力训练的深度推理大模型”， 本次升级有这些关键信息⬇️ ✨实现了数学、代码、逻辑推理、文本生成、语言理解、知识问答等通用任务效果显著提升，在模型参
同时，开源PHP自 2020 年起开始深耕 DevOps 全生命周期产品国产替代方案，在满足开发者需求的同时，打造出一个自主创新、安全可信的本土开源软件工具与生态，减少开发者对海外开源软件的过度依赖，构建安全可控的中国信息
🔥🔥🔥飞龙工作流 FlowLong 🐉 真正的国产工作流引擎、json 格式实例模型、仿飞书钉钉审批流程设计器 🚩为中国特色审批匠心打造❗简单易懂的核心设计，优美易用的可视化管理界面，纯国产信创工作流首选。 开源地址
🔥🔥🔥纯血国产自研工作流引擎，自主可控，类似钉钉和飞书的低代码工作流引擎，更强大的表单设计器，模型设计器。 🚩为中国特色审批匠心打造❗简单易懂的核心设计，优美易用的可视化管理界面，纯正中国心，信创首
。 TeleAI通过更彻底地开源推动大模型技术进步和大模型国产化进程。此次开源提供基础模型以及基于相应版本的对话模型、不仅支持传统的全量参数更新还支持 LoRA 等只更新部分参数的高效微调方法、支持Deepspeed微调、支持int8
🔥🔥🔥飞龙工作流 FlowLong 🐉 真正的国产工作流引擎、json 格式实例模型、仿飞书钉钉审批流程设计器 🚩为中国特色审批匠心打造❗简单易懂的核心设计，优美易用的可视化管理界面，纯国产信创工作流首选。 开源地址
DeepSeek 在其 GitHub 仓库发布预告称，即将开源推理引擎 DeepSeek Inference Engine。 考虑到代码分支和维护资源等问题，他们选择了直接和 vLLM 等现有开源项目合作的方式进行开源。 下面是官方公告： 几周前，在开源周期间，
获得 Moark 官方认证的「AI 诈骗大师」称号 适配超多国产算力 此外，天数智芯、沐曦、昇腾、曙光智算、无问芯穹五家国产算力厂商通过与模力方舟团队连夜的通力合作，挖掘出了国产芯片的超强潜力，将这个史诗级模型
，不仅获得了5000万美金融资，还成为首个支持任天堂的国产3D引擎，在刚结束的2022 Google开发者大会上，还成为了唯一获得推荐的Web端游戏开发工具，未来Cocos还会给行业带来什么改变，值得拭目以待。
绍，这是阶跃星辰首个全尺寸、原生多模态推理模型。在国产芯片32K上下文推理效率最高可达DeepSeek R1的300%，在英伟达H800芯片将推理效率提升了70%以上。该模型将于7月31日向全球开源。 此外，阶跃星辰宣布与上海国有资本投