DeepSeek 关联公司公布大语言模型部署方法专利


天眼查App显示,DeepSeek关联公司杭州深度求索人工智能基础技术研究有限公司申请的“一种大语言模型的部署方法及系统”专利公布。

摘要显示,该发明涉及人工智能领域,有益效果在于将预填充阶段和解码阶段分别部署在高性能计算能力和大内存的机器上,均衡负载任务,实现最大化的硬件利用,减少闲置算力,降低整体延迟,提高吞吐量,增强系统的扩展性和容错性。


相關推薦

2025-04-03

4月1日,DeepSeek关联公司杭州深度求索人工智能基础技术研究有限公司申请的“一种广度数据采集的方法及其系统”专利在国家知识产权局正式公布。 据专利摘要介绍,该方法旨在在尽可能多发现网页链接的同时,降低网站流

2025-07-11

企查查APP显示,近日,智元机器人关联公司上海智元新创技术有限公司申请的“机器人的运动控制模型的训练方法及程序产品”专利公布。 专利摘要显示,本申请包括:获取机器人执行足部动作的过程中表征机器人与指定表

2025-03-26

天眼查资料显示,华为技术有限公司、清华大学申请的“一种语言模型推理方法以及推理装置”专利于 3月25日公布。 摘要信息显示,该方法包括:根据第四问题生成第五问题,所述第五问题用于提问所述第四问题、以及提示

2025-05-10

2025 年 5 月 6 日,国家知识产权局公布《百度“动物语言转换方法、装置、电子设备及存储介质”发明专利》,申请号 CN202411739983.3。 专利摘要显示,该专利提供了一种动物语言转换方法、装置、电子设备及存储介质,涉及人

2025-04-02

上又进一步。2025年1月,我国AI初创公司深度求索发布的DeepSeek R1以技术路径、成本控制与开源策略的全面创新,为AI研发提供了新范式。3月百度发布的文心大模型X1在性能对齐的情况下,进一步将API调用价格降至R1的一半。人工

2025-04-08

的问题。 AI推理时代即将到来? 今年年初,中国AI公司DeepSeek模型的横空出世在AI领域掀起巨浪,R1模型因其高效推理能力和低成本训练受到全球关注,也对英伟达等芯片企业形成了前所未有的冲击。 英伟达公司年度开发者大

2025-08-07

量数据库。能够无缝集成 Ollama 等平台,灵活切换 Qwen、DeepSeek 等主流模型,满足企业知识库高效定制需求。 精准推理与可信决策保障:结合私有化部署、多轮上下文深度理解与全链路可视化评估,为高敏感场景提供可靠的知

2025-06-05

🚀 Xinference v1.6.1 更新日志 ✅ 本次亮点 🧠 新增 Deepseek-R1-0528 及其蒸馏模型 Deepseek-R1-0528-Qwen3支持 Deepseek R1 最新版模型,语言理解与生成能力进一步增强。 🧩 Transformers 的视觉语言(VL)模型推理逻辑全面重构新架构

2025-05-16

DeepSeek 团队近日发表了新论文《Insights into DeepSeek-V3: Scaling Challenges and Reflections on Hardware for AI Architectures》,把 DeepSeek-V3 在训练和推理过程中,如何解决“硬件瓶颈”的方法公布了出来。 论文主要介绍了 DeepSeek-V3 在硬件架构

2025-04-22

同类模型小一个数量级的情况下,整体效果对标OpenAI o1和DeepSeek R1,再次证明了基于国产算力训练的全栈自主可控大模型具备登顶业界最高水平的实力和持续创新的潜力。 ✨融入了更多场景复杂类型数据,模型的泛化性也取得

2025-04-18

库对接 支持 AI 模型 AI 大模型 支持 DeepSeek √ ChatGTP √ Qwq √ 智库 √ Ollama 本地搭建大模型 √ 等等。。 √ AIGC 应用平台介绍 JeecgBoot 平台的 AIGC 功能模块,是一套类

2023-09-07

不损失,大语言模型的语言能力不损失。同时为了更好的关联视觉特征和语言特征,模型整体包含了一个可学习的视觉特征采样器和语言模型的LoRA适配器。Skywork-MM模型的训练上,分为两个阶段,第一阶段使用双语的大规模图文p

2025-03-27

源当日就登顶全球主流AI开源社区Hugging Face的趋势榜。 DeepSeek(深度求索)达成过“开源周”,其在2月末连续五天发布五个代码库,并于近日继续开源上线了升级后的DeepSeek-V3模型。 阶跃星辰则在一个月左右时间开源三款多模态大

2025-03-25

Xinference v1.4.0 发布 🚀! ✨ Gemma-3 模型重磅来袭,DeepSeek-v3 现已支持 Function Calling! 🎉 社区贡献者突破 100+!感谢大家的支持,期待更多伙伴加入贡献代码 💪💖。 🌍 社区版 📌 更新指南 * Pip:pip install 'xinference==1.4.0