deepin UOS AI 如何配置自定义模型


科技飞速发展的今天,操作系统作为计算机系统的灵魂,其每一次的更新与变革都牵动着无数用户的心弦。近日,开源操作系统deepin迎来了一次重大更新,这次更新不仅在性能上进行了全面优化,更在AI智能化方面迈出了划时代的步伐:内置AI助理,并成功兼容多个千亿级大模型,为用户带来了前所未有的智能操作体验。

为了让deepin和UOS AI变得更开放、更强大,支持更多的大模型,我们开放了UOS AI的模型接入接口,所有OpenAI接口格式的大模型均可以接入到UOS AI,你可以根据自身需求,自行接入自己喜欢的大模型,让UOS AI成为更个性化的智能伙伴。为了让更多用户了解如何配置专属模型,本篇文章将详细介绍:

1. UOS AI如何接入在线模型(例如月之暗面和智谱)

2. UOS AI如何接入本地模型(例如使用Ollama运行本地模型)

 

UOS AI 如何接入在线模型

目前,UOS AI 1.3.0版已在deepin V23 RC2应用商店发布,新版支持用户添加自定义模型。

接入条件

UOS AI的自定义模型的接口规范为OpenAI的/v1/chat/completions。因此只有提供了OpenAI兼容接口的模型服务才可以被添加到UOS AI中使用。

接入在线模型

接下来介绍在线模型的添加方式:

一、月之暗面

01:获取API

打开月之暗面的API说明,获取:模型名称和Domain(请求地址):https://platform.moonshot.cn/docs/api/chat#api-%E8%AF%B4%E6%98%8E

请求地址:https://api.moonshot.cn/v1/chat/completions

模型名称:moonshot-v1-8k

Tips:UOS AI会在请求地址中自动添加/chat/completions,因此这里填入的地址需要在月之暗面的地址去掉/chat/completions部分。实际填入为:https://api.moonshot.cn/v1

 

02:获取API Key

登录月之暗面控制台:https://platform.moonshot.cn/console/api-keys

进入【API Key管理】,点击右侧“创建”按钮,生成API Key:

在此界面复制生成的密钥。

 

03:UOS AI添加模型

进入UOS AI设置界面,添加模型。在模型添加界面的模型选项中切换为“自定义”。然后填入以下信息:

  • API Key:在API Key栏粘贴上步复制的密钥
  • 账号名称:任意填写
  • 模型名称:填入第一步中月之暗面API声明的模型名称:moonshot-v1-8k
  • 请求地址:https://api.moonshot.cn/v1

最终的填写效果是:

点击确认,完成校验后即可在对话窗口中使用。

 

二、智谱

01:获取API

进入智谱AI开发平台,查询模型API:https://open.bigmodel.cn/dev/api#glm-4

请求地址:https://open.bigmodel.cn/api/paas/v4/chat/completions

模型名称:glm-4

 

02:获取API Key

进入智谱《API keys》界面:https://open.bigmodel.cn/usercenter/apikeys

 

点击右侧《添加新的API key》按钮,并在生成的新key后点击复制按钮。

 

03:UOS AI添加模型

进入UOS AI设置界面,添加模型,在模型添加界面的模型选项中切换为“自定义”。然后填入以下信息:

  • API Key:在API Key栏粘贴上步复制的密钥

  • 账号名称:任意填写

  • 模型名称:填入智谱模型的模型名称:glm-4

  • 请求地址:UOS AI会在请求地址中自动添加 /chat/completions,因此这里填入的地址需要在智谱的地址去掉 /chat/completions部分。实际填入的为:https://open.bigmodel.cn/api/paas/v4

点击确认,完成校验后即可在对话窗口中使用。

 

三、其他模型

其他兼容OpenAI API接口的在线模型皆可用以上方法接入。

下面为部分大模型厂商的API说明:

  • 百川:https://platform.baichuan-ai.com/docs/api

  • 通义千问:https://help.aliyun.com/zh/dashscope/developer-reference/compatibility-of-openai-with-dashscope

  • 零一万物:https://platform.lingyiwanwu.com/docs#api-%E5%B9%B3%E5%8F%B0

  • Deepseek:https://platform.deepseek.com/api-docs/zh-cn/

 

UOS AI 如何接入本地模型

Ollama

Ollama是一个开源的大语言模型本地部署工具,通过它可以方便的在本机部署开源大模型。

01:安装

Ollama仓库地址:https://github.com/ollama/ollama

按照教程在deepin V23中安装ollama程序。执行以下命令,直接安装ollama。

curl -fsSL https://ollama.com/install.sh | sh

Tips:编译安装、Docker安装请参阅Github中说明。

ollama 服务地址:127.0.0.1:11434

 

02:运行

安装完成后在终端运行模型,如Qwen2的7B模型:ollama run qwen2:7b

模型第一次运行会自动下载,根据网络情况需要等待一会儿。

 

03:模型仓库

Ollama模型仓库:https://ollama.com/library

 

可根据自身需要选择模型。

 

04:UOS AI配置

Ollama启动模型后,即可在UOS AI中添加该模型。

① 进入UOS AI的模型添加界面,选择模型类型为自定义。

 

②账号名称:根据需要随意填写。

③API Key:Ollama未开启鉴权,可以随意填写。

④模型名:填写Ollama运行的模型名称,如前文运行的是qwen2:7b,那么这里就填qwen2:7b。

⑤模型请求地址:

Ollama默认服务地址为127.0.0.1:11434

其OpenAI的兼容接口为http://127.0.0.1:11434/v1/chat/completions

因此在UOS AI中只需填入:http://127.0.0.1:11434/v1

 

完成添加后即可在UOS AI中与本地模型对话。

 

目前,deepin UOS AI已覆盖90%主流开源大模型与AI框架,随着模型接口的开放,用户将在UOS AI中体验到更多优秀的国内外大模型。未来,deepin将持续探索大模型与AI原生应用,自然语言交互兼容性,数据安全性等多个技术点,推动人工智能与基础软件融合,为产业发展带来革命性变化。

 

附录:

(1)deepin 历史版本镜像(含 deepin V15):https://distrowatch.com/index.php?distribution=deepin

(2)UOS AI 打通全局智能搜索https://www.deepin.org/zh/uos-ai-gets-a-major-upgrade/


相關推薦

2024-08-24

查看原文 昨天,我们向大家详细介绍了《deepin 23丨如意玲珑正式集成至deepin 23,生态适配超千款》,很多用户在评论区也纷纷留言,给我们提出了很多好的建议。今天我们继续和大家聊一聊deepin 23的UOS AI在多模型对接、个人AI

2023-09-22

据技术都能四世同堂,凭什么开发 30 岁就要被干掉? deepin 正式官宣已实现大模型能力接入,多款自研应用软件实现智能化升级。 统信软件高级副总经理、CTO张磊表示:“目前UOS AI实现了国内外主流大模型的能力接入,并封

2024-08-27

型的本质,实际都是源自同根。如果用取经之路来类比 deepin 对操作系统大语言模型的探索,就好比从东土大唐重新起步,deepin 研发团队经过艰难的起步和摸索,始终在寻找一个适合操作系统级的大模型之路。然而要踏上这条真

2024-08-28

查看原文 2024年8月24日,deepin 23 Release Party 暨 WHLUG 在龙芯中科(武汉)技术有限公司的支持下成功举办,本次活动邀请到了来自统信软件、deepin(深度)社区(以下简称“deepin社区”)、龙芯中科的各位专业的技术老师为到场

2024-10-09

子,随时待命 01 操作简单秒上手,轻轻一划变智能 在 deepin 23 中,多数应用的文本支持使用【UOS AI 随航】。例如在文本编辑或网页浏览过程中,选定文字就可激活该功能,使文字瞬间焕发智慧。   02 告别繁琐,

2024-08-16

与Windows、MacOS 这两个商业操作系统一样强大。” ——deepin(深度)社区创始人 刘闻欢(deepin) 8月15日,国际知名开源社区deepin(深度)社区在线上举办了主题为“聚AI而生 大有不同”新品发布会,正式对外发布开源操作

2024-08-06

级办公应用WPS宣布,即将发布基于国际知名开源操作系统deepin V23的 WPS Office For Linux 个人版。该版本基于玲珑包格式,与deepin V23的智能化特色深度融合,面向国内及全球用户提供更流畅、智能的先进生产力工具。 WPS Office For L

2024-09-24

查看原文 之前收到留言,用户提出想要在树莓派运行 deepin 23 系统,近期 deepin(深度)社区 deepin-raspberrypi SIG 内部发布了一个可以给树莓派使用的尝鲜版 deepin 23 镜像,接下来我们一起看看这个卡片电脑,运行 deepin 23

2024-08-03

查看原文 deepin(深度)社区7月总览   社区产品 deepin V23 成功适配奕斯伟计算EIC7700X 2024年7月,deepin(深度)社区宣布成功适配奕斯伟计算EIC7700X,实现了RISC-V版本deepin V23的稳定运行。这一举措再次印证了deepin对RISC-V生

2023-04-30

uengine 运行器 2.0.1 已经发布,在 Deepin/UOS 上安装自定义 APK。 此版本更新内容包括: ※1、新增移除在 Ubuntu 上安装的 UEngine 及其附属脚本的功能 ※2、优化 Ubuntu 安装器启用和安装逻辑,不允许在 UOS/Deepin 安装移植的 Ubuntu UEngine

2024-07-04

deepin(深度)社区6月总览   社区产品 deepin V23 RC2 发布 2024年6月14日,deepin V23 RC2版本正式发布,对deepin系统中的UOS AI进行了重量级升级,内置“全局智能搜索”和AI助理,并成功兼容多个千亿级大模型。本次deepin V23 RC2

2024-08-13

查看原文 deepin V23版本已完成龙架构 (LoongArch) 适配,龙架构是由国内自主CPU引领者龙芯中科所研发处理器使用的指令集架构,其产品包括3A6000、3A5000、3B5000等多款高性能多核心桌面处理器。这一重要里程碑不仅标志着国产CPU与

2024-08-15

查看原文 近日,自主核心芯片研发飞腾公司宣布与deepin V23完成适配,包含飞腾新一代桌面CPU飞腾腾锐D3000、FT-2000+/64、桌面芯片飞腾腾锐D2000等多款产品,为用户带来更智能、安全、稳定的使用体验。 飞腾腾锐D3000集成8个飞

2022-12-01

件 windows 平台 macOS 平台 linux平台 - 国产UOS、Deepin linux 平台 (ubuntu) 2. vue、react、web 转换成桌面软件 vue-ant-design(本地) 禅道项目管理(web 项目地址) 3. 用户案例        &nb