Jina-AI 3.10 发布,云原生神经搜索框架


Jina 是一个神经搜索框架,它使任何人都可以在几分钟内在云上构建可扩展且可持续的神经搜索系统。目前 Jina 3.10.0 正式发布,此版本包含 10 个新功能、9 个错误修复和 12 个文档改进。部分更新如下:

新功能

jina ping 在本地和 Kubernetes 上作为就绪探针启用

此功能可检查整个 Flow 或其各个组件的准备情况:

jina ping flow grpc://localhost:12345

jina ping executor localhost:12346

jina ping gateway grpc://localhost:12345

成功输出:

INFO   JINA@28600 readiness check succeeded 1 times!!! 

输出失败:

当就绪检查不成功时,此命令以代码 1 退出。

在 Kubernetes 中部署时,用作 Executor 和 Gateway 的就绪探针是一个不错的选择。

client.post的重试机制 ( #5176 )

client.post() 接受 max_attempts、initial_backoff、max_backoff 和 backoff_multiplier 参数来控制重试请求的能力,在发生瞬时连接错误时,使用指数退避策略:

client.post(
on='/',
inputs=docs,
max_attempts=5,
initial_backoff=0.1,
max_backoff=0.5,
backoff_multiplier=1.5
)

随处添加对请求大小的监控(#5111)

请求的大小 ( jina_request_size_bytes) 现在随处都可以监控:在每个 Executor、每个 Gateway 和每个 sharding Head 上。

因此,现在可以通过 Prometheus 和 Grafana 访问这个新指标。

JCloud 的 JSON 日志记录 ( #5201 )

现在可以创建 JSON 格式的日志,而不是标准的逐行文本输出。样本输出:

{"created": 1663930387.5850368, "filename": "data_request_handler.py", "funcName": "_load_executor", "levelname": "DEBUG", "lineno": 98, "module": "data_request_handler", "msg": "<jina.serve.executors.BaseExecutor object at 0x7fc1951f78d0> is successfully loaded!", "name": "WorkerRuntime", "pathname": "/home/foo/jina/serve/runtimes/request_handlers/data_request_handler.py", "process": 13386, "processName": "Pod", "thread": 140469860276032, "threadName": "MainThread"}

要启用此功能,请将环境变量'JINA_LOG_CONFIG 设置 'json'

使jina hub push非阻塞(#5129)

jina hub push现在是非阻塞操作,这意味着用户不必在服务器端等待整个推送完成。

在后台处理推送时,可以使用以下命令检查其状态:

jina hub status [<path_to_executor_folder>] [--id TASK_ID] [--verbose] [--replay]

 

其他更新内容可以查看更新公告:https://github.com/jina-ai/jina/releases/tag/v3.10.0


相關推薦

2022-09-04

修复测试并发异步流 ( #5115 ) 更新公告:https://github.com/jina-ai/jina/releases/tag/v3.8.2

2022-10-26

异常并根据异常采取行动。 更新公告:https://github.com/jina-ai/jina/releases/tag/v3.11.0  

2022-06-09

bsp;更新测试寻路路径(#4870) 更新公告:https://github.com/jina-ai/jina/releases/tag/v3.5.0  

2022-08-22

p; [ 4673e7ab] -docs:更新目录 更新公告:https://github.com/jina-ai/jina/releases/tag/v3.7.13

2022-08-31

降级 linkerd 版本 (#5090)  更新公告:https://github.com/jina-ai/jina/releases/tag/v3.8.0  

2022-07-23

些监控指标的错误 #4974 更新公告:https://github.com/jina-ai/jina/releases/tag/v3.7.0

2022-02-22

上构建可扩展且可持续的神经搜索系统。 Jina 3.0.0 正式发布,该版本的内容主要关于云就绪和集成(cloud-readiness and integration),通过重构架构/通信层,使 Executor 通信更稳定,比以前版本更具可扩展性和健壮性。 Executors: 试

2024-07-02

前言 EasyAi的出现对于Java的意义,等同于在JavaWeb领域spring出现的意义一样——做一个开箱即用,让每一个开发者都可以使用EasyAi,来开发符合自己人工智能业务需求的小微模型,这就是它的使命! EasyAi介绍 EasyAi无任何依

2023-06-15

//graphlearn-torch.readthedocs.io/en/latest/index.html 背景介绍 图神经网络作为一种图数据上表示学习的方法已经被广泛应用在图相关的各个领域,在电商推荐、安全风控、生物分子等领域取得了实际落地。图神经网络由于其独特的数据

2022-05-26

微软在 Build 2022 大会上发布了一些旨在支持 Windows on Arm 的公告。其中包括宣布推出一款与高通合作创建的,基于 Arm 的开发者设备 Project Volterra。Project Volterra 使用骁龙处理器和神经处理单元(NPU),允许开发者构建云原生 AI 应

2023-02-07

是更高级的用户。 值得注意的更新 这将是最后一个发布到 Docker Hub 的版本,未来的版本将使用 xpkg.upbound.io 代替 ControllerConfing API 已被弃用 Lock API v1alpha1 已被弃用 CompositionRevisions 的名称在构建时加入了部分哈希后缀

2023-08-07

更新日志: [修复] date-picker 组件 datetime 模式下交互逻辑问题。 [修复] tag 组件 color 属性,在夜间模式无法正常生效的问题。 [修复] tab 组件滑动逻辑没有将 tab-item 外边距计算在内的问题。 [优化] checkbox-group 组件 update:modelValue

2024-07-27

洞见。 此高峰论坛上: openKylin 园区运营战略将会发布,并且举办全球首个园区站-浦软站成立仪式; 麒麟软件高级副总裁朱晨也将带来 openKylin 2.0 的最新进展; 国家地方共建人形机器人创新中心首席科学家江磊将分

2023-10-26

Language Model Evaluation Harness 当一个新的大语言模型(LLM)发布时,通常都会被进行评估,将该模型与 ChatGPT 在某个基准上进行比较,很多公司可能会使用 lm-eval-harness 来生成评估分数。lm-eval-harness 由分布式人工智能研究所 Eleuther