Anthropic 或将发布新模型,已开始内部安全测试


据 TechingCatalog 报道,Anthropic 正在对一个名为“claude-neptune”的新 AI 模型进行安全测试。

本次测试即将持续到 5 月 18 日,主要是测试该模型对于越狱尝试的防范性。新模型将使依赖 Claude 进行安全、高性能推理的开发人员、研究人员和企业用户受益匪浅,尤其是在代码生成和技术研究等领域,Claude 在这些领域的评估中一直保持强势。

Anthropic 可能会在 5 月底或者 6 月初发布 Neptune 模型,与 OpenAI 以及谷歌展开正面对决。


相關推薦

2024-09-30

公司也推出了与 OpenAI 产品相当的 AI 模型,其中两家——Anthropic 和 Elon Musk 的 xAI——都是由前 OpenAI 领导人创立的。 日益激烈的竞争令那些因 OpenAI 领先地位而加入的研究人员感到沮丧。 OpenAI 的女发言人拒绝回应本文中的大

2025-03-30

们使用的AI助手如何「思考」一直是个谜。近日,AI公司Anthropic发布了两篇重磅论文,首次深入揭示了大语言模型Claude的内部思维过程,这一突破性研究被形象地称为「AI显微镜」技术。 打造「AI显微镜」 Anthropic的研究人员面临

2025-05-08

彭博社报道称,苹果公司正与 AI 创企 Anthropic 合作,为 Xcode 打造一款 AI 驱动的编程助手。 双方合作的核心是将 Anthropic 的 Claude Sonnet 大模型集成到 Xcode 中,能够自动编写、编辑和测试代码。而程序员只需通过聊天界面,用自

2025-04-02

图利用自己的通用人工智能代理技术与OpenAI 的 Operator 和 Anthropic 的 Computer Use 竞争的尝试。几家领先的科技公司认为,能够为用户导航网络的人工智能代理将使当今的人工智能聊天机器人更加有用。 亚马逊可能不是第一个开发

2023-10-27

谷歌、微软、OpenAI 和 Anthropic 发布联合声明,任命美国智库学会高管 Chris Meserole 为前沿模型论坛 (Frontier Model Forum) 首任执行董事。并宣布设立 1000 万美元的 AI 安全基金,“以推动正在进行的工具开发研究,帮助社会能够有效地

2024-08-07

公司,跳槽到由前 OpenAI 研究人员成立的的竞争对手公司 Anthropic。 今年 5 月份,OpenAI 原安全主管、超级对齐(Superalignment)团队负责人 Jan Leike 宣布从 OpenAI 离职,并公开发文抨击了该公司的安全性问题;此后又加入了 Anthropic

2025-04-29

TechCrunch 报道称,在 Anthropic 的 Claude Code 和 OpenAI 的 Codex CLI 两款“智能体”式 AI 编程工具的较量中,后者获得了更多开发者的青睐。部分原因在于,Anthropic 向一位试图逆向工程 Claude Code 的开发者发出了删除通知,而 Claude Code

2025-04-25

推理功能虽能提升准确性,但会以增加延迟为代价,这与Anthropic等公司近期发布的推理模型相似。 如果此次发布反响积极,OpenAI还计划后续推出更多开源模型,可能包括更小规模的模型版本。 OpenAI首席执行官山姆·奥特曼(Sam

2025-05-28

,而是无视指令并成功破坏了关闭脚本。 与此同时,Anthropic的Claude、谷歌的Gemini等模型在测试中都遵循指令自我关闭了。 Palisade Research表示,研究人员尚不清楚o3为何不遵守指令。该公司推测,o3在训练时可能无意中因为解决

2024-07-19

Anthropic 宣布与 Menlo Ventures 合作设立 1 亿美元的新基金“Anthology Fund”,以加速突破性 AI 应用的开发,旨在支持利用 Anthropic 技术进行广泛创新的初创公司。 其中,Menlo 负责出资 1 亿美元,Anthropic则负责提供技术支持。Anthropic

2022-11-14

Mold 1.7 现已发布。Mold 是现有 Unix 链接器的快速替代品,它比 LLVM lld 链接器快几倍。 开发人员 Rui Ueyama 称,一直以来他都在全职从事该项目,并已持续了两年。原本以为随着项目的流行,或许可以获得一定的金钱收益,但

2025-06-04

3D 模型,并使用手势+语音来控制它 04 有态度的观点 1、Anthropic CEO:未来五年 AI 或取代一半白领工作 最近在旧金山总部接受采访时,Anthropic CEO Dario Amodei 发出严峻警告:AI 的迅猛发展可能在未来一到五年内淘汰多达一半的初

2025-04-29

现在人工智能生成的搜索结果中,例如 OpenAI 的 ChatGPT、Anthropic 的 Claude、Google自己的AI Overviews以及最近推出的AI Mode。 这种高度关注源于生成式人工智能产品的兴起,它们正迅速成为数百万人在线搜索信息的主要方式。研究突显

2025-03-25

值的技术,但绝不是万能的解决方案。 克里希纳对近期 Anthropic 公司 CEO 达里奥·阿莫迪(Dario Amodei)的预测表示了不同意见。此前阿莫迪预测,在未来3到6个月内,90%的代码可能都会由AI自动生成。 而克里希纳则认为: 「