用同样的Benchmark测试,Zilliz 急了?

3月15日,知乎用户“几点James”(Zilliz 合伙人和技术总监栾小凡)对“零一万物笛卡尔(Descartes)包揽权威榜单ANN-Benchmarks 6 项数据集评测第一名”发表了看法,称“已经有一年多没关注这个排行榜(ANN-Benchmarks)了。主要是因为它测试的内容与用户的实际需求渐行渐远。”

然而栾小凡所谓 “一年多没有关注” 这个ANN-Benchmarks的说法着实匪夷所思。就在短短几周前,2月22日Zilliz官方发布了核心向量搜索引擎——Cardinal,使用的主要测试工具之一就是“ANN-Benchmarks”,这篇文章放出了五张ANN-Benchmarks离线测试的曲线图,测试结果占了相当大的篇幅。

感觉这是一个大型双标现场。同样使用测试工具,同样是进行的自测,自己测试时是一个“标准的性能测试工具”,几周后别人发布的测试就变成 “很难作为生产环境性能优化的实际指导”了?

两家公司都测了ANN-BenchmarksZilliz 公然双标?

2月22日,Zilliz发布官方微信文章《2024 年,向量数据库的性能卷到什么程度了?”》(
https://mp.weixin.qq.com/s/4xx2U8Xyr1RetTkMtRrxyw)一文中称“Zilliz Cloud 最近发布的核心向量搜索引擎 Cardinal,文章先是用了Zilliz 自制自评的 VectorDBBench,接着说明采用了 ANN-benchmarks”,介绍“ANN Benchmarks 是一个标准的性能测试工具,用于评估 ANNS 实现,并在使用不同距离度量的几个标准数据集上运行”。

Zilliz对于测试结果进行了展示,称展示是“通过 ANN-benchmark GitHub 页面上呈现的图表结果,并添加一个 Cardinal 曲线而生成的。”结论是“在所有性能测试中,Cardinal 的表现都十分出色。” 这,自家的合伙人和技术主管一年多没关注?

到了三月,零一万物对使用ANN-Benchmark测试笛卡尔(Descartes)在公号文章进行了说明,它在文中称,ANN-Benchmarks 是全球范围内最权威和常用的向量检索技术性能评测榜单之一,经评估其评测方式可以反应大部份大模型向量数据库所需要的主要能力,因此选用 ANN-Benchmarks 来验证自研向量数据库搜索内核的性能表现。

此外,零一万物还对于开展的离线评测方法做了说明。从说明中可以看出,零一万物先在 GitHub 按正规流程提交pull request,和组织方做了沟通,“组织方反馈近期不做线上评测更新”。然后技术人员才严格还原ANN-Benchmarks官方测试条件进行了离线测试。

GitHub ANN-Benchmarks官方网站上查不到Cardinal提交信息

求证了一下,零一万物曾经在 GitHub ANN-Benchmarks上提交了pull request 。在GitHub上,确实能够查到笛卡尔 于 2月29日 “add algo descartes(01AI)” 的提交记录。今天查询时,显示当前状态还是“Open”。

用同样的Benchmark测试,Zilliz 急了?

截止到今天(3月18日),Zilliz官宣Cardinal的评测榜单成绩后的25天,在GitHub上的Zilliz机构主页上,查找Cardinal,却怎样都搜不到相关信息。

用同样的Benchmark测试,Zilliz 急了?

梳理一下事件时间线,Zilliz为啥急了?

3月11日,零一万物对外发布研发出基于全导航图的新型向量数据库 “笛卡尔(Descartes)”,称其检索内核包揽了权威榜单 ANN-Benchmarks 6项数据集评测第一名。

榜单发布以后,被称为“向量数据库先锋”的Zilliz创始人星爵在朋友圈进行了回应,套用了一份容易让人产生其他联想的零一万物的“写作模版”,阴阳零一万物,朋友圈也能看到这份回应被Zilliz员工大量转发。

随后零一万物联合创始人、技术副总裁 Ethan戴宗宏发表朋友圈进行回复。他说:“技术人应该PK的是技术指标和性能表现,专注于自身技术研发和选代,而不是打口水仗。”

3月15日,栾一凡再次发难,知乎上批判零一万物发布的ANN-Benchmarks榜单结果,措辞激烈。零一万物向量技术负责人王高飞进行了实名回应。

3月17日,零一万物宣布开放笛卡尔向量数据库搜索内核,将技术成果回归社区,免费商用。其称笛卡尔向量数据库定位专注于大模型场景,没有作为单独商业产品的计划。

看完之后,有个感觉:榜单这事,有输有赢很正常,下次再华山论剑就是。这么急,看来零一万物确实动到了Zilliz的蛋糕。不论两家怎么斗,对于技术人员来说,谁向大家开放使用,并且能够好用,谁就是好的。

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年3月18日
下一篇 2024年3月18日

相关推荐

  • 手机窃听再被实锤?罗永浩疑曝内幕:与软件厂利益绑太深

    小柴问柴油们一个问题,大家也都用智能手机十几年了,关于手机这玩意,你们感受到我们的科技遥遥领先,具体在哪些方面呢? 柴油们也一定看到了前几天,小红书被爆「高频读取用户信息」一事,在热搜上炸开了锅,让不少人惊叹,咱们一个软件的科技竟然遥遥领先到了这程度…… 事情大概是,有不少网友爆料,近30天内自己小红书应用访问总量高达9.2万次,是使用频率最高的微信的一百倍…

    2025年4月10日
  • 业界唯一!科大讯飞发布首个基于全国产算力的深度推理大模型X1

    1月15日,科大讯飞发布了当前全国产算力平台上唯一的深度推理大模型——讯飞星火X1。该模型中文数学能力国内第一,并率先应用于教育、医疗等刚需场景。 同时,讯飞星火4.0 Turbo底座能力再次迎来全新升级,图文、数学和长文本能力显著提升,并首发混域知识搜索技术,进一步解决行业、企业痛点。 此外,作为国内智能翻译领域的佼佼者,科大讯飞还推出了业界首个具备端到端…

  • 张继科合作公司成功注册继能商标

    #张继科合作公司注册继能商标##张继科回应开课教乒乓# 近日,张继科开课教乒乓球引发关注。8月6日,张继科发布视频回应为什么要开课教乒乓。据媒体报道,此前张继科训练营由宁波每日体育俱乐部举办。 天眼查App显示,宁波每日体育有限公司成立于2019年11月,法定代表人为陈友兴,注册资本1000万人民币,经营范围含体育赛事策划、体育竞赛组织、组织体育表演活动、体…

    2024年8月6日
  • 硬核拼科技,康师傅持续坚守抓食安

    硬核拼科技,康师傅持续坚守抓食安

    2023年3月18日
  • #徐峥陶虹名下一公司拟注销# #徐峥陶虹共同持股公司拟注销#

    天眼查App显示,近日,北京七剑文化传媒有限公司新增一则简易注销公告,公告期为9月4日至9月24日。 该公司成立于2016年11月,法定代表人为刘瑞芳,注册资本600万人民币,经营范围包括组织文化艺术交流活动、会议服务、企业管理等,由刘瑞芳、陶虹、徐峥共同持股。 天眼查信息:https://www.tianyancha.com/company/3006848…

    2025年9月24日

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信