Qdrant推出轻量级边缘设备向量数据库(轻量级 mq)

Qdrant推出轻量级边缘设备向量数据库(轻量级 mq)

开源向量数据库和搜索初创公司Qdrant开发了一款轻量级向量数据库,专为在机器人、自助终端、移动设备和其他嵌入式系统上本地运行而设计。

Qdrant Edge使开发者能够在边缘设备上本地运行混合和多模态搜索,无需连接服务器进程或后台线程。边缘设备通常资源受限,具有高延迟、有限计算能力和最小网络访问。Qdrant在其Edge产品中实现了云原生向量数据库的核心功能。向量数据库被生成式AI模型用于响应基于自然语言的用户请求。

Qdrant首席执行官兼联合创始人André Zayarni表示:"开发者需要在做出许多决策的地方运行基础设施——在设备本身上。Qdrant Edge是专为嵌入式AI设计的全新向量搜索引擎。它将本地搜索、确定性性能和多模态支持融入到最小的运行时占用空间中。"

Qdrant表示,Edge产品提供了对生命周期、内存使用和进程内执行的完全控制,无需后台服务。它将支持进程内执行、高级过滤以及与实时智能体工作负载的兼容性。预想的应用包括具有多模态传感器输入的机器人导航、智能零售自助终端和销售点系统上的本地检索,以及在移动或嵌入式硬件上运行的隐私优先助手。

Qdrant最初将其向量存储在底层的RocksDB键值存储中,但由于固有的压缩导致随机延迟峰值,并发现由于选项过多而难以调优。因此,它用Rust开发了自己的Gridstore键值存储。这具有数据层来在固定大小块中存储值以进行快速查找,掩码层来跟踪已使用和未使用的块而无需压缩,以及间隙层来管理空间分配。

Qdrant表示,它已经看到了机器人和移动AI开发者的早期关注,这些开发者希望进行本地部署并获得比连接到中央或云向量数据库更好的性能,以及需要边缘隐私优先AI的公司。

我们了解到,从自助终端开发者的角度来看,拥有能够响应客户自然语言查询的系统可能是有利的。

Qdrant的Edge产品现在通过私有测试版提供。构建机器人、设备助手或嵌入式推理管道的团队可以在此申请。

特别声明:[Qdrant推出轻量级边缘设备向量数据库(轻量级 mq)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

霸气护母,实锤亲爹,甜馨太强了!网友:孩子心中有自己的一杆秤(霸气护妻片段)

至于贾乃亮,他在当年离婚事件中,把一件本来不大的事闹得沸沸扬扬,自己也因此成功“翻身”,现在过得相当滋润。 甜馨的评论区有网友提到,贾乃亮根本不是好丈夫,他在节目里装得像个好父亲、好丈夫,但私下里却并非如此…

霸气护母,实锤亲爹,甜馨太强了!网友:孩子心中有自己的一杆秤(霸气护妻片段)

长发万茜“杀疯”了,她发尾染绿,温婉大气,刘亦菲都被比下去了

这种积极向上的心态,不仅为自己赢得了更多赞誉,也传递了满满正能量。她不仅在学业上取得了优异的成绩,更在各种校园剧和话剧中崭露头角。 事业上的成功,并没有让万茜迷失自己。这种积极向上的心态,不仅为自己赢得了更多…

长发万茜“杀疯”了,她发尾染绿,温婉大气,刘亦菲都被比下去了

被老板催文案的打工人,有了它效率暴涨?快试试(老板催工作该怎么回复)

说到这个AI文案改写软件,那可真是个好东西。说优采云这个软件,我用了大半年了,它能把我写的广告文案改得连我自己都认不出来,但是效果反而更好。优采云有个特别好的地方是它能学习你的写作风格,用久了改出来的文案越来…

被老板催文案的打工人,有了它效率暴涨?快试试(老板催工作该怎么回复)

斯坦福大学发现:为什么有些AI能越来越聪明,有些却停滞不前?(斯坦福dad)

虽然行为植入实验取得了显著成功,但研究团队意识到这种方法有一个局限性:它使用的是专门针对倒计时游戏的训练数据,可能无法很好地推广到其他类型的问题上。 A:认知行为是AI模型在解决问题时表现出的思维模式,包括…

斯坦福大学发现:为什么有些AI能越来越聪明,有些却停滞不前?(斯坦福dad)

17-18南珩就是暑假非常委屈的男主,没有之一女主恩将仇报兄弟反目(南寉的小说)

南珩这下是抱得美人归,却失去了江山,真是令人为之唏嘘!狼子野心和狠毒的心肠都在哪里呢?最可怜的还是我们可爱的女主角,居然在背后与离十六密谋,要如何了结南珩的性命!再看看南瑞,哎,有糖吃的他,一出错不仅糖没了,…

17-18南珩就是暑假非常委屈的男主,没有之一女主恩将仇报兄弟反目(南寉的小说)