灵聚灵脑迅灵大模型:训练“小模型”响应“小而美”(聚灵和灵慧)

灵聚大模型Agent框架。

灵聚灵脑大模型简介页面。

张胜

广州灵聚信息科技有限公司创始人兼CEO  

张胜是广州灵聚信息科技有限公司(下称“灵聚信息”)创始人兼CEO,是南都·琶洲π少有的二次采访的嘉宾。两年前,AI大模型的发展正暗流涌动,『DeepSeek』还没面世,张胜在采访中介绍了他公司的NLP(注:自然语言处理)及ChatBot(注:聊天『机器人』️)相关技术,它们被应用于服务『机器人』️、玩具、智能家居、数字人等多个领域,不乏一些知名的头部公司的产品。

两年后,市面上的AI大模型产品越来越多,既有通用的文生文、文生视频大模型,也有解决细分行业具体场景的垂类大模型。灵聚信息也推出了自己的AI大模型——灵聚灵脑迅灵大模型,在“小而美”的路线上,追求灵活部署和快捷响应。  

AI创业

掌握应用场景才是硬道理

张胜是我国IT行业的早期从业者。1997年,他利用周末时间到学校“回炉”,深入学习计算机专业并在IT媒体里打拼。1999年,他在京创办《电脑自做》(PCDIY)杂志;此后进入赛迪集团,先后任中国电脑教育报社副社长兼高级副总编、赛迪网副总裁、《软件世界》杂志社常务副社长兼总编。

张胜的AI创业可追溯至2013年,他与另一合伙人在广州创办灵聚信息。在那个大家还在谈论移动『互联网』的年代,灵聚信息开始了AI创业,明确了“为未来的服务『机器人』️做大脑”的目标,并决定在NLP技术领域展开攻关。

张胜将公司研发出来的核心自研产品命名为“灵聚人工大脑”。它是可以将语义分析、知识图谱和认知计算等技术有机结合在一起的算法和数据集群,具备生成式和检索式知识表达能力,主要实现自然语言交互、自学习和认知等能力。

“灵聚人工大脑”广泛应用于大中型企业的企业对话式AI应用、个人对话式AI应用、数字人、服务『机器人』️及AIoT产品。他的公司作为NLP技术服务提供方,已为华为、阿里巴巴、软银『机器人』️、小米、思必驰、喜马拉雅、优必选等大中型企业的智能家居、智能音箱、手机、电视、平板、手表、车机、玩具、服务『机器人』️等产品提供智能交互服务。

在这样的技术下,人类与机器的对话不需要靠屏幕输入,只需要通过自然语言对话便可完成。这项技术现在已十分普及,而张胜是这个行业的先行者。

技术的发展是迅速的,尤其是最近两年,张胜对此深有感触。『DeepSeek』的开源,影响了AI大模型行业的发展模式。经过近两年的观察,张胜意识到,应用场景才是硬道理。对于创业公司而言,应拥有自己独特擅长的技术,结合开源技术,将技术体系落地到具体的应用场景中,这是张胜综合当下AI环境的思考。此外,头部公司对于优质数据的“无上限预算”投入,也让创业公司不得不聚焦细分行业的具体场景。  

“小模型”

对特定场景需求提供服务

灵聚信息也开发了自己的大模型——灵聚灵脑迅灵大模型。结合灵聚信息在NLP技术、语音交互技术等长达十多年的积淀,该公司形成了对特定场景需求的服务供给能力。

两年前的采访中,张胜就提到了“小模型”的概念。“当前,一些通用大模型的动辄上千亿的参数,但实际上具体的应用场景不需要这么多,只需要十几亿参数即可。”针对具体场景需要,灵聚信息只训练“小模型”。“小模型”不仅实现了成本可控,也可以灵活部署和快捷响应,实现了“小而美”的效果。据介绍,灵聚人工大脑经典技术基于开放域NLU、三元组知识图谱和精准生成式模型,可以做到精准生成式交互。

基于这一能力,灵聚信息对外推出了灵聚Agent(注:智能体)和大模型部署的个性化定制服务,实现了内容的精准生成、高并发下的快速反应、高稳定性等多个效果。

“文生视频大模型可以发散多解,但文生文大模型对于准确度的要求特别高。”张胜介绍,尤其是在无屏幕或不依赖屏幕进行语音交互的过程中,用户只会给你七秒钟的时间,如果没有听到精准答案,便会放弃。“灵聚对话式AI是将灵聚灵脑迅灵大模型和灵聚经典Chatbot技术融合的产物,在发挥生成式大模型优势的基础上,通过经典技术生成100%精确的结果的方式,弥补了大模型在特定场景下生成内容可靠性不足的缺陷。”

高并发下的快速响应也是灵聚信息所追求和实现的效果。张胜介绍,从商业角度看,企业不可能用无限堆算力的方式来提升高并发时的响应速度。“用有限的算力实现大体量用户高并发请求时的快速响应,是近年来灵聚信息将经典NLP技术能力赋能大模型的一项成果。”

从通用到垂类,AI大模型将AI技术能力赋能给千行百业。至于接下来的计划,张胜告诉记者,灵聚信息将从行业再深入至具体场景,从B端业务向C端业务延伸,找到AI运用的更多可能性。 π

谈琶洲

琶洲有好的产业支持性政策,也云集了越来越多的头部公司,对于AI创业公司而言有良好的发展、生存环境,支持企业踏实沉稳做事。

采写:南都·琶洲π记者 代国辉

图片:受访者提供 

特别声明:[灵聚灵脑迅灵大模型:训练“小模型”响应“小而美”(聚灵和灵慧)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

真男人!潮汕网红郑建鹏结扎,眼睛红肿嗓音嘶哑,财产留给俩女儿(潮汕男人潮汕话怎么说)

有一次他们发布了一条关于“是否再要一个孩子”的调侃视频,结果评论区涌现出大量“恭喜生儿子”的留言,逼得他们不得不公开澄清,表示两个女儿已经让家庭完整,生男生女并不重要。对有些人来说,是生儿子或赚大钱;但对他而…

真男人!潮汕网红郑建鹏结扎,眼睛红肿嗓音嘶哑,财产留给俩女儿(潮汕男人潮汕话怎么说)

电商模特:赵玉琛

赵玉琛,这位来自中国的优秀电商模特,凭借其出众的外形条件、专业的镜头表现力以及敬业的工作态度,正逐渐成为行业内备受瞩目的新星。相信随着电商行业的持续发展,赵玉琛这样兼具实力与魅力的专业模特将会获得更广阔的发展…

电商模特:赵玉琛

波西·杰克逊》的跨时代魅力(《波西·杰克逊与恶魔之塔》)

影片将古希腊神话与现代美国巧妙融合,波西·杰克逊发现自己竟是海神波塞冬与凡人女子的儿子,卷入了一场关乎宙斯闪电权杖的神话危机。混血营、牛头人、美杜莎等神话生物的设定既尊重原著,又加入了导演自己的解读,为观众…

《<strong>波西·杰克逊</strong>》的跨时代魅力(《<strong>波西·杰克逊与恶魔之塔</strong>》)

阿朵《乱 “室” 英雄》曝过往:单身十年,为创作 “献祭” 爱情

这段不寻常的经历,不仅藏着她对事业的执着,更透着围更年期的她对人生的通透思考,也让这场“告别式收纳”多了几分动人的温度。 整理衣帽间时,阿朵与井胧的“换装互动”成了本期名场面:阿朵拉着井胧试穿旧演出服、戴头饰…

阿朵《<strong>乱 “室” 英雄</strong>》曝过往:单身十年,为创作 “献祭” 爱情

恋情实锤!胡彦斌亲吻易梦玲,相差16岁热恋照曝光,本人深夜回应(胡彦作品)

画面中,胡彦斌与易梦玲在马尔代夫的夕阳下亲密相拥,易梦玲主动献上一吻,胡彦斌则一手揽着她的纤腰,一手举着手机记录这甜蜜时刻。 当代『娱乐圈』️的恋情往往兼具真实性与表演性,胡彦斌和易梦玲的这出好戏,既满足了大众对明…

恋情实锤!胡彦斌亲吻易梦玲,相差16岁热恋照曝光,本人深夜回应(胡彦作品)