
允中 发自 凹非寺赌钱赚钱app
量子位 | 公众号 QbitAI
在大模子的多种应用情势中,执行专科功能的行业Agent,无疑是升迁坐蓐效劳、已毕价值创造的利器。
可是,千行百业包含着大皆的私域学问、大家教化和器具使用逻辑,使得智能体的行业应用构建存在千般门槛。
为了升迁设立效劳,业界提倡了诸如Skills、OpenClaw等优秀的工程框架,使得专科Agent的设立门槛日益裁减,也让针对Agent应用的多维度算法优化需求愈发突显。
在此配景,华为诺亚方舟实验室近期在官网更新了面向行业应用的算法包MindScale,这别称堂交融了实验室的算法立异基因与华为行业智能化业求执行教化。
其系统性梳理了Agent期间将“大模子”编削为“坐蓐力”的算法本领挑战,并给出了对应的本领论文与昇腾代码已毕,为行业用户与设立者提供了径直的“上手指南”。

制约行业Agent发展的四大中枢挑战
在MindScale名堂中,磋议东说念主员识别了在行业普及Agent应用的四大挑战:
职责流手工惊叹:依赖大家将业务功令“翻译”为Agent职责流;历史学问复用难:历史推理旅途与反馈无法灵验使Agent系统自演进;训推效劳瓶颈:大皆模子部署与迭代需求+念念考旅途变长,资本压力陡升;复杂推理测评:多步、多器具交汇推理,单精度标的无法准确反应模子效劳。已毕职责流自进化与教导词自动化闭环为了野蛮这些挑战,诺亚的磋议东说念主员与多所相助单元沿途,给出了我方的惩处决议。
举例,面向行业Agent设立中最常见的职责流(Workflow)设态度景,算法包中包含了自进化的Agent算法EvoFabric。
与手动索求职责流高度依赖大家教化不同,使用SOP2Workflow不错快速从当然话语文档与历史器具库,径直生成可执行的Workflow。
△由用户书写的网页功能测试SOP→自动生成的统统这个词Workflow
为了已毕这么活泼的Workflow生成,磋议东说念主员禁受了基于景象图引擎内核的Agent已毕,原生维持混编Agent、器具等多种图节点,维持景象的改写和分组交融处理,已毕多智能体、多器具、多缅想情势的深度混编,图引擎还维持DSL文献的导入与导出,已毕复杂智能进程的快速复制、挪动与部署。
同期,该算法框架还不错已毕基于缅想的演进——多轮执行时,缅想模块欺诈轨迹缅想,以及那时的评估扬弃酿成教化优化高下文,已毕Agent越用越好。
另一个意念念的功能,是让模子启动我方进行“prompt优化”。
领先,基于前期还是先行发布的prompt在线优化算法SCOPE,设立者不错已毕在每步推理之间进行prompt在线优化,通过注入萃取历史旅途中的灵验信息已毕教导词的快速优化,在HLE和GAIA等agentic reasoning的场景里不错得回20%以上的精度升迁。
此外,磋议东说念主员还提倡了“大模子prompt优化器”C-MOP,通过立异的样本考取与梯度更新政策,惩处了“文本梯度”的窒碍问题,已毕了基于正负例反馈的prompt自动优化,着实作念到了“反馈->演进”的prompt优化闭环。
△C-MOP:交融正误双向样本感知与时序动量梯度的教导词优化器
榨干算力潜能并适配国产硬件生态除了精度升迁,MindScale也精细面向行业场景模子的训推效劳优化,举例:
其中的TrimR用一个已预教导、指示微调的轻量考证器在线检测并截断不必中间念念路,全程无需微调大模子或考证器;配套工业级异步在线系统,适配大并发坐蓐场景。在MATH、AIME、GPQA等基准与多款LRM上,TrimR在险些不影响准确率的前提下,将推理时延显贵裁减,大并发场景最高可达约70%提速,已毕本色应用场景中的Test Time Scaling。
△TrimR:工业级念念维链动态压缩算法框架
此外,为了适配行业场景高并发的推理压力,MindScale还提供了新的基于KV Cache的推理决议。
与通用决议中KV Cache仅仅用来加快解码的“幕后器具”不同,磋议东说念主员提倡KV-Embeddings,把KV Cache视作一种“免费附赠”的轻量暗示,无需出奇贪图或存储竣工隐景象,不错在链式暗示推理(Chain-of-Embedding)和快慢念念考切换等要道场景中,基于多款主流模子上已毕性能合手平或反超专用embedding模子,同期将生成token数最高减少5.7×。
这些扬弃标明——KV Cache不仅仅加快器,更是一块尚未被充分欺诈的“念念考缓存”,为大模子推理阶段的暗示复用掀开了新的联想空间。
此外,诺亚方舟实验室与关协调作团队还在职务缅想、Agentic RAG、通用算法发现框架等多个方朝上,千里淀了大皆经过实战考试的、围绕行业智能优化的立异算法本领架构。
同期,MindScale还也包含了适配昇腾硬件的代码已毕,不错让行业设立的小伙伴们,基于国产算力已毕高精度、高效的Agent构建。
MindScale主页(或点击文末“阅读原文”):https://noah-mindscale.github.io/
华为诺亚方舟实验室主页:https://www.noahlab.com.hk/#/home