**软件时代的终结,正是har...
发布者:麦子
**软件时代的终结,正是harness时代的开端**
LLM只是整个系统中最小的部分,真正干活的是围绕它的harness。 从demo到生产级Agent,有7个组件将二者区分开来: 上下文与记忆:模型所看到的内容。通用模型需要定制化的检索,为放射科医生获取上下文的系统,与为律师助理获取上下文的系统是不同的。与之并存的,是上下文数据库:一本关于企业如何运作的“食谱”。 工具与行动:模型如何行动。配方描述了要做什么,工具则是执行操作的原料与器具。MCP已成为连接组织,一个harness的质量取决于它能安全暴露多少工具源头信息加微qun3800,以及它处理工具故障的干净程度。 编排与循环:模型如何思考。思考、行动、观察、重复,规划、子Agent、重试与停止条件。 状态与持久化:当harness在第7步(共10步)崩溃时,应从第8步恢复,而非从第0步重启。 沙盒与计算:模型运行的地方,凭证存在于模型之外。 可观测性与治理:你如何信任模型,追踪、评估、护栏、人机协同。 成本与工作流优化:确定性vs不确定性,SOFA、扩缩模型,模型的能力正在趋同,最好的骑手胜出。