首页
看点啥
插画图片
首页 看点啥 从 Coder 到 Designer :电商团队数据研发 Harness Engineering 实践

从 Coder 到 Designer :电商团队数据研发 Harness Engineering 实践

2026-07-16 0

从 Coder 到 Designer:电商团队如何通过知识工程与 AI 管控框架,解决数据研发的碎片化难题,实现效率跃迁。
核心内容:
1. 数据研发面临的核心痛点:知识碎片化与流程非标准化
2. 解决方案的双引擎:知识工程与 Harness Engineering 架构
3. NL2SQL提效实践中的语义层建设与挑战应对

这是2026年的第 36 篇文章

( 本文阅读时间:约 20 分钟 )

01

项目背景

我们团队今年在 AI Data 方向共有两个命题,一个是「数据研发效率提升」,另一个是「数据价值交付」,在项目启动之初,我们面向集团内外都做了深刻的调研,公司内 AI Data 方向的建设主要是在单点提效 Agent、NL2SQL、ChatBI 数据分析这几个方向,而且大多都是在垂直领域取得了不错的效果,但是难以推广为通用方案进行应用。在这个过程中,我们发现两个共性问题:

  1. 横向拓展能力不足。 已有平台能力针对各自业务效果出色,但缺少其他业务接入的标准化接口。其他业务接入时,由于业务特性不同,只能发挥约 30% 的能力。

  2. 数据资产沉淀不足。 NL2SQL 的准确度强依赖于语义层的数据资产质量,而不同团队有着各自不同的语义组织方案,缺乏统一标准。

问题的本质在于“数据研发的知识是碎片化的,流程是非标准化的”。 每个数研同学脑中都有一套「怎么做」的经验,但这些经验难以被复用、被传承、被 AI 理解。基于这些认知,我们深刻思考了数研工作范式升级需要通过 「 知识工程的构建」和「Harness Engineering」架构设计来实现。

02

项目全景:Multi-Agent 驱动的 NL2SQL 提效实践

基于集团内调研结论,我们选择复用兄弟团队 NL2SQL 约 60% 的已有能力,需要自建的部分聚焦在我们业务域特有的:数据资产(表资产、指标资产、业务维度)、预定义 SQL 模板、业务语义知识库,以及对接业务 AI-Infra 基础能力,这套方案我们在大促场景完成落地,除去资产维护的成本,整体的 NL2SQL 的研发效率大幅提升。

语义层是 NL2SQL 的核心基础设施。它解决的是 NL2SQL 中最关键的一步:从自然语言到精确的数据语义的映射。「自然语言直接转 SQL」的成功率很难高,原因很直白:自然语言里缺少太多关键信息。因此我们引入「语义层」,走 NL2DSL2SQL 的路线:先将自然语言映射到标准化的指标-维度语义,再从语义生成 SQL。

语义层建设面临两大核心挑战:指标命名混乱影响AI效能、数据资产在使用过程中会持续劣化。针对此前存在的指标歧义问题,我们目前采用的是先治理再录入的原则,由核心的数研专家同学负责核心指标资产的数据建模和注册,后续注册指标中心的语义资产都需要经过他们的确认才能录入,后续我们计划通过「标准名称+别名映射+语义边界」规范体系,系统性解决「成交金额/GMV/交易额」等同义词混用、「活跃商家/有效商家」等近义词混淆导致的RAG召回偏差和AI出码错误。同时构建资产防腐双循环机制——上线前由数仓小组拦截语义重复资产,上线后通过定期资产健康度评估,动态清理冗余资产等动作来保证语义资产层的质量。

我们将 multi-agent 体系进行了升级,基于智能体实现工程能力串联,完成生产级数研方案交付,工作流采用顺序协作模式和反馈循环模式的组合(核心节点人工干预)完成整体的需求交付工程串联:

这套方案的核心在于「知识工程的搭建」和「Harness Engineering」的架构方案,下面针对这两个部分的实现进行重点介绍说明。

03

知识工程:让 AI 「有据可依」

在数据研发场景下,如果我们都讲不清楚需求是什么、能提供的数据资产有哪些,AI 肯定无法完成我们的诉求。知识工程的核心是将数研专家的「数据研发思路和经验」转化为 LLM 易于理解的结构化知识。这需要建设一套完整的知识体系,让 AI 在执行每一步时都能准确地检索和引用正确的知识;要求构建包含专业术语(语义层)、方法论(Spec/Plan/Task知识结构)及协作规范的三层架构:

  1. 方法论层:通过Spec指导需求分析、Plan规范技术方案、Task定义执行标准,形成"文档即接口"的多Agent协同机制。各阶段文档既是输出成果,又是下一阶段输入,实现SPEC→PLAN→SQL的链式生成。

  2. 协作机制:采用文档状态机驱动8阶段研发流程,结合人工校验形成"需求经验沉淀-能力提升-效率提升"的飞轮效应。关键技术组件包括:AGENTS.md:记录协作规范、Skills引擎:执行核心操作、Knowledge库:沉淀研发经验

  3. 执行原则:基于数研经验初始化知识体系,并通过需求调试持续优化。NL2SQL能力栈遵循"文档驱动研发+持续自迭代"原则,计划于4月底接入生产环境。

该架构通过结构化知识沉淀(三层体系)、流程化协作约束(状态机)、经验化能力进化(飞轮效应),实现AI在数据研发场景中的可控执行与持续进化。

需求如何交付 

我们设计了一个三层的质量保障架构,让复杂的数据研发流程更靠谱、更高效。这三层体系就像三道安全网,既保证了研发质量稳定,又能让团队越干越熟练,效率自然就提上来了。

第一层流程标准化:有点像搭积木。通过配置文件和技能清单把常用流程固定下来,这样大家做事有章可循,效率自然就上去了。

第二层质量把关:我们用详细的技术规范+人工复核,就像给AI加上双重保险,既能规范输入输出,又能及时发现那些容易出错的地方,最大限度避免AI「脑补」出问题。

第三层是知识管理:平时工作中积累的业务经验和调优方案都会被系统化沉淀下来,慢慢就形成了一套可复用的知识库,相当于给团队打造了一个「经验宝库」。

经验如何消费

知识工程最重要的是「知识是否在持续生长」。我们设计的闭环机制确保每一次研发过程本身就是一次知识生产过程。

  1.  研发即沉淀。 每完成一个数据需求,过程中产出的 SPEC、PLAN、SQL、验证报告都自动归档到 Archival Memory。新增的指标定义自动进入语义资产库。踩过的坑记录到 anti-patterns.md。这样,团队的知识资产随着项目推进自然增长。

  2.  从「人可用」到「AI可食」的转型。 传统的数据资产是为人设计的 —— 人能看懂就行。但 AI 需要的是严格结构化、语义明确、可机器检索的资产格式。这要求我们在资产维护时,不仅定义「这个指标是什么」,还要定义「这个指标的 DWD 表达式是什么」「它依赖哪些上游表」「它的计算结果取值范围是什么」。

  3.  长期收益曲线。 资产维护在初期投入较大,但这是一次性的建设成本。随着资产的持续积累,后续的研发效率会持续提升,线上运维也会越来越轻松。更重要的是,当团队人员离职或跨业务 backup 时,沉淀的知识资产不会随人离开。知识工程的收益与时间成正相关。

目前这套方案通过定时任务调度需求过程澄清日志和复盘,将每个需求研发的过程经验进行沉淀。通用经验被沉淀到 Agent 的核心配置文件中,不同业务域的经验则沉淀在不同业务域的目录下,按照后续的需求类型进行动态渐进式加载业务域知识。

04

Harness Engineering:让 AI 「稳定可控」

什么是 Harness Design

当模型能力不再是瓶颈,决定 AI 智能体性能上限的,是围绕模型构建的整套外部系统。Harness Design(管控框架设计)的核心目标不是让模型变得更聪明,而是确保 AI 在复杂任务中稳定、安全、可回溯地运行,并持续产出高质量结果。 通过结构化控制而非算法优化,保障智能体在动态环境中的可靠性与结果可解释性。

Harness Engineering 的本质是一种工程架构设计。它通过以下手段实现管控:

与传统 CI/CD Pipeline 相比,Harness Engineering 需要额外处理的核心挑战是AI 的不确定性。 传统 Pipeline 中的每个步骤是确定性的(编译要么成功要么失败),而 AI Agent 的每个步骤都可能产生意料之外的输出。Harness 的设计就是为了在这种不确定性中建立秩序。

Multi-Agent 编排架构

我们构建了一个 7 Agent 协同的工作流,工作流采用顺序协作模式和反馈循环模式的组合,关键节点的人工 Gate 审批。AI 做执行,人做决策。 在数据研发这种对准确性要求极高的场景中,完全自动化是不现实的,也是不负责任的。Gate 机制确保了关键决策点始终有人类参与。

稳定性工程(应对策略、空间隔离、配置治理)

稳定性是 Harness Engineering 最核心的设计目标。幻觉是 AI Agent 最危险的问题。我们在实践中遇到的典型案例:子 Agent 使用 qwen 作为底层模型时,被要求查看官方文档核对配置方案。官方文档读取失败,但 Agent 报告「检查通过」,这就是模型幻觉。Agent 声称完成了任务,但实际上什么都没做。

应对策略

  1. 技能幻觉检测 Hook:在每次技能执行后,自动对比 Agent 声称的执行结果与实际的系统状态。如果 Agent 说“文件已创建”,就去检查文件是否真的存在;如果说"API调用成功",就校验返回值是否合理。

  2. 执行结果强制校验:所有子 Agent 的关键操作必须产出可验证的产物(文件、数据、状态变更)。仅凭 Agent 的文本回复不能作为任务完成的依据。

  3. 日志必看原则:养虾技巧中最重要的一条:一定要看日志。Agent 的每个操作都需要去检查配置或改动是否真正更新。调试完的工作流换模型或则业务类型都要经过重新的测评

空间隔离

工作空间管理混乱是导致脏数据和重复需求失效的常见原因。我们建立了严格的隔离机制:

配置治理

配置文件是 Agent 系统的「生命线」。~/.openclaw/workspace 配置丢失可能导致整个工作流失效。

自动化自我迭代:心跳机制

自动化自我迭代是 Harness Engineering 的高级目标。其核心思想是:Agent 不仅执行任务,还能从执行结果中学习,自动优化自身的行为。我们设计的心跳机制包含三个层次:

  1.  第一层:执行监控。 Agent 在运行过程中定期(心跳周期)回顾近期的执行历史,包括成功率、失败原因、用户修正记录等。这是最基础的健康检查。

  2.  第二层:模式识别。 基于执行历史数据,识别反复出现的问题模式。例如:某类指标的 RAG 召回准确率持续偏低,某个 SQL 模板的校验通过率不高,某个业务域的需求澄清环节返工率高。这些模式揭示了知识库或规则配置的薄弱环节。

  3.  第三层:自动优化。 根据识别出的模式,自动调整 Agent 的行为:

最关键的一点是:人工修正 Agent 行为时产生的反馈,会被自动捕获并写回到知识库和规则配置中。这实现了「以 Agent 养 Agent」:在执行过程中告诉 Agent 少了哪些步骤,Agent 自己更新配置文件,下次执行时自动包含这些步骤。通过人对大模型的反馈,实现大模型的「经验升级」。

05

演进方向与展望近期:Multi-Agent 工作流落地

4 月 2 日开始 OpenClaw Multi-Agent 工作流联调,计划 4 月底开放给团队数研同学使用。近期重点:

中期:知识工程与 Harness 成熟化

知识工程方向:

Harness Engineering 方向:

ChatBI 建设:

长期愿景:AI 的经验升级与知识复用

经验升级的闭环。 通过 Harness Engineering 的心跳机制和知识工程的沉淀机制,构建「执行 -> 评估 -> 优化 -> 再执行」的持续进化循环。每一次人对大模型行为的修正,都不应该是「一次性的纠偏」,而应该自动转化为知识库中的永久条目或规则配置中的约束更新。AI 的能力随使用而增长,而不是停留在初始状态。

从单团队到跨团队的知识复用。数据团队沉淀的知识体系和 Harness 框架,其设计本身就是面向可复用的。语义层的分层设计(业务规则库、元数据知识库、SQL 规范库)可以在保留核心架构的同时,替换业务域特有的知识内容。其他团队接入时,只需要完成自身业务域的资产建设,就能复用整套工作流和管控框架。

研发范式的根本转变。 最终的愿景是实现「只做选择,不做配置」的理想画面。数研同学的角色从「写代码的人」转变为「做设计的人」:人专注于需求理解、方案选型、质量决策,AI 负责资产检索、代码生成、环境部署、数据验证等一切可自动化的执行工作。知识工程确保 AI 「做对事」,Harness Engineering 确保 AI 「稳定做事」,两者协同构成数据研发 AI 化的完整技术底座。

06

项目总结

AI 在数据研发领域的落地,不是一个模型能力问题,而是一个工程化问题。知识工程解决「AI 凭什么能做对」,Harness Engineering 解决「AI 如何稳定运行」,两者缺一不可。从 NL2SQL 到 ChatBI 的延伸,则将这套能力从「服务数研同学」拓展到「服务业务用户」,实现数据价值的全链路交付。在这个过程中,知识不断沉淀、Agent 持续进化、工程框架日趋稳健 — 这才是 AI + 数据研发的可持续发展路径。

欢迎留言一起参与讨论~

登录查看剩余 70% 内容

喜欢(0)

上一篇

ycyn蓝宝石冰点脱毛仪真的能长效抑毛吗

ycyn蓝宝石冰点脱毛仪真的能长效抑毛吗

下一篇

为什么很多公司的AI转型会卡在中层 - AI Native 组织进化 6 问之五

为什么很多公司的AI转型会卡在中层 - AI Native 组织进化 6 问之五
猜你喜欢