GDPval-AA:大模型在真实世界任务中的“经济价值”评测基准
2025年以来,大语言模型(LLM)的评测方式正在发生深刻变革。传统的学术基准(如MMLU、HumanEval)虽能衡量模型的知识储备和推理能力,但越来越难以反映模型在实际工作场景中的表现。OpenAI在2025年9月推出的GDPval基准,将焦点转向“具有经济价值的真实任务”,而第三方独立机构Artificial Analysis在此基础上开发的GDPval-AA,进一步引入了agentic(代理)能力评估和ELO排行榜,成为当前最受关注的“实用性”评测基准之一。
截至2026年2月,GDPval-AA排行榜上,Anthropic的Claude Opus 4.6已登顶,这也引发了业界对大模型真实生产力的新一轮讨论。本文将带你全面了解GDPval-AA的来龙去脉、设计理念、当前表现以及未来意义。
GDPval:从“考试”到“工作”的评测转向
GDPval的全称是“Gross Domestic Product Value”,灵感来源于宏观经济指标GDP。它由OpenAI推出,旨在衡量AI模型在对美国GDP贡献最大的行业中,完成知识型工作的能力。
基准覆盖了9大行业(占美国GDP超过5%的部分)和44个典型知识型职业,包括:
- 制造业:机械工程师、工业工程师
- 医疗保健:注册护士、护士从业者
- 金融保险:财务分析师、个人理财顾问
- 专业服务:软件开发者、律师
- 房地产、政府、零售贸易、批发贸易、信息行业等
每个职业设计了30个任务,总数据集1320个(公开金子集220个)。任务并非简单问答,而是模拟真实工作交付物:PowerPoint演示文稿、Excel表格、法律文书、护理报告、3D设计图甚至多媒体内容。任务由平均14年经验的专业人士设计,并附带参考文件和上下文。
评估方式采用盲测专家比较:同一领域的专业人士将AI产出与人类专家产出进行对比,判断AI是“更好”“相当”还是“更差”。前沿模型已能在大约一半任务中达到或接近人类专家水平,而且速度快约100倍、成本低约100倍(考虑推理费用)。
