捕鱼168电玩城

新智元报道⑧、【新智元导读】OpenAI发布新基准HealthBench⑮，联手60个国家262名执业医生①，树立新的「AGI标志性用例」②。OpenAI o3碾压Grok 3和Gemini 2.5 Pro⑤，成功登顶⑫。而最强AI几乎达到了人类医生最佳水平⑧！

最强AI⑮，已击败了人类医生⑤。

就在刚刚⑮，全球60个国家❸，262名执业医生共同上阵⑦，联手OpenAI打造出「最具AGI标志性」的AI健康系统评估标准——HealthBench⑥。

这个基准包含了5,000个基于现实场景的健康对话⑳，每个对话都有医生定制的评分标准⑯，来评估模型的响应❶。

论文地址：https://cdn.openai.com/pdf/bd7a39d5-9e9f-47b3-903c-8b847ca650c7/healthbench_paper.pdf

在参战的所有顶尖模型中▓，o3拿下了最高分⑤，Grok 3位列第二⑭，Gemini 2.5 Pro位列第三⑯。

值得一提的是⑱，在AI辅助下⑮，医生的诊断准确率提升了近4倍❶。甚至⑭，o3⑲、GPT-4.1回答质量超越了医生的水平⑩。

人类免疫学家Derya Unutmaz高度评价道⑦，「这个关键的评估基准⑩，将为AI医生铺平道路⑬。我们现在正处于一场改变医学未来⑪，拯救数百万人生命的革命开端」⑥。

AGI关键要素⑦，③、医疗AI「标尺」⑱、OpenAI的Health AI团队负责人Karan Singhal⑪，在X上介绍了HealthBench的特点①，并给予了极大的期待：

希望这项工作的发布⑭，能为AI朝着改善人类健康的方向发展提供有力引导❸。

改善人类健康⑯，将是通用人工智能最具决定性的影响之一⑤。

但要实现这一目标⑱，必须确保模型既有用又安全⑳。专业评估对理解模型在医疗场景中的表现至关重要⑨。

尽管学术界和产业界已付出巨大努力⑦，但现有评估体系仍存在三大局限：

未能还原真实医疗场景⑯、▓、缺乏基于专家意见的严格验证③、

难以为前沿模型提供提升空间⑰。

OpenAI团队秉持AI在医疗领域评估的三大核心信念⑯，由此设计出HealthBench：

有现实意义⑯、：评分应反映真实世界影响⑰。突破传统考试题的局限①，精准捕捉患者与临床工作者使用模型时的复杂现实场景和工作流程⑳。

值得信赖⑩、：评分须真实体现医师判断⑥。评估标准必须符合医疗专业人员的核心诉求与行业规范❶，为AI系统优化提供严谨依据①。

未饱和③、：基准测试应推动进步❸。现有模型必须展现显着改进空间⑤，持续激励开发者提升系统性能⑪。

在过去一年中⑬，OpenAI与来自26个医学专业⑰、在60个国家拥有执业经验的262名医师合作⑲，共同构建了HealthBench评估体系⑱。

HealthBench主要面向两个群体：

研究社区：旨在推动形成统一的评估标准⑳，激励开发出真正有益于人类的模型

2. 医疗领域：提供高质量的证据⑩，帮助更好地理解当前和未来AI在医疗中的应用场景与局限性

与以往那些评估维度较为单一的医疗基准不同⑬，HealthBench支持更具实际意义的开放式评估❶。

新研究有很多有趣的发现①，包括医生评分基线研究等❷。

o3冲榜⑱、媲美人类医生❶、这项健康基准HealthBench提出的主要目的❸，便是为当前⑯，甚至未来顶尖LLM提供性能可参考依据⑰。

在研究中③，OpenAI团队评估了多个模型⑤，包括o3⑧、Grok 3⑤、Claude 3.7 Sonnet等②，重点考察其在性能⑩、成本和可靠性方面的表现②。

性能①、根据现实世界健康场景的不同子集②，即「主题」④，以及体现模型行为的不同维度⑲，即「轴」⑧，所有模型进行PK⑭。

整体来看⑮，o3表现最佳⑬，超越了Claude 3.7 Sonnet和Gemini 2.5 Pro⑨。

此外⑮，在最近几个月里▓，OpenAI前沿模型在HealthBench上的表现提高了28%⑫。

这一提升⑥，对模型的安全性和性能来说③，比GPT-4o和GPT-3.5 Turbo之间的提升更大❷。

成本①、接下来⑤，研究团队还在模型大小和测试时计算scaling轴上▓，研究了模型的成本与性能③。

可以看到③，4月份OpenAI发布的模型❸，刷新了性能成本SOTA⑤。

研究还观察到④，小模型在最近几个月里⑭，得到了显着的改进②，

尽管成本仅为GPT-4o的1/25⑲，GPT-4.1 nano的表现仍优于后者⑯。

比较低④、中⑱、高推理水平下的o3▓、o4-mini和o1模型▓，结果显示测试时计算能力有所提高①。

其中▓，o3与GPT-4o之间的性能差距甚至超过了GPT-4o与GPT-3.5 Turbo之间的差距⑯。

可靠性⑰、在医疗领域②，可靠性至关重要——一次错误回应可能抵消许多正确回答⑨。

因此⑯，OpenAI在HealthBench上评估了各模型在k个样本下的最差表现▓。

也就是说❸，在给定示例的n个响应中⑭，最差的得分是多少②？

结果发现⑬，o3模型在16个样本时的最差分数超过GPT-4o的两倍▓，展现出更强的稳健性和下限表现⑨。

HealthBench系列

此外⑥，OpenAI还推出了HealthBench系列的两个新成员：HealthBench Hard和HealthBench Consensus▓。

· HealthBench Hard专为更高难度场景设计⑬，问题更具挑战性④；

· HealthBench Consensus由多位医生共同验证⑰，确保评估标准的专业性和一致性⑦。

o3和GPT-4.1在HealthBench Consensus错误率⑰，比GPT-4o显着降低❸。

在HealthBench Hard上⑤，表现最好的模型得分仅为32%①，这表明它为下一代模型提供了一个有意义且具挑战性的目标②。

AI与医生正面交锋⑲、那么⑰，这些大模型能够媲美⑤，甚至超越人类医生的专业判断❶？

为此⑧，OpenAI在研究还展开了一场人机对决测试❸。

262名专业医生被分为了两组：

· 一组医生可以在不使用AI工具的情况下查阅网络资源⑪，撰写最佳回答⑳。

· 另一组医生则可以参考OpenAI的模型生成回答①，自由选择直接修改或完全重写⑦，提供更高质量的回复⑧。

随后⑬，研究团队将这些医生撰写的回答与AI模型的回答进行评分对比⑱，评估它们在准确性❶、专业性和实用性等方面的表现❶。

关键发现如下：⑳、2024年9月模型⑱、在测试o1-preview❸、4o时③，他们发现仅依靠AI生成回答⑭，优于没有参考任何AI医生的回答⑥。

更令人振奋的是❷，当医生参考AI回答并加以优化后⑲，他们的回答质量显着超越了AI模型本身⑳。

这表明⑭，❶、人类医生的专业判断⑩，在⑨、辅助下能产生最佳效果

2025年4月模型⑥、这次实验中⑯，研究人员让医生参考最新o3⑭、GPT-4.1模型的回答③，试图进一步提升回答质量⑧。

然而❸，结果令人意外：▓、医生的优化回答与⑪、原始回答相比⑲，质量上没有显着提升⑰。

而当前⑥，AI模型已足够强大⑮，其回答质量几乎达到了人类医生最佳水平⑲。

GPT-4.1参评❶、远超人类平均水平❶、为检验基于模型的评分器能否精准评判评分标准⑯，OpenAI邀请医生对HealthBench Consensus中的模型回答予以审阅③，以确定这些回答是否符合相应评分标准⑭。

基于这些医生的反馈⑭，研究团队构建了所谓的「元评估」❸，即评估模型评分与医生判断之间的一致性⑱，重点衡量以下两点：

1.模型评分器与医生之间的一致性：模型在判断一个评分标准是否被满足时⑩，是否与医生达成一致⑬；

2.医生之间的一致性：多位医生对同一模型回应的评分是否一致❸。

评估结果表明⑤，模型评分器与医生之间的配对一致性程度⑨，和医生之间的配对一致性

程度相当❸、这说明HealthBench使用的模型评分方法在很大程度上能够代替专家评分⑱，具有可信度和专业性⑲。

基线模型❶、OpenAI将34条共识评分标准的数据按七大主题进行分组⑬，评估模型评分器与医生评分之间的一致性⑥，并通过三种方式建立对照基线：

典型医生⑨、为了估计人类专家之间的评分一致性⑮，需要对比每位医生的评分与其他医生的评分⑭，并计算MF1分数⑳。

也就是▓，用与模型相同的方式对医生进行评分⑭，仅统计该医生参与评估的对话示例⑯，且不使用该医生自己的评分作为参考❶。

注释：在分类任务中▓，宏平均F1分数是对每个类别的F1分数进行不加权平均的结果⑪。

MF1适用于类别不平衡的元评估任务⑱。

表5按主题报告了加权平均的医生MF1分数⑱，权重基于每位医生参与的元示例数量⑳。

个体④、医生⑧、OpenAI还在每个主题下报告了每位医生的MF1分数③。

图12展示了这些医生评分分数的分布情况⑲。

通过这些个体分数⑲，❷、模型评分器在每个主题下的MF1分数被

表示为医生分布中的⑤、百分位数⑰，以更直观地理解模型评分表现在「人类专家水平」中所处的位置⑪。

这些基线设定让我们能够客观评估模型评分系统的可靠性⑧，验证其是否达到了与医生相当的专业判断水平②。

结果：GPT-4.1远超普通医生

如表5所示▓，在所有主题上⑰，GPT-4.1作为评分模型的表现

均明显优于随机基线⑨、更具体地说：⑫、在7个主题中的5个中⑦，GPT-4.1的评分表现超过了医生平均水平❸；

在6个主题中⑫，GPT-4.1的表现处于医生评分分布的上半区间▓；

在所有主题中⑲，GPT-4.1的评分能力都高于医生群体的下三分之一⑩。

这些结果说明▓，GPT-4.1作为基于模型的评分器⑨，其表现已能与医生专家的评估相媲美②。

从图12可以看到⑨，不同医生之间的评分表现差异显着⑪，说明医生间本身也存在一定主观性和评分风格的差异⑦。

总的来说⑱，只要满足以下条件⑰，基于模型的评分系统可以与专家评分一样可靠：

基础数据真实⑬、多样且注释充分⑪；

元评估设计合理⑨；

评分提示和评分模型经过精心挑选▓。

由于GPT-4.1在无需复杂推理模型带来的高成本和延迟的情况下❸，就已达到了医生级别的一致性表现❷，因此它被设置为HealthBench的默认评分模型⑱。

模拟真实场景②，多维度评估

结合模型合成生成与人工对抗测试方式⑱，OpenAI创建了HealthBench⑬，力求贴近真实场景⑬，模拟真实世界中人们使用大模型的情况⑳。

对话具有以下特点：⑯、多轮交互⑦，更符合自然对话流程⑳、多语言支持⑬，覆盖不同语言背景⑱、角色多样④，既包括普通用户⑭，也包括医生

涵盖多个医学专业领域与场景

精心挑选⑰，具有②、一定难度❷，避免模型轻松「答对」❶、这个基准的目标是推动更真实⑭、更全面的AI健康对话能力评估⑱，让模型在实用性与安全性之间达到更好的平衡❷。

HealthBench使用「评分标准式评估」方法：

每个模型回答都会根据该对话特定的⑧、由医生撰写的评分标准进行打分⑫。

这些评分标准详细说明了「完美回应」应包含哪些信息⑳，或应避免哪些内容③，比如：应提及某个医学事实④，或避免使用不必要的术语⑨。

每一条评分标准都有对应的分值权重③，根据医生判断该标准在整体回答中的重要性而设定⑫。

整个HealthBench数据集中包含

48,562条独立评分标准⑧。

HealthBench中的对话被划分为七大主题⑬，例如急诊②、应对不确定性②、全球

健康等⑫。

每个主题下都包含多个相关示例⑮，每个示例都配有对应的评分标准①。

以下是一些数据集的示例▓。

左右滑动查看❶、每一条评分标准都对应一个评估维度❷，用于界定该标准评估的是模型行为的哪个方面❶，例如：

准确性❸、沟通质量②、信息查找与澄清能力⑰、这种结构化的设计⑩，让HealthBench能够细致⑯、多角度地评估AI模型在不同医疗场景中的表现❶，反映在实际应用中的可靠性与实用性⑩。

模型的回答由GPT-4.1担任评分者⑥，根据每项评分标准判断是否达成⑧，并根据满足标准的总得分与满分比值①，给出整体评分④。

HealthBench涵盖了广泛的医学专科领域⑬，包括：

麻醉学④、皮肤病学⑩、放射诊断学⑫、急诊医学⑤、家庭医学⑳、普通外科⑰、内科⑮、介入与放射诊断学⑱、医学遗传与基因组学❶、神经外科③、神经内科⑨、核医学⑳、妇产科学⑯、眼科学▓、骨科⑨、耳鼻喉科⑳、病理学❶、儿科学⑭、物理医学与康复❶、整形外科⑯、精神病学❶、公共卫生与预防医学⑦、放射肿瘤学⑨、胸外科⑲、泌尿外科①、血管外科⑯。

这些专科的覆盖确保了HealthBench在临床广度和专业深度上的严谨性❷。

整个HealthBench构建过程涵盖了重点领域筛选⑬、生成相关且具有挑战性的案例样本❸、案例标注以及各个环节的验证工作❸。

参考资料：

转载：感谢您对电玩城捕鱼种类都有的软件网站平台的认可▓，以及对电玩城捕鱼种类都有的软件原创作品以及文章的青睐❶，非常欢迎各位朋友分享到个人站长或者朋友圈①，但转载请说明文章出处“来源电玩城捕鱼种类都有的软件”⑤。

很赞哦⑱！