跳到正文
事件追踪已归档

Cohere发布CulturalRiddles文化基准

首次报道 最新进展 2 篇报道,2 个来源

事件综述根据 2 篇报道整理,10月22日更新

Cohere 发布文化基准 CulturalRiddles,用原创谜语测试大语言模型对多元文化的理解。据其论文介绍,基准由人类通过社区参与式创作,覆盖 62 种文化(45 个国家、51 种语言);研究测试了 28 种 LLM 配置,前沿模型在部分文化群体中准确率最高仅 22%。 Cohere 称,大语言模型在数学和科学上越来越强,但许多模型连一个简单的谜语都解不开。全部材料已公开,并设有开放贡献流程以扩展语言与文化覆盖范围。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. CohereCohere发布CulturalRiddles文化基准

    阅读这篇报道

全部报道

2 篇,点开看摘要
Cohere 发布 CulturalRiddles 文化基准Cohere厂商自述未入选

大语言模型在数学和科学上越来越强。但令人意外的是,许多模型连一个简单的谜语都解不开。 @Cohere_Labs 的 CulturalRiddles 是一个新基准,将文化作为交织的、切身经历来测量。秉持开放科学精神,它由一支意想不到的团队打造。

阅读这篇报道
CulturalRiddles:覆盖 62 种文化的谜语基准发布Hugging Face Daily Papers预印本未入选

CulturalRiddles 是一个由人类通过社区参与式创作、覆盖 62 种文化(45 个国家、51 种语言)的原创文化谜语基准,用于评估大语言模型对多元文化的理解与应用。研究用自动评测和大规模人工评估测试了 28 种 LLM 配置,前沿模型在部分文化群体中准确率最高仅 22%。全部材料已公开,并开放贡献流程以扩展语言与文化覆盖范围。

阅读这篇报道