(相关资料图)
品玩 6 月 8 日讯,由伯克利大学主导一个团队 LMSYS Org 近日发布了一个针对大语言模型的基准平台 Chatbot Arena。
据悉,该平台采用匿名、随机的方式进行对抗评测,评测方式基于国际象棋等竞技游戏中广泛使用的 Elo rating system。排名通过用户投票产生,系统每次会随机选择两个不同的大模型机器人和用户聊天,并让用户在匿名的情况下判定哪款大模型产品的表现更好一些。 Elo rating system 会根据用户的选择最后判定大模型产品的积分,并以排行榜的形式出现在首页中。
目前 OpenAI 的 ChatGPT-4 排名第一,之后是 Anthropic 的 claude,同样来自 Anthropic 的 claude Instant 排名第三。
LMSYS Org 是一个松散的研究组织,由加州大学伯克利分享额学生团队组建,曾推出过大语言模型小羊驼。