人民网
人民网

让人工智能大模型做K12学科试题,能赶上人类水平吗?

2024-05-22 08:45:59 | 来源:新华社
小字号

第1 两人世界高清完整版免费观看北京观测史上首次连续两日气温突破 40℃,23 日发布高温红色预警信号,哪些信息值得关注?

第2 小妇人电影免费观看正版殷桃

第3 交换的日子2「泰坦号」潜水器发生灾难性内爆,5 名乘员全部死亡,什么是内爆?哪些信息值得关注?

第4 最美情侣免费观看完整版高清吃相难看?南航国际航班线上选座仅6%免费,一家三口连座需付费

第5 《女生日记》在线观看中国驻俄使馆:莫斯科地区平静

第6 爱妻日记动漫广州拟分路段分时段限行电动自行车

第7 夫妇联欢第二季俄“末日将军”喊话瓦格纳:我们曾共患难,勿让敌人坐收其利

第8 夫妻之间动画图片南宁召开听证会拟降低停车费,当地市民吐槽停车贵已十年之久

第9 妻子3动漫第三季观看

第10 恋爱日记完整版在线播放好灿烂好热烈好真诚的小狗!宋雨琦230618演唱会4K近景Could it be站姐直拍!

  中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到,近日,在北京市海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异,其中,答案不唯一的主观题,由海淀教师亲自评卷。

  评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。

  北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出,在语文、历史等人文学科的考试中,模型欠缺对文字背后的文化内涵以及家国情怀的理解。面对历史地理综合题时,模型并不能像人类考生一样有效识别学科属性。相较于简单的英语题,模型反而更擅长复杂的英语题。解理科题目时,模型会出现以超出年级知识范围外的方法解题的情况。当出现无法理解的考题时,模型依然存在明显的“幻觉”。

  此外,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。

  评测结果显示,在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡的情况。在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上,对比各家公布的演示视频长度和质量,Sora有明显优势,其他开放评测的文生视频模型中,国产模型PixVerse表现优异。

  据介绍,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发。

  评测使用20余个数据集、超8万道考题,包括与合作单位共建和智源自建的多个评测数据集,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts。其中,主观题4000余道,均来源于自建原创未公开并保持高频迭代的主观评测集,严格校准打分标准,采取多人独立匿名评分、严格质检与抽检相结合的管理机制,降低主观偏差的影响。此外,为了更准确地评测语言模型的各项能力,智源专门对所有客观数据集的子数据集进行了能力标签映射。(完)

新华通讯社出品

(责编:牛镛、袁勃)

分享让更多人看到

国足 2:0 战胜巴勒斯坦| 俄方:乌试图利用瓦格纳事件反攻| “敬礼娃娃”已收到北大人大邀请| 张杰助阵杨和苏首次演唱会
返回顶部