arXiv cs.AI· Nishtha N. Vaidya, Stephan Grimm, Thomas Hubauer, Thomas A. Runkler·· 2026-10-02AI 评分35
基于本体与推理机验证的科学 AI 大语言模型推理评测基准
Ontology-Grounded, Reasoner-Verified Benchmarks for Evaluating LLM Reasoning in Scientific AI
AI 导读
研究者提出一种从 OWL 2 本体自动生成多选题基准的流程,干扰项经 OWL 推理机形式化验证,用于评测大语言模型的科学逻辑推理能力。该流程在 Pizza、PMDco 和 DOID 本体上分别生成 112、2,491 和 15,216 道题目。对 6 款大语言模型的零样本评测显示准确率为 41.1% 至 76.8%,体现出高挑战性与区分度。
来源:arXiv cs.AI · arxiv.org