意大利科学界的奇迹只是一种幻觉

阿尔贝托·巴卡尼(Alberto Baccini)、尤金尼奥·彼得罗维奇(Eugenio Petrovich)和朱塞佩·德·尼古拉(Giuseppe De Nicolao)称,在研究经费下降的情况下,引文影响力成绩提高是博弈带来的结果

十月 7, 2019
The painted dome by Andrea Pozzo, in the Church of Saint Ignatius of Loyola in Rome
Source: iStock

2010年,具有里程碑意义的大学改革深刻改变了意大利的研究体系。

改革以提高公共资金利用效率为名,削减了研究经费,减少了研究人员招聘,并引入了一个复杂的评估系统来监测和提高意大利研究的质量。

该体系的核心内容是文献统计学指标。它们不仅在部门和研究中心的评估中,而且在研究人员的征聘、晋升和评估中发挥着核心作用。例如,研究人员现在必须经历一次全国性的科学适应训练,除非他们论文的引用、h指数和产出数量这几项指标超过他们所在学科领域的全国中位数,否则不予以通过。

从表面上看,改革似乎取得了预期的效果。尽管减少了人员和经费,意大利科学界还是创造了奇迹,出版物的数量和引文影响力均有所提升。根据爱思唯尔的SciVal分析,从引文影响力来看,意大利在2012年超过了美国,在八国集团中仅次于英国,位居第二。受英国政府委托,爱思唯尔在2016年的一项报告中预测,“根据目前的发展趋势,意大利将在近期超越英国”。

与此同时,《自然》杂志8月份的一篇社论指出,“尽管意大利在研发方面的支出——约占其国内生产总值的1.3%——远低于欧盟2%的平均水平,但其研究绩效仍在不断提高”。

而且,根据意大利政府研究评估机构——意大利高校及科研机构国家评估局的说法,“意大利是设计和实施研究评估活动的国际典范”。该机构两年发布一次报告,2018年的报告称,“精密地使用多种指标”来“处理学科间的比较问题”意味着“近年来,意大利大学在教学和研究方面逐渐向更高的标准靠拢”。

然而,以文献统计学为中心的政策也有阴暗面,而且越来越明显。指标的提出带来博弈。科睿唯安发现,一些高被引研究人员事实上大量引用自己的文献。在意大利,最近的一些研究记录显示,自改革以来,某些学科领域的自引数量显著增加。

我们发表在9月份《Plos One》杂志上的研究——《文献统计学评估引发的引文博弈:国家层面的比较分析》(Citation gaming induced by bibliometric evaluation: A country-level comparative analysis),证实了意大利引文影响力最近急剧上升,实质上是一种幻象,是由2010年改革后国家引文习惯的巨大变化造成的。

为了说明实际情况,我们引入了一个称为“内部引用”的新指标,其定义为:一个国家的自我引用总数与该国在同一时期内的引用总数二者之间的比率。它不仅能追踪个人自我引用者,还能追踪国内引用俱乐部。

我们观察到,2009年后,意大利的大多数科学领域在“内部引用”这一指标上都出现了飞跃,意大利是10国集团欧洲成员里唯一一个出现这一趋势的国家。2016年,无论是在全球范围内,还是在绝大多数研究领域,意大利都成为了“内部引用”第二高和国际合作率第二低的国家,均仅次于美国。

可能的解释是,文献统计学目标刺激了大量意大利科学家,导致他们提高自引水平并加入引文交换俱乐部。

那么,这一大规模的集体引用违规案例为我们带来了哪些教训呢?有人可能会说,采用更好的指标可以抵消文献统计学目标带来的不利影响。然而,从计算中排除自我引用,只会增强创建引用俱乐部的动力——从本质上讲,这是难以捉摸的。

最后,正如古德哈特(Goodhart)的著名格言所言:当一个衡量标准成为目标本身时,它就不再是一个好的衡量标准了。我们的研究结果表明,无论出现任何新指标,都注定会有新形式的战略来应付,从而形成无休止的有悖常理的循环。

奇迹不会发生。没有魔杖——无论是文献统计学学还是其他指标——能够在削减投资的同时提升一个国家的科学表现。

阿尔贝托·巴卡尼是锡耶纳大学的一名教授,尤金尼奥·彼得罗维奇(Eugenio Petrovich)是锡耶纳大学经济和统计系的博士后研究员。朱塞佩·德·尼古拉是帕维亚大学电气、计算机和生物医学工程系的教授。

登录 或者 注册 以便阅读全文。

请先注册再进行下一步

获得一个月的无限制地在线阅读网站内容。只需注册并完成您的职业简介.

注册是免费的,而且非常简单。一旦成功注册,您可以每个月免费阅读3篇文章。:

  • 获得编辑推荐文章
  • 率先获得泰晤士高等教育世界大学排名相关的新闻
  • 获得职位推荐、筛选工作和保存工作搜索结果
  • 参与读者讨论和公布评论
注册

相关文章

Reader's comments (1)

Pigs don't get fatter just because you keep weighing them!

欢迎反馈

Log in or register to post comments

评论最多