首页 理论教育 逻辑评价模型的范式演进

逻辑评价模型的范式演进

时间:2023-06-09 理论教育 版权反馈
【摘要】:(一)逻辑评价模型的理论基础社会问题研究的传统在于渴望通过知识应用和制度创新提高自然环境和社会环境的质量,进而改善个人乃至整个人类社会的生活环境和生存能力。逻辑评价模型核心指导思想与其他理论,如目标管理,零基预算等理论相类似,同样也强调结果,以及通过必要的行动来达到效果。可以说,逻辑评价模型是在过去理论基础上,通过提供概念化系统和阵列评价设计,实现政策预期目标。

逻辑评价模型的范式演进

(一)逻辑评价模型的理论基础

社会问题研究的传统在于渴望通过知识应用和制度创新提高自然环境和社会环境的质量,进而改善个人乃至整个人类社会的生活环境和生存能力。根植于这样的研究传统,旨在解决公共领域社会问题,以社会计划为评价研究对象的政策评价研究迅速兴起,它通过运用社会科学研究方法,改善政策设计、政策实施,确定政策影响,提高政策效用,进而正确地判断和解决社会问题。

Patton(1988)指出,政策评价最显著的特征就是其固有的政治[4]。因而,使得社会计划优先于个人和团体需求得到了广泛的研究和关注。最早政策评价出现在第一次世界大战前教育公共卫生计划中。自20世纪30年代开始,社会学家开始积极运用各种研究方法评价不同领域的社会计划[5]。第二次世界大战后,伴随着政府和私人资助计划的增加,评价开始在城市发展和住房计划、科技和文化教育计划、职业培训计划、预防疾病和健康计划中获得广泛应用。并且,自此开始,政策评价开始运用到国际计划中,如生育计划、卫生和营养计划以及农村发展计划[6][7]。到了50年代末,政策评价进一步被应用于违法犯罪预防计划、心理治疗和精神药物治疗计划、公共住房计划、教育计划、社区倡议计划等其他许多举措当中。研究也开始由美国扩展到欧洲和其他工业化国家,甚至开始研究一些欠发达国家和地区的政策计划,如,亚洲计划生育政策、拉丁美洲营养和保健方案以及非洲农业和社区发展计划等[8][9]。自20世纪60年代末开始,评价研究文章和书籍数量剧增,至20世纪70年代初,以社会计划为研究对象的政策评价发展成为社会科学评价研究中一个独立的专业领域[10][11][12]

政策评价研究内容伴随着时代的发展同时发生着质的变化。研究早期,评价主要由社会研究者研究兴趣所决定。发展过程中,消费者对评价研究领域产生了显著影响。随着研究继续深入,中央和地方政府以及公共服务机构开始强调问责制和管理绩效,政策制定者、决策者以及受到政策直接或间接影响的利益相关者愈加关注政策投入与产出之间的平衡。政策制定者不得不详细描述计划内容和实施效果,这意味着政策管理方式的改变,政策管理者越来越关注政策项目的持续改进以及管理质量的不断提高。

政策评价已经超出了社会科学的学术研究领域,成为一个政治和管理的活动。随着政府和非营利部门参与社会生活领域面继续扩大化,在资金预算约束条件下,在没有利润动机和市场体系基础上,如何促进政策战略和目标的实现,如何监控和管理政策实施的过程,要求政策评价研究方法的不断改进。正如Weiss(1998)指出社会计划是相当复杂的,它是政策意图,政策执行者个性,政策实施空间,政策理论,实施机构组织结构,客户和政策活动,预算等组成的复杂系统[13]。由于许多政策是基于从业者的假设和理论推理,因而需要改进评价方法,真正建立有效的预评价和后评价分析基础上评估序理论。

Cronbach和Associates(1982)指出,政策评价中政治和科学是评价研究中不可分割的两个方面[14]。评价研究方法的改进需要依托于科学的发展和进步。20世纪60年代至70年代开始蓬勃发展的系统科学为深入探讨政策评价研究方法提供了契机。1968年贝塔朗菲的《一般系统理论》为蓬勃发展的系统运动提供了较为完整的指导纲领,70年代以自然科学为背景的各种系统理论为系统科学基础理论研究的深入发展开创了新局面,Oscar Ryszard Lange、W.Buckley、J.Gharajedaghi等学者将以社会科学为背景的系统科学研究引向深入。此后,实践的发展要求系统方法应用领域不只局限于工厂、学校或者医院的管理,而是要扩展到一个地区、一个城市或一个国家,甚至对作为一个系统的地球管理也被提上日程,要求运用系统理论和系统方法解决人类所面临的各种重大问题。解决这些问题的根本落脚点就在于通过系统科学方法,实现政策制定和资源利用,使其从扩大、维持和改善人类生活环境的社会计划出发。

在实践要求基础上,立足于政策评价和系统科学的发展和理论的相互交融,20世纪60年代至70年代,逻辑评价模型应运而生,旨在探讨如何通过系统科学与政策评价有机融合,探究政策系统内部过程,解析政策“黑箱”中资源投入与目标产出之间的关系。正如Julian(1995)等指出,逻辑评价模型提供了一个政策规划和政策评价的系统化分析模型[15]。即依据系统理论基本假设绘制地图,为政策实施提供路标,从系统角度强调政策计划如何按预期运作,何种政策活动需要安排在前,以及如何取得理想的结果[16]

(二)逻辑评价模型的理论拓展

逻辑评价模型是政策评价中的一个可视化工具,运用系统理论方法,收集政策信息和政策活动要素,处理相互关联的政策过程,通过因果关系的基本逻辑和相互联系的规划矩阵描述政策计划的系统结构。逻辑评价模型核心指导思想与其他理论,如目标管理,零基预算等理论相类似,同样也强调结果,以及通过必要的行动来达到效果。可以说,逻辑评价模型是在过去理论基础上,通过提供概念化系统和阵列评价设计,实现政策预期目标。

逻辑评价模型研究始于20世纪60年代后期,最早对模型的研究可追溯至Suchman(1967)的《关于公共服务和社会行动方案评价研究:原理与实践》[17],及Weiss,C.H.(1972)《评价研究:计划成效评估方法》[18]。研究倡导使用路径图,构建政策计划和结果之间的序列步骤,从而使这种因果模型帮助评价者识别评价过程中的变量,发现一连串序列事件中的连锁效应,并在模型构建中适时反映计划实施中的变化。

图3-1 逻辑评价模型的贝内特层次

在扩展计划影响分析中,Bennett(1976)对模型的探讨也是早期具有重要影响的研究之一,该研究使用的工具称为“贝内特层次”(Bennett's Hierarchy),如图3-1所示,可视为逻辑评价模型的先驱和分析框架雏形。Bennett's Hierarchy运用一系列的楼梯层次划分来描述计划方案所产生的影响。模型第一层次“输入”,即资源分配程序,起始于最下面的台阶。随着计划进展指向到达最上面“最终结果”台阶,即计划的长期效用或发展条件。根据贝内特层次,对于计划方案所获得效用的评价着眼点,研究指出“高层级”评价比“较低层级”评价更具有说服力[19]

通常认为,逻辑评价模型是Joseph S.Wholey(1979)在《评价:承诺与绩效》中首次提出的一种评价技术[20][21]。Bickman(1987)的研究指出,逻辑评价模型是解释在一定条件下政策如何运作,进而达到预期目标的一种可行的、合理的模型。它提供了一个更好地实现制定政策必要性评估,政策选择评估和政策绩效分析的有效框架[22]。自此,逻辑评价模型开始成为一种重要的政策评价手段确立起来。

随着政策过程认识的不断深入,逻辑评价模型也不断地调整和发展。逻辑模型开始迅速进化始于1993年响应《政府成果与绩效法令》(GPRA)的需要,这项法令试图通过实施战略规划和计划评价提高政府政策项目效益,其评价的焦点由政策实施转向政策结果[23]。自从1993年8月GPRA颁布后,政策项目更迫切地需要说明其有效性。加之,20世纪80年代至90年代,为控制通货膨胀和减少财政赤字的政府财政开支缩减,消减了大量政策计划,一些问题如政策或计划所要努力达到的目标是什么?政策或计划如何实施?哪些证据证明政策或计划优劣?开始不断被提及[24]。为解决这些问题,政策分析者开始普遍应用逻辑评价模型,搜集、选择、分析政策信息,作为政策改进的必要依据。

20世纪70年代美国国际开发署(USAID)的逻辑框架在国际上开创了逻辑建模的先例[25],之后政策制定者探讨建立了多种形式的逻辑评价模型,Kumpfer(1993)等运用社会问题陈述、干预(或相关活动)、结果3个要素刻画逻辑模型[26]。Cohen和Kibel(1991)补充增添环境要素[27],Wandersman和Linney(1991)同样认为逻辑模型中应运用条件因素代表社会需要或环境反馈,另外认为应从结果中分离出影响因素,从而在社会层面上衡量长期影响[28]。 David(1995)立足于开放系统研究角度,将社会问题陈述与环境条件相结合,推动逻辑评价模型的进一步发展[29]。 Montague(1999)定义绩效的3Rs,从而将一直隐含在模型中的目标客户因素明确地置于逻辑模型政策链中间位置[30]。 McLaughlin(1999)认为,目标客户和政策合作伙伴是政策资源转化为政策结果的必要条件,在逻辑评价模型中明确目标客户地位,有助于公共部门的评估人员和利益相关者更好地考虑和解释政策实施过程中因果效应,政策效果评定也更具针对性[31]

同时,根据政策项目的不同特点所形成的各种逻辑评价模型也被冠以了不同的名字,如推理链[32]、干预逻辑[33]、政策逻辑[34]等。逻辑评价模型概念的不断开发和利用,导致20世纪末更加广阔的实际应用阵列(见表格中参考文献)。

图3-2 逻辑评价模型的基本要素

表3-1 20世纪90年代逻辑评价模型的应用研究

续表

总之,在法令要求下,基于Bennett Hierarchy、美国国际开发署的逻辑框架和层次结构,结合新兴领域应用经验,20世纪逻辑评价模型迅速发展和进化。然而,正如,McLaughlin和Jordan(1999)指出,虽然描述逻辑评价模型具有很多方式,但是基本上可以归结为一张由投入和资源在左侧,结果在右侧,单箭头连接政策过程变量和政策结果的分析路径图[35]。2000年,凯洛格基金会(1998,2004)出版了逻辑评价模型指南,从而在一般意义上确定了逻辑评价模型的基本分析架构[36][37]

图3-3 逻辑评价模型的分析框架

(三)逻辑评价模型的优化(www.xing528.com)

逻辑评价模型以现实发展证据为基础,有针对性的描述有待政策解决的社会问题,以便更好地评价干预政策的潜在影响。Rogers(2000)、Kaplan等(2005)和Riki等(2005)都认为,通过揭示政策活动和结果之间的影响过程,逻辑评价模型为政策评价和政策质量改进提供了非常重要的工具[38][39][40]

由于其简便易行且科学有效,适用范围由政策设计推广到政策实施、政策监测和政策评价。经过多年的持续发展和创新,进入21世纪,逻辑评价模型已被公共部门工作评估人员所广泛接受[41][42],政策评估者已经充分认识到模型在解释政策资源、活动和效果之间关系的重要价值。并且,世界银行也采纳了逻辑评价模型,国际组织将它运用于各种政策项目的计划、管理和评价之中,逻辑评价模型正在更大范围内发挥着作用[43][44]

逻辑评价模型广泛应用原因在于,受制于资源的有限性,稳健的财政政策要求资金有选择性地投入到需要优先推行的社会计划中,继续强调逻辑评价模型运用的必要性;并且,由于缩减和取消那些不能说明其效率和效果的政策计划压力的持续存在,要求继续现有逻辑评价模型并不断完善,保证政策良性循环。此外,对于现存政策的不满和政治趋势的变化,要求运用逻辑评价模型设计和论证预期更具效率、更低成本、新的或修正的政策。

然而,新世纪逻辑评价模型在把握巨大机遇的同时也面临着巨大的挑战,可将其归纳为3个方面,即来源于对简单逻辑评价模型框架的质疑;来源于系统复杂性的深入认识;来源于科技创新发展的要求。面对着这些挑战,在要求评价政策取得预期结果和影响,要求探明战略和目标之间模糊相关性,要求找到影响政策实施的关键因素,要求寻求新的方法衡量政策活动因果关系的目标驱动下,学者们积极推动模型不断完善和创新,模型也体现出了更加开放性和包容性的特征。

简言之,21世纪逻辑评价模型的发展脉络,源于对简单政策评价模型的质疑,从而使得模型有机会在复杂系统理论研究中不断深化,进而更有效地应对科技创新发展的要求。

1.简单逻辑评价模型框架质疑和应对

早期运用逻辑评价模型所进行的政策评价研究中,大多数都集中在运用简单、线性方式建立模型,也有部分研究Funnell(1997)和Rogers(2000)等就探索简单的非线性模型,以便更好地规划和指导评价[45][46]。对于一些政策项目,简单逻辑评价模型是适合的,但是,争论在于,大型复杂政策项目简单模型的实用性。

Bakewell和Garbutt(2005)指出,简单逻辑评价模型在很大程度上可能只代表了一种政策变革理论,没有反映不同利益相关者的预期政策结果以及如何实现预期结果的意向[47]。 Madaus和Stufflebeam(2000)也对简单逻辑模型的可行性和作用不以为然,认为这种评价模型对大型复杂政策并没有太大意义,原因在于其基本假设,即其理论是建立在复杂混乱现实世界中运行的政策项目,所涉及的复杂关系和相互作用可以计算出来,并使用先验理论确定相关评价问题和变量的基础上[48]。 Pinnegar(2006)指出复杂政策往往太难以具体地表达和解释其目标,执行过程也太过含糊,进而难以进行有意义的评估[49]。其次,简单逻辑评价模型还假定政策处于稳定环境中,无论是理论或是实施活动中任何失误都能够通过现有证据反映出来[50]。 Eoyang(1998)等就批评到,每个参与公共政策制定的人都认为公共政策制定过程是规范和线性的,政策计划实施围绕着有序的步骤和运用规范的解决方法,这是他们信奉的理论。但是,在现实中,他们经历的政策制定和实施过程却是由令人惊讶的、不受控制的、突发的现象所构成的。信奉的理论和经验之间的区别导致了各种不愉快的结果,资源都浪费在追求完美的控制响应上,精心布置的计划最终被证明是无效的[51]

因而,尽管这些模型为政策项目提供了整体性规划和明确的框架,有益的实践指导和可供选择的评价变量,但是,却仍然不能忽视使用模型的风险性。Perrin(2002)就提醒到,简单逻辑评价模型为了观测政策结果而忽略了其他因素,包括政策背景、目标客户特点、共同实施的其他政策项目影响等。因此,简单逻辑评价模型可能夸大政策结果的贡献度,进而提供较少的、可供借鉴的信息。若用他们来制定绩效目标,有可能产生目标偏移的风险[52]

鉴于这些问题,Wholey(2003)提出了应对方法,即规定一个相对狭窄的简单逻辑评价模型适用范围,标准包括政策目标获得广泛的认同并可以精确量化,政策效果可以根据政策目标准确计量,相关人员活动及这些活动所产生的结果可以很容易地观察到[53]。可见,在严格的规定限制条件下使用的简单逻辑评价模型,更重要的意义在于为政策评价提供了一个启发式的、简化的、非精准评价模型。

2.系统复杂性深入研究和应对

认识到模型的局限性,学者们经过长期研究,探讨以理论为导向的评价[54],指出基于一个潜在的正式或非正式因果理论基础上,分析建立政策过程与政策结果之间的联系,这样的模型能够变得更加有效,内容也更加翔实[55]。然而,即使是理论驱动模型在解释复杂的,有时甚至是相互矛盾的计划结果和影响的能力也是有限的[56][57]

在讨论和使用逻辑评价模型过程中,Barnes(2003b)、Douthwaite(2003)、Pawson(2005)、Sanderson(2000)等一些评价者引入了复杂性概念[58][59][60][61]。复杂性是我们生活世界的一个关键特征,也是共同栖息在这个世界上系统的关键特征[62]。究竟什么是复杂性,目前尚无统一认识,但是,正如普利高津在《探索复杂性》专著中所指出的,简单与复杂,无序与有序之间的距离远比人们通常想象的窄得多。Edmonds(1999)指出,复杂性必须依赖于它的建模系统运用的语言[63]。 Gell-Mann(1995)同样认为,就描述的对象而言,复杂性不一定是它的固有性质,而取决于研究者在什么范围内如何进行描述[64]

事实上,在复杂的现实世界中,逻辑评价模型处理复杂性的艺术不在于创建连接一切混沌关系的逻辑评价模型,而在于知道什么时候简化,以及什么时候复杂化和怎样复杂化。

系统复杂性理论研究,加深了对政策本身和政策环境认识,复杂科学也为逻辑评价模型提供发展启示,研究表明要从了解相关环境,了解涌现,把握规则进化,把握整体性四个方面着手应对复杂性,从而推进模型整体与部分的共同进化,实现逻辑评价模型的创新和完善。

立足于环境认识角度,学者研究指出模型构建需要增加背景因素。通常情况下,评估指南中根据通用术语确定情境因素,如影响因素[65]生态环境[66]。 Innovation Network and Inc.(2007)倡导将外部因素分为政治环境、经济状况、社会/文化背景和地域方面的限制等。研究进一步指出,如果有些潜在的因素没有包含在明确地解释计划活动和结果之间关系的因果理论中,没有系统的方法确定其真实影响,可以通过定性研究方法及问卷调查方式来解决上述问题[67]

除背景因素外,复杂系统的涌现性同样在完善模型的考虑范围之内。认识到追踪非预期结果的必要性,研究指出,模型需要发展一个系统化评价指标,进而扩大以往逻辑评价模型理论解释边界。应对非预期影响,Patricia Pogers(2008)建议发展一种更加灵活的变革评价理论,指导原始模型的设计、开发、应用和改进,进而构建应急逻辑评价模型,并保证数据收集的灵活性。最终形成的逻辑评价模型模型旨在说明共同规则和方法,用于指导突发性事件的应急和响应策略[68]

把握环境,立足于规则自身进化角度,复杂性主要体现在,政策目标可以通过相互可替代政策过程因果链达到同样预期效果,导致可替代因果链出现往往是由于外在复杂的环境因素影响,即需要综合确定有利的环境中唯一有效因果路径。这方面的复杂性,Sanderson(2000)建议使用经过一段实行时间精心设计的逻辑评价模型,在不同的选定背景情况下实施,并对类似政策措施进行“比较分析”[69]。并且,政策目标达成由同时起重要作用的多重因果链组成,例如,孕产妇和婴儿保健服务计划[70]等。Chen(2004)在研究指出可运用不同因果链内部和相互之间的反馈回路完善逻辑评价模型。研究将政策概念化框架分为干预、中间决定因素和结果三个部分。并且同时将背景系统描述为从组织者和实施者出发,到相关机构和社会环境,再到服务交付和目标客户组成的逻辑链条。在这个框架中,因果理论解释政策变革链(一定条件如何影响目标效果),规范性理论解释行动链(不同组件协同工作,支持变革模型)[71]

图3-4 逻辑评价模型的系统运行

立足于整体性角度,复杂性主要体现在政策计划的多主体性。具体地,政策计划中利益相关主体的多样化。运用评价理论,Riggan(2005)在社区学校的评价研究指出,政策中涉及了一系列组成合作伙伴关系的组织机构,他们通过提供服务和帮助,从而提高学生学习能力,巩固家庭关系[72]。为解决政策内的多样性并与政策结果相联系,研究发展了逻辑评价模型,使其有能力广泛地涉及各种不同的利益相关者,融合新兴的变革,并将达成合作作为一个政策方案评价的基本组成部分。政策计划需要在多地域、多政府共同治理下实施,如2004年世界银行的控制寄生虫政策[73]等,Stame(2004)就基于这种垂直治理的复杂性对欧盟政策项目多层级治理进行了研究,指出区域内评价的实行效果不能立即在整体政策效用评价中显现出来[74]。正如Weiss(1997)指出,整体政策有一个因果链,特定地点可能依据不同实施理论对于如何激活这条因果链采取不同方式[75]。学者们倡导运用网络理论,探究组织之间、政策项目之间以及政策整体规划之间的递阶关系,进而完善逻辑评价模型研究路径[76][77]。CIRCLE(2008)就在社区能力建设项目和跨国资助计划研究中,对逻辑评价模型进行优化,使得逻辑评价模型路径图能够普遍适用于更多的政策项目和计划,并且,能够针对具体出现的政策结果把握机会,采取行动,进而解决新的问题[78]

3.科技创新发展要求应对

创新是经济和社会发展的关键因素,从20世纪末开始,各国政府更加注重科技发展优先计划,政策制定者和利益相关者愈来愈关注创新政策在经济转型中的重要作用,试图通过自上而下的方式推动创新。在创新政策评价中,研究期待在创新领域中投入的公共资源真正地促进经济持续发展。但若单纯地从成果角度出发,严格地要求政策效果的发挥,就可能违背促进创新的基本原则,阻碍达成创新的目的。正如Kankare(2008)回顾1995—1999年欧洲社会基金(ESF)在芬兰创新和网络发展对就业影响的评价研究中得出结论,专注于政策效果的评价,增加了评价研究的复杂性、模糊性,降低了透明度[79]

评价是评价主体选择适宜的评价方法,对事物状态和性质的测定。创新特性为逻辑评价模型发展和应用提供了新的机遇,创新内在不确定性以及创新资源的搜寻和选择问题是影响创新政策发展的两个重要因素[80]。因此,学者们尝试从创新本质和特点出发,分析影响因素,探究创新政策过程,在无论是单个创新项目还是创新合作,甚至是国家创新战略研究中,设计和运用逻辑评价模型,规划和检测创新政策实施,提升评价的积极性、可行性和有效性,进而改善整体创新气候。

在描述创新复杂性基础上,Douthwaite(2001,2003)探讨构建逻辑评价模型对复杂综合性项目即Striga创新管理方案进行研究。研究对象Striga是一种寄生杂草,它是撒哈拉以南非洲地区约束谷物产量最严重的生物因素。虽然在理论研究中已经获得了Striga的相关知识,但在实践中却缺乏有效的政策管理方式。并且,政策需要在多个地域内执行,当地的环境明显地影响着政策实施过程[81][82]。因而,研究中构建逻辑评价模型,并利用知识的迭代,村民和研究人员合作形成了政策评价的整体变革理论。

从创新资源有效利用角度出发,Yvonne A.(2001)以顾客为导向,尝试研究家庭服务政策,通过改进和应用逻辑评价模型,推动家庭服务的创新和发展。研究描述了如何利用一项基于有限资源的政策创建逻辑评价模型,并说明如何使用客户的反馈意见,微调组成模块。模型是基于精心构思的结果测量过程,过程分析为政策制定者和实施者提供必要的政策改进意见[83]。从研究机构角度,Nola H.-D.、Stephen R.(2011)研究设计逻辑评价模型,政策制定者试图利用政策工具评价已建立政府资助研究中心(PRCS)为打造区域优势所发挥的重要作用。研究推动了逻辑评价模型的发展,使其提供一个判断和识别政策有效性和成效,以及任何或然因素所导致长期影响的全面框架,在检测研究与开发机构中的公共投资对地区内企业创新吸收能力提升效果,以及整体区域所产生的长期影响的过程中发挥了重要作用[84]

立足于合作角度,源于联盟对知识转化、发展和应用的潜在作用,侧重于知识的社会参与性,Sarah、Melanie和Mambo等(2007)对为期6年的社区卫生中心合作伙伴计划进行研究,旨在建立侧重于弱势群体合作伙伴关系的逻辑评价模型。并在模型框架下探讨影响研究合作伙伴关系的重要因素,即研究合作伙伴关系的复杂性、权力和责任,与健康促进政策一致性及计划设计的迭代性。研究建议建立由创新合作伙伴所形成的“学群”,确保学者,政策制定者,服务提供商和社会其他成员支持创新合作伙伴关系的建立,并通过管理和运用必要的管理和评价工具确保合作关系的可持续[85]。研究表明,由于这些类型合作伙伴关系的日益普及,明确的逻辑评价模型有助于政策执行过程衔接和合作规律的深入探索。从国家创新战略竞争力分析角度出发,专门针对R&D政策特点,Erik、Daniel和Barbara等(2009)继续推动模型进一步发展,构建逻辑评价模型(I-O-O-I)框架,进而分析国家创新战略具有的优势和劣势、机会和威胁。通过逻辑框架确定标准并进行事先评估,更好地与决策、管理和利益相关者进行沟通,增进各方面的相互理解[86]

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈