公益项目评估中到底是定量分析好还是定性分析好?对这一问题的辩论从有了项目评估就伴随至今。定量派往往认为只有定量分析得出的结果才是准确的和客观的,定性分析得出的结果是不科学、不严谨的。以此同时,定性派往往认为定量分析是昂贵的、是不切实际的。作为一线项目工作者,我们在做项目评估时到底应该使用定性分析还是定量分析?

定量分析(图片来源:网络)

定量分析的利弊

在得出上述问题的答案之前,我们需要对项目评估中定量分析与定性分析需要具备的条件进行认识。如果具备所需要的条件,通过定量分析得出的结果固然是最为准确和客观的。也正因为如此,不少大型项目的评估仍然坚持要定量分析。然而,定量分析中最为重要也最为困难的部分是量化评估指标和对照组的设立和管理。

首先,量化评估指标要能科学和准确地反映所代表的内容。例如在单一型经济发展项目中,经济收入和支出数据可能是反应经济状况的重要指标。但是,在发展性公益项目中,同一结果通常是由诸多因素以及它们之间的互动所形成。例如导致贫困的结果可能是由经济原因、教育原因、健康原因等,以及这些原因之间的互动所形成的,要设立科学和精确的衡量贫困状况改变的指标是极为困难的。既然所设立指标不能够精准反应所要评估的结果,根据这些指标数据得出的分析结论又如何令人信服呢?

其次,严格的定量分析除项目组外还需要设立参照组,同一指标在项目组和参照组之间的结果差异才是项目产生的变化或结果。然而,在公益项目管理中,严格意义上的参照组设立几乎是不可能的。

原因有三: 第一,一般的公益项目实施机构是没有能力进行操控,让作为参照组的社区或人群不能获得任何外来项目干预的; 第二,即便有能力进行操控,这种做法也是不道德的。因为任何人没有权利仅仅是因为一个项目评估就让作为参照组的社区或人群不能获得任何外来项目或帮助;第三,即便是作为参照组的社区或人群没有获得任何外来项目,也不能排除两个社区或人群之间的互动并由此对参照组人群在认知方面产生影响,从而导致行为和结果的改变。因此,严格意义上的定量分析方法主要应用于实验室研究;或者说在社会发展领域的公益项目评估中,严格意义上的定量评估是天真的和不切实际的。但这并不妨碍定量分析的理念在项目评估中的运用。

定性分析的利弊

如果说定量分析方法在公益项目评估中是不现实的,那么定性的分析方法在公益项目评估中是否就是不二的选择呢?回答也是否定的。定性的评估方法,如果缺乏定量的理念支持,很容易剑走偏锋,以点带面。在实际评估工作中不乏少数人走马观花一圈就对项目的结果做出评价,或用几个感人的故事或案例代表项目结果的事例。这些事例已经饱受诟病。

利用MAXQDA软件进行定性数据分析(图片来源:网络)

定量与定性的融合运用

综上所述,一般规模的公益项目不具备严格意义上的定量评估条件。然而,在实际评估工作中没有定量理念支持的定性评估很容易以点带面,得出不客观、不准确的结论。正确的做法应该是定量分析基础上的定性评估。具体说来包括以下内容:

1. 参与定性讨论的人群要有代表性。在操作中我们虽然可以对项目的结果进行定性评价,但参与评价的人群要有代表性。具体说来,项目目标群体中不同性别、年龄、民族、受教育程度、社会层次、经济状况的群体均需有均衡的代表参与定性讨论。并且是充分讨论后达成一致。例如,如果我们将项目某一指标的结果定性为“强、一般、弱”三类。通过所有群体代表均衡参与评价,我们可以统计出赞成不同选项的人数比例,从而得出趋势性结论。

在此过程中,受评估对象的选择和数量显得尤为重要。如果不同群体接受评估的代表是由个别人指定的少数几个人,其反应的情况也很容易出现偏差。因此,事先设定各个群体受访代表的选择标准和数量,并根据这些标准随机抽样或集体推选出规定的人数接受评估是必要的。

2. 在评价指标选择方面,能够量化的尽量量化。虽然在缺乏参照组的情况下量化分析的结果不会精准,但只要所设立的指标紧贴项目活动和目标,评估仍然可以得出趋势性结论。例如在衡量经济收入的变化方面,我们可以让受评估人估算项目实施前后的收入金额、构成及其比例。通过汇总不同群体的收入情况估算,从而得出方向性结论。再如,在衡量培训对于知识和行为改变的影响方面,我们可以对受训者在受训前后的测试成绩进行比较、培训后受训人对于培训内容的应用情况等进行统计和数据分析,从而评价培训的效果。

上述陈述用图表表示如下:


相关课程推荐

点击图片开始学习!

课程介绍:近些年随着人们对公益的重视程度不断提高,在社会上出现了很多的公益组织,他们开展了各种各样的公益项目。但在这一过程中,很多公益机构都出现了一个共同的问题,公益项目是否有效?如何对项目的有效性进行评估?此次课程中将介绍公益评估,包括问责型评估和学习型评估。学习型评估是面向未来的,希望从过去的工作中抽取一些经验,发现一些规律,为优化未来项目提供一些事实性的依据。通过对学习型评估的介绍,能够帮助更多公益组织提升整个组织策略和项目策略的有效性。

整理 | 朱若云