「人才」是組織中最重要的資產,企業訓練的目的就是希望藉由「培育人才」,結合員工發展與公司目標,為企業創造更大的利益。對企業而言,訓練是一項相當花成本的投資,既然是企業的投資,雇主就是希望員工在受完訓練後,能將所學應用於工作上,對組織能有實際的貢獻。
為證實訓練對企業經營的貢獻,並釐清訓練的功能與成效,就必須藉由訓練評估來驗證其成效,訓練評估在於衡量企業投入的成本與員工的學習所產生效益的關連性。然而,企業投入的成本含蓋範圍如何定義?學習所產生的效益如何計算?是否過程中那些因素影響?訓練單位是花錢單位還是支援企業策略及創造營收、價值的單位? 如何驗證及證明?長期以來,訓練成效的估一直都是訓練單位所關注的焦點,有沒有一套具可信度實施流程方法來衡量證明訓練的成效?
分析ROI的目的,是要算出一個精準的數字用來代表訓練成效?對訓練單位而言,都希望能算出精準的ROI,但由於訓練效益往往是無形的,所以必須以「推估」的方式,才能將無形效益換算成貨幣價值,這個推估的過程就是很大的誤差來源。ROI的計算方式選用的參數不同,結果也差之千里,種種限制,訓練單位不要投入過多心力在「計算最終數值」,而應該把焦點放在ROI分析時「原始數據的正確性」、「推估邏輯的合理性」、「分析過程的一致性」以及「專案之間的比較性」。而當有機會呈報資料給決策者時,不要只呈報結果,而應該把這些過程中所使用的參數與公式一起列出來,才能讓數據有足夠的說服力。
雖然ROI的分析困難度高,但若執行專案的過程有數據及價值的概念,納入訓練規劃及設計時思考,持之以恆就會累積足夠的數據及經驗值,成為訓練評估時最重要的參考資料。訓練人員會愈來愈專業、訓練計畫也會愈來愈有價值,受到企業的重視!
壹、訓練成效ROI評估
一、The ROI Methodology的介紹
訓練成效的評估一直都是培訓單位所關注的焦點,除了Kirkpatrick 的四層次外,Phillips將ROI(Return on investment)自Kirkpatrick 的四層次模式中的第四個層次再獨立出一個層次,以貨幣價值評估訓練成果的投資報酬率關係,形成第五層次的「投資報酬率(ROI)」。Philips於1970年代即提出了『THE ROI Methodology』,經過實務案例不斷地嘗試修正,目前己在65個國家應用,應用範圍包涵了領導、教練、KM..等26個應用領域,堪稱訓練成效評估界的國際權威,他認為訓練評估的目的是為了判斷訓練是否達成目標、訓練的成本效益比,並藉以檢視訓練的計畫以及判定參與者的受益情形,做為決策之參考,良好的反應不一定意味著學習或改變就會發生,因此將評估分為五個層次,層級一:評估反應和確認行動計畫、層級二:評估學習、層級三:評估在工作中應用的情況、層級四:確認課程方案的商業結果、層級五:計算投資報酬。Philips和Kirkpatrick差異如下表:
Philips將LEVE3 定為Application;在Level4定為Business Impact,一般企業常用的數據分為hard data及soft data
- 義收益/成本比和投資回報率
- 訓練方案的總效益=生產力提升的貨幣價值+生產成本節省的貨幣價值+工時成本節省的貨幣價值+員工流動率/離職率降低的貨幣價值+員工整體工作績效提升的貨幣價值
- 訓練方案的總成本=訓練需求評估成本+訓練設計與發展成本+訓練執行成本+訓練評估成本+經常性費用
- 投資報酬率的客觀選擇
- 和其他投資一樣設定價值,例如15%
- 略高於其他投資,例如25%
- 設定平衡0%
- 設定在顧客的期待值
二、The ROI Methodology的模型
Philips 的ROI方法論是一個循序漸進的可靠流程,可滿足顯示全球組織所使用的價值需求,整體而言邏輯架構相當清楚,要衡量的是對於人力資本的投資報酬率,過程訓練課程的衡量著重於投入與產出的說明,ROI的做法則是以結果導向,專注於衡量投資報酬率,以提供組織在訓練投資的參考。該方法是易於使用且經過驗證的過程,它將產生一組可信,真實和準確的平衡數據,尤其是從贊助者和主要利益相關者的角度來看。 要將資金分配給實現最高價值的計畫,項目和改進計畫,採用一種可靠地證明或“展示”價值的方法。
ROI方法論是一種平衡的測量方法,可捕獲六種類型的數據:
- 反應和計畫的行動 – 級別1
- 學習 – 級別2
- 應用與實施 – 級別3
- 業務影響 –級別4
- 投資回報率 – 級別5
- 無形資產
2級評估與衡量在計畫中學習原則、事實、過程、過程、技術和技能的程度有關,理想情況下,這些措施是客觀的,並帶有量化的指標,說明如何理解和吸收新知識和新技能,在計畫或項目中學習的成果並不總是會導致改善績效或改變工作行為,實施計畫後完成行動,在工作上的變動也可能並不總是會產生業務影響。
業務影響是計畫應用的結果,應進行衡量,通常啟動一個程式或專案是因為需要改進一項或多項業務措施,典型的措施包括節省成本,生產率,週期時間,品質,事故,周轉銷售,客戶保留。級別4評估始終涉及將計畫的結果與適當的業務測量聯繫起來。它涉及在計畫之前和之後收集資料並分析業務績效改進投資回報率的部份,將業務影響度量的貨幣收益與計畫成本進行比較,需要更多地關注內容和感知價值,必須採取類似的措施,需要更多跟進,這是與業務影響的聯繫,最終評估水準。
計畫的影響鏈
ROI的步驟中,有一步是Isolation,中文是應該是“確認影響因子”。我們衡量成效的時候,因為外在環境的改變迅速,我們無法確定績效的提升,是否真的是因為訓練計畫的實施而產生的。因而需要去除不相關的影響因子,突顯出訓練計畫的效果。主要的做法有幾個,其中包含對照組設置、時間序列資料運用、專家意見等等工具。
在ROI的計畫實施過程中需要蒐集六種資料,從Level1到Level5具有環環相扣的影響鏈,參與者不滿意學習的內容,不認同訓練課程的重要性,考試成績不及格,沒有應用在工作,整個影響鏈都會斷裂,無法證明訓練與企業績效的關係。
三、The ROI Methodology的衡量指標
硬數據-主要類別:產出增加/時間節省/成本節省/品質提高)
- 硬資料的特徵
- 易於測量和量化
- 相對容易地分配貨幣價值
- 客觀地;
- 衡量組織績效的常用方法
- 在管理層看來非常可信
- 硬數據的例子
軟數據-發展/進步/主動性/工作習慣/工作氛圍/感覺/態度/新技能
- 軟資料的特徵其特性:
- 難以衡量和量化
- 難以分配美元價值
- 在許多情況下基於主觀
- 不太可靠的績效指標
- 通常以行為為導向
- 硬數據的例子
『指標範例』
- Level 1
- 培訓後參與者評定講者的演講技巧為5分中的4分
- 培訓後參與者認為內容與工作有關
- Level 2
- 培訓後參與者能根據庫存單運用五個步驟變更調整庫存
- 培訓後參與者在95%的投訴情況下使用7步驗流程進行適當的調查
- 培訓後參與者在95%的投訴情況下使用7步驗流程進行適當的調查
- 培訓後參與者在新產品測驗平均得分為75分或更高
- Level 3
- 培訓後參與者在90%的工作習慣不滿意的討論中使用紀律討論技巧
- 培訓後參與者在會議舉行時進行直接報告,以解釋新的道德政策
- 培訓後參與者在至少50%的談判情況下使用所有10種談判技巧
- Level 4
- 培訓後參與者讓客訴減少20%
- 培訓後參與者減少制定提案所需的時間
- 培訓後參與者在3個月內,使XPS1330的銷售額增加25%
- Level 5
- 培訓後一年後實現20%的投資回報率
四、The ROI Methodology的步驟
The ROI Methodology的10步驟如下:
【評估計畫階段】
步驟1:業務組合和項目目標
根據需求制定項目目標,需求評估可以運用 V模型,呈現目標和評估之間的關係,與業務的一致性對於成功至關重要。
步驟2:評估計畫
發展評估計畫與基礎資料,包括建立評估的目的、發展資料蒐集計畫、發展ROI分析計畫、發展專案計畫等。
【資料蒐集階段】
步驟3:在項目實施期間收集兩種類型的數據(L1&L2)
包括問卷、測試、表現、面試、專案小組等方法。
步驟4:實施項目後收集兩種類型的數據(L3&L4)
包活跟進調查、跟進問卷、觀察工作、面試訪談、焦點團體、行動計畫、績效承包、績效記錄等方法。
【分析數據階段】
步驟5:隔離程序的效果
隔離程序效果的技術:
- 使用對照組的安排
- 性能數據的趨勢線分析
- 績效數據預測方法的使用
- 參與者的影響估計
- 主管的影響估計
- 管理層的影響估計
- 使用專家/先前的研究
- 計算/估計其他因素的影響
- 使用客戶輸入
沒有此步驟,就無法證明該項目已與業務指標相關聯。
步驟6:將數據轉換為貨幣值
掌握了「成果」,並且透過「指標」確認成果,將再以貨幣形式為其評估價值,各個抽象化的事成果透過具體的財務代理變數轉換為量化的財務數字。
將數據轉換為貨幣值的方法
- 將產出轉化為貢獻
- 轉換質量成本
- 轉換員工的時間
- 使用歷史成本/節省
- 使用內部和外部專家
- 使用來自外部數據庫/研究的數據
- 與其他措施連結
- 使用參與者的估計
- 使用主管和經理的估計
- 使用員工估算
為了將數據轉換為貨幣值,應採取以下步驟:
- 定義並專注於度量單位
- 確定每個單位的值。
- 計算性能數據的變化
- 確定每年的效果變化量
- 計算改進的年度總價值
步驟7:無形資產
無形資產包括:增加快樂、改善訂單、減少抱怨、減少衝突、增加團隊合作、增加形象、增加品牌意識等。
步驟8:列出費用
進行影響研究時,投資回報率的計算需要項目的總成本。 成本必須全部負擔,即必須包括所有直接和間接成本。
費用項目包括:研究/設計及開發費用、材料費、協調員的費用、設施費用、差旅費、參與者工資、行政管理費用、評估的費用
步驟9:計算投資報酬率
投資回報率(ROI)是一種財務指標,代表了項目成功的最終指標。 ROI是使用項目收益和成本來計算的。
【報告階段】
步驟10:將結果報告給主要利益相關者
後續的溝通與改善是為了能維持ROI方法所作的分析有一定的品質,避免ROI淪為數字比賽,要求在分析計算及報告的過中應有六大原則:
1.利害關係人的參與
2.了解專案所造成的改變
3.定義重要的成果
4.不誇大成果
5.將計算之過程透明化
6.驗證最後的結果
和利害相關人溝通成果的方式及管道:
- 會議:高層、主管、利害關係人、員工
- 詳細報告:成效報告、內外部個案、文章
- 簡要報告:執行摘要、投影片、一頁報告、宣傳冊
- 電子報告:網站、Email、部落格、社群媒體、視頻
- 大眾出版品:公告、公佈欄、時事新聞、專欄…
ROI的架構並不複雜,前題是一定要有清楚的目標,要有一個超越訓練目標的方向,因應及符合組織現階段及未來的需要,明確訓練架構,如此ROI的計算結果才能達到好的效果。
貳、ROI計算的價值及應用
一、ROI計算的價值
ROI的計算在一般企業推動上有一定的困難度,一方面是整個計畫下來所花費的成本及時間過高,再者過程中的數據取得不易,故若要採ROI的模式前題是企業規模夠大、需投入一定的時間去驗證及追蹤、培訓成員人數夠多..等,在計畫完成培訓評估的四個關鍵問題:
1.有沒有發生變化?培訓的目的是達成企業的目標和年底計畫目標;培訓的直接目的是帶來行為的轉變,而行為改變再能影響績效改變。
2.這種變化是否由培訓引起?是否有足夠的數據去佐證及論述?
3.這種變化與組織目標的實現是否有積極的正相關?
4.下一批受訓者完成同樣的培訓後,是否還能發生類似的變化?
評估的衡量對象包括投入成本&產生效益,評估的方法可採用Hard Data和Soft Data。投入產出比=(總收益-總成本)/總成本*100%。大多的企業都無法作到ROI的計算,故培訓常受到很大的質疑及挑戰,一般在企業中,只要經營狀況出現問題,最先削減的就是人力資源的費用,而人力資源中最先削減的是培訓的費用。長期下來對企業總體人力資本的蓄積會產生負面的效果,反觀若培訓可以專注在一些重點項目,且和企業目標的絶對相關,則培訓ROI的價值包括:
1.使我們能夠衡量培訓對公司業績的貢獻
如果培訓後確實帶來了績效的提升,組織領導及高階主管一定會繼續支持培訓。
2.使員工有機會比較並選出最有價值的培訓項目
在每一次的培訓計畫執行後,學員會反饋哪些課程是最有價值和最有用的,久而久之就形成了企業內部的培訓課程體系。
3.使培訓的方向關注於結果而非培訓本身。
管理學之父彼得.杜拉克(Peter Drucker)曾說,「企業一切的經營活動,最終都是為了績效。」Phillips也一直強調OKR的觀念,如何以結果為導向,設定2~4個關鍵成果,可透過培訓來達成。
4.證明一項計畫中的培訓投資是有價值的。
5.為將來的培訓設定一個基準。
6.改變公司高層的固有看法。
最後,培訓是企業提升人力資本的重要工具,能否轉化培訓效果,將會影響企業對培訓的看法及重視,下列提出影響培訓效果轉化的因素:
- 學習移轉的氛圍
- 例如企業是分層分級培訓,訓尤其還有外訓,員工培訓回職場內部分享,其它成員未參與培訓,並不能引起共鳴,難以讓參與者持續保持學習的熱情,更不用說會有轉化的可能。
- 管理者的支持
- 同事的支持
- 例如企業是分層分級培訓,訓尤其還有外訓,員工培訓回職場內部分享,其它成員未參與培訓,並不能引起共鳴,難以讓參與者持續保持學習的熱情,更不用說會有轉化的可能。
- 應用培訓內容的機會
- 例如外派某一個員工學習了項目管理的培訓,當企業內有新的項目時,是否讓這名學員參與呢。
- 如果培訓後不做實際應用,一周後差不多也就能記住5%的培訓內容了。
二、ROI的應用
根據非正式統計,台灣企業內部人才培訓委外市場,其規模粗估每年有約新台幣 20 至 30 億,其內容包含企業包班、公開班、線上商務類課程等,這數字一般會隨著市場榮盛有正向增減,但培訓單位,一直面臨如何向關鍵決策者,提出培訓成效的保證而有壓力。
當企業追求規模經濟與績效成長,可暫不深究知識斷點與績效痛點,這是十多年前培訓市場的現象,因此在培訓 ROI 計算上,只要遇到文化面與激勵面用途的課程,就可暫用學員課堂滿意度高作為培訓成效標準。
隨著知識爆炸與高度競爭,過去單純用演講法就可創造高滿意度的時代已經過去,現代的 X&Y 世代需要的培訓,是馬上即可運用的技能,故學員對課程內容更挑剔; 加上講師與培訓課程費用逐年水漲船高,讓培訓負責人必須得透過多元的工作與活動設計,將學員培訓效果,儘速與可見組織獲益掛勾,證明培訓的ROI。