學習重點 學校學習評量、定期評量與成就測驗,應優先重視內容效度,也就是檢查試題取樣是否能代表教學目標與教材內容。 依判斷依據區分效度:外觀看似合適是表面效度;內容取樣具有代表性是內容效度;與外在效標的關係是效標關聯效度(含同時效度、預測效度);能否支持理論構念的解釋是建構效度。 辨別聚斂與區別效度:測量相同構念的結果應相互呼應;以不同方法測量不同特質,用來證明工具能區分各特質,是區別效度的證據。 看到測驗影響教學方式、學習活動或教育決策,應連結後果效度;「考試領導教學」是典型線索。 內在效度屬於研究設計的概念,不是學校評量試題品質的首要考量。 核心觀念 一、效度的基本意義:測驗結果能支持什麼解釋與用途? 效度關心的是:依據測驗結果所作的解釋與使用是否適切。例如,教師以段考成績判斷學生是否達成單元學習目標,就必須確認試題確實反映這些目標。不能只因測驗名稱正確、題目看起來專業,便認定其結果適合所有用途。 傳統考題常依蒐集證據的方式區分效度類型;現代觀點則將效度視為整體判斷,各種證據共同支持分數的解釋。應試時仍須掌握各類型的判斷焦點。 二、常見效度類型的比較 類型判斷焦點辨識線索 表面效度從外觀或直覺判斷,測驗是否看起來在測預定內容。看起來適合、受測者覺得合理;缺乏充分的實質證據。 內容效度試題取樣是否能代表預定測量的內容領域與教學目標。教材範圍、目標涵蓋、內容代表性、雙向細目表、專家審查。 效標關聯效度測驗分數與相關外在效標之間,是否具有預期的關係。與其他表現比較;依效標取得時間區分同時與預測效度。 建構效度測驗結果是否支持其所欲測量的理論構念。智力、人格等抽象特質,以及聚斂、區別等證據。 後果效度測驗的使用對教學、學習或教育決策產生什麼影響。考試領導教學、教學活動改變、課程範圍縮減。 同時效度通常以測驗分數與同一時期取得的效標比較,例如將新編閱讀測驗與目前的閱讀表現比較;預測效度則以測驗分數預測未來效標,例如用入學測驗成績預測入學後的學習表現。兩者都要有外在效標,不能僅憑題目涵蓋教材便判定。 內容效度常以專家判斷題目與教材、目標的對應情形來蒐集證據,因此也有邏輯效度、專家效度等稱法;與課程、教學內容對照時,也常稱為課程效度或教學效度。 另需區辨內在效度:它是實驗研究設計的概念,關心研究結果的因果推論是否受到其他干擾因素影響(與之相對的是外在效度,關心結果能否推論到其他情境)。它不是用來判斷試題能否代表教材內容的概念。 三、為什麼學校成就評量優先重視內容效度? 學校學習評量與定期評量,主要用來了解學生對已教內容與預定學習目標的達成情形。因此,首先要問的是:「考的內容,能否代表應評量的學習範圍?」這就是內容效度的核心。 一份試卷的題數有限,只能從整個教學領域中取樣。良好的內容效度不是把課本每一句都考出來,而是依各項內容與目標的重要性,安排合理的試題比例,避免只考某一小部分,或只測記憶而忽略原先要求的理解與應用。 內容範圍:試題是否涵蓋應評量的教材主題?有沒有重要內容未被評量? 目標層次:試題是否符合教學所要求的認知活動?若目標包含應用,就不能全部只考名詞背誦。 取樣比例:各主題與目標的題數、配分是否適切,能否反映教學重點? 實務上可利用雙向細目表,將教材內容與教學目標交叉規劃,再由熟悉學科與教學的人員審查試題。專家審查是蒐集內容效度證據的方法之一;判斷重點仍是內容與目標是否具有代表性。 就測驗用途而言,成就測驗直接評量學習後的成果,因此最重視內容效度。性向測驗著重未來學習或表現的可能性,常關注預測效度;智力與人格測驗涉及抽象心理構念,尤其需要建構效度證據。不過,各類測驗仍可能需要多種效度證據,不能理解成各自只需要一種效度。 測驗類型最重視的效度理由 成就測驗(含學校定期評量)內容效度評量已教過的內容與目標達成情形。 性向測驗預測效度推估未來學習或工作表現。 智力測驗、人格測驗建構效度測量抽象的心理特質。 四、建構證據:聚斂效度與區別效度 「構念」是理論上用來描述心理特質的概念,如焦慮、智力或學習動機。這些特質無法直接看見,必須透過題目、觀察或其他方法加以測量,並檢查結果是否符合構念的理論預期。 證據測量安排預期關係 聚斂效度以不同方法測量相同特質(構念)。結果應相互呼應,呈現較高相關。 區別效度以不同方法測量不同特質(構念)。結果應能區分,不應出現不合理的高度相關。 多特質多方法分析同時考慮「測什麼特質」與「用什麼方法」。使用不同方法測量不同特質,目的在證明測量工具能區分各特質,而不是在測同一構念,所蒐集的就是區別效度證據。判斷關鍵在「特質相同或不同」,而不是「方法相同或不同」。 區別效度也不要求相關一定為零。不同心理特質可能本來就有關聯,重點是其關係是否符合理論,以及是否仍能辨別各構念。 五、後果效度:測驗如何改變教與學? 後果效度關注施測及使用結果所帶來的影響。當考試偏重背誦,教師可能增加反覆記憶與題目演練;當評量納入探究與實作,也可能促使課堂增加相應活動。這些都是從測驗後果觀察教學與學習的例子。 「考試領導教學」指出考試會牽動教學內容、教學方法與學生的學習活動,判斷焦點是影響與後果,屬於後果效度。影響可以是正向或負向,也可以是預期或非預期;不能將後果效度直接等同於測驗一定造成不良影響。 常考陷阱 把「優先重視」看成「只需重視」:學校成就評量優先考量內容效度,仍須兼顧其他測驗品質。 以表面效度取代內容效度:試卷標示某科、題目看似相關,只能形成外觀印象;仍須檢查目標、範圍與比例。表面效度不是學校評量的首要概念。 看到學校評量就選預測或同時效度:先看用途。判斷已教內容的學習成果,優先是內容效度;與現在或未來效標比較,才分別涉及同時或預測效度。 把內在效度當成學校評量的首要概念:內在效度屬於研究設計,關心因果推論是否受干擾,並非試題能否代表教材內容。名稱都有「內」字,不要與內容效度混淆。 把性向、智力、人格測驗當成最重視內容效度:最重視內容效度的是成就測驗。 只看到「不同方法」就選聚斂效度:要看測量的是相同或不同特質。同特質看聚斂,不同特質看區別。 認為相關越高,所有效度就越好:聚斂證據期待較高相關;區別證據則要避免不同構念混淆,不能一律追求高相關。 將「考試領導教學」誤讀為預測或同時效度:考試帶動教學改變,問的是後果;用考試成績推估未來表現,才是預測。 看到「專家」就選專家效度:專家效度是內容效度的另一稱法,指專家審查試題與教材、目標的對應;若情境在談考試造成教學改變,答案是後果效度。 記憶口訣 「表看樣,內看綱;時看今,預看將;同質聚,異質別;考帶教,看後果。」 表面效度看外觀樣子,內容效度看教材與目標;同時效度比較目前效標,預測效度連結未來表現;相同特質看聚斂,不同特質看區別;考試牽動教學,就從後果判斷。 「成就考內容,性向看預測,智力人格看建構。」