2026年9月25日
Technology Watch

從實驗室到產業,追蹤新技術的路徑

← 回首頁

arXiv

課堂聊天機器人可以通過語氣測試,卻無法完成課程

AI 繪製的示意圖

由教師設定的聊天機器人可以迅速回應,聽起來也很恰當,卻未必會執行它原本設計來教授的課程。一項針對 27 名國中教師的研究發現,在四項衡量指標中,目的對齊是最弱的一項,這說明為什麼課堂 AI 需要在學生依賴它之前,先有測試並修正教學行為的方法。

教師可以請通用型聊天機器人協助學生,卻無法可靠判斷它是否會保留有益的摸索、留在課程範圍內,或是直接給出答案而非提供引導。學生可能需要提示或一個問題,收到的卻是完整答案。教師仍然必須檢查機器人說了什麼,以及學生學到了什麼。

聽起來正確的聊天機器人,教學仍可能出錯

大型語言模型不會像學習單那樣,以完全固定的方式遵循課程計畫。它們會根據收到的指示與對話,產生最可能出現的下一個回應。一項指示可以影響回應,卻不能保證回應會照做。

這讓「有幫助」在課堂中成為一個難以捉摸的詞。友善、反應迅速的回覆,如果教師原本希望學生自行解決問題,仍可能破壞課程目標。機器人即使一直留在主題範圍內,也可能直接透露答案。由教師設定的代理人,目的是把一次性的提示轉化為可重複使用的課堂角色,例如在特定界線內運作的學科家教。

這項研究也將機器人的教學工作,與周遭的實際條件分開來看。學校在使用 AI 工具之前,必須考量學生隱私、適齡內容、裝置、網路與當地核准程序。這裡的問題比較狹窄,卻很重要:教師能否判斷機器人是否正在進行預期的教學?

測試不只是看語氣是否令人愉快

研究人員在 2026 年夏季的專業發展工作坊中,研究了 27 名國中教師。這些教師為科學或計算思維活動製作並測試聊天機器人。

製作工具讓他們分別填寫機器人的 Purpose(目的)、Rules(規則)與行為特徵,或 Persona(角色)。他們也可以選擇語言模型,並選擇性地加入課程檔案,供機器人搜尋。Purpose 主要用於描述學習目標與學科重點。Rules 則較常用於描述教學行為、限制,以及針對不同學習者所做的調整。

接著,研究人員根據四個分開的問題評估完成的機器人:機器人有回應嗎?它有服務於所述目的嗎?它遵守規則嗎?它符合要求的角色嗎?

這種區分很重要。機器人可以通過語氣測試,卻無法完成課程。在這項研究中,88.9% 的聊天機器人通過了回應能力測試。81.5% 通過了角色對齊測試。但只有 59.3% 通過了目的對齊測試,是最低的結果。規則遵循度也低於其他指標。

教師表示,改用不同模型,可能會改變機器人是否遵守「不要直接給出答案」的指示。他們也要求為設定控制項提供更清楚的標籤、範例、範本與指引。把一個意圖寫進欄位,並不總是等於讓這個意圖真正發生。

Conceptual diagram mapping Norman's Gulf of Execution and Gulf of Evaluation to teacher-facing AI authoring. A teacher pedagogical goal is shown at the top and a teacher-facing AI authoring system at the bottom. The left side represents the pedagogical Gulf of Execution, showing how teachers translate pedagogical goals into configuration choices such as Purpose, Rules, and Persona. The right side represents the pedagogical Gulf of Evaluation, showing how teachers interpret generated chatbot behavior and assess whether it reflects their original pedagogical goals.
Figure 5. Mapping Norman’s Gulfs of Execution and Evaluation to teacher-facing AI authoring. Adapted from Figure 2.1 in Norman ([Norman Donald, 2013](https://arxiv.org/html/#bib.bib56)). In our adaptation, the pedagogical Gulf of Execution captures the translation of a teacher’s pedagogical goal into chatbot configuration, while the pedagogical Gulf of Evaluation captures the interpretation of generated chatbot behavior relative to that original goal.Conceptual diagram mapping Norman's Gulf of Execution and Gulf of Evaluation to teacher-facing AI authoring. A teacher pedagogical goal is shown at the top and a teacher-facing AI authoring system at the bottom. The left side represents the pedagogical Gulf of Execution, showing how teachers translate pedagogical goals into configuration choices such as Purpose, Rules, and Persona. The right side represents the pedagogical Gulf of Evaluation, showing how teachers interpret generated chatbot behavior and assess whether it reflects their original pedagogical goals.In our study, the pedagogical Gulf of Execution captures the distance between a teacher’s intended pedagogical behavior and the configuration actions available for expressing it. Teachers had to translate instructional intentions into fields such as Purpose, Rules, and Persona, a process that was not always straightforward. The pedagogical Gulf of Evaluation captures the distance between generated behavior and the teacher’s ability to judge whether that behavior reflects the original pedagogical intention. This distinction is particularly important for generative AI, where a response may appear conversationally appropriate without fully realizing the intended instructional purpose. Together, these two gulfs show why configurable controls alone are insufficient: teacher-facing AI authoring must support both the expression of pedagogical intentions and the evaluation of whether those intentions are realized in system behavior. 出處: Will It Teach as Intended? How Teachers Configure Educational AI Chatbots(arXiv)

缺少的功能是證據

這項研究的核心發現是,單靠設定並不能讓聊天機器人成為教學工具。教師需要協助表達自己的意思,但也需要協助判斷機器人的回覆是否真的符合這個意思。

這就是設定目標與檢查結果之間的差距。教師可能寫下「用問題而不是答案引導學生」。機器人聽起來可能很有耐心、也很鼓勵人,卻仍可能在困難的情況下直接提供答案。如果沒有發現這種失敗的方法,教師就必須持續人工監看對話。

如果製作系統能向教師指出回覆在哪些地方偏離學習目標,並協助他們修改或強制執行這個目標,課堂 AI 就可能成為可控制的教學鷹架,而不是通用的答案機器。教師將能掌握關於教學目的與限制的證據,而不只是答案品質或語氣。

在國中科學課堂中,一名卡在水循環問題上的學生可以打開班級機器人,收到教師核准的問題與提示,而不是一段可以貼進作業的文字。教師之後可能發現,有幾名學生需要同一個提示,並在下一堂課重新處理這個迷思概念,而不必閱讀每一份對話紀錄。這樣的未來有賴於能在尊重隱私的同時,呈現有用模式的儀表板,也有賴於機器人在真實對話中維持自己的界線。

這項研究尚未證明這一點。它主要檢視教師在短期工作坊中測試機器人的情況,而不是學生長期在課堂中使用機器人的情況。下一步是在真實學生身上進行持續測試,同時搭配能診斷並修正教學目的失敗的工具。

出典

arXiv,〈Will It Teach as Intended? How Teachers Configure Educational AI Chatbots〉