Show a desktop notification when the AI TA finishes replying
Notify me when classmates post messages in the forum
Play an alert sound whenever there is a new notification
Designing and evaluating a Socratic-scaffolded conversational AI assistant for educational tasks: Cross-cohort effectiveness, user perception, and the effort signature
我們把課堂的 AI 助教設計成「先反問,再回答」,然後連續三個學期問學生:這樣好用嗎? 答案很有意思——學生明白地表示這種模式比較累, 但當我們請他們拿它跟「有問必答的 AI」直接比較時, 他們反而在「哪一種讓我真的搞懂」這一題上,給了最高的分數。
我們把這個「覺得比較費力、卻認為比較值得」的成對現象命名為 費力訊號(effort signature),並主張它不是設計的缺點,而是設計正在生效的證據。 本論文由李奎皓老師(第一作者)與張家凱助理教授發表於 《International Journal of Human–Computer Interaction》(IJHCI,Taylor & Francis), 這是一本專門刊登人機互動設計研究的國際期刊—— 也就是說,這篇的讀者不只是教育界,還包括所有在設計 AI 對話介面的人。
2025 年一份發表於《PNAS》的大型隨機對照研究(Bastani 等人,近千名中學生)帶來一個令人不安的發現: 讓學生使用有問必答的 AI,當下的解題表現大幅提升(48–127%), 但等到把 AI 收走、讓他們自己作答時,成績反而比沒用過 AI 的同學低了 17%。
換句話說,最順手、最令人滿意的 AI 使用方式,可能正在悄悄掏空使用者本來要培養的能力。 這個現象不限於教室——任何「使用者的目標是學會,而不只是做完」的場合都會遇到, 例如新進分析師靠 AI 熟悉產業知識、寫作者在 AI 協助下發展自己的文風、 醫師必須有能力獨立判斷 AI 給的診斷建議。
同一份研究也指出了解方:如果 AI 被設定成不直接給解答、而是要求使用者先說出自己的想法, 這個長期傷害就不會出現。本研究做的,就是把這個「解方」實際做成一套可以長期運作的系統, 並且誠實面對一個現實問題——這樣的 AI,學生會不會因為太麻煩而乾脆不用?
論文提出的設計由三層組成,每一層各自擋掉一種「過度依賴」的失敗方式:
需要說明的是,第三層在這篇論文裡只是觀測儀器,不是被檢驗的成效指標—— 它產出的認知層次資料,是另一篇論文的主題,本文沒有拿它當作結論的依據。
如果學生說「不要問了,直接告訴我第 4 題答案」,這套 AI 會怎麼做? 答案是:它會先請學生回答一個小問題(例如「如果輸入是空的清單,這個函式應該回傳什麼?」), 學生回應之後,就會給出明確的指引。
這是刻意的取捨。硬性拒絕回答,只會讓學生轉頭去用外面沒有任何限制的 AI, 結果是設計完全失效。所以我們選擇把直接回答「延後」而不是「取消」—— 保留學生自願使用的意願,同時在每一次互動中都插入一個必須自己思考的環節。
研究在一所大學的 Python 程式設計入門課(修課學生多為非資訊本科系)進行,橫跨三個連續學期, 分成三項互補的調查:
在針對蘇格拉底式對話的五個面向中,分數呈現一個乍看矛盾、細想卻很合理的排列:
把這兩端放在一起讀,學生實際上是在說: 「這個模式讓我比較不舒服,但它值得。」 這正是我們定義的費力訊號。 有趣的是,這個現象在人機互動領域早有前例—— Buçinca 等人(2021)就發現,最能減少人們盲目依賴 AI 的設計,往往拿到最低的主觀評價。 這也意味著:如果只用「使用者滿意度」當作優化目標,會系統性地淘汰掉那些真正保護使用者能力的設計。
對設計者而言,費力訊號可以當成一組檢查工具: 如果一套設計兩個成分都沒有(既不費力、也沒有比較後的認可),代表它其實沒有真的改變互動; 只有費力、沒有認可,代表使用者會逐漸放棄它; 只有認可、沒有費力,代表它可能根本沒有擋下過度依賴。
教育科技有一個很常見的現象叫做新鮮感衰退:新工具剛上線時大家都覺得很棒, 一兩個學期後熱度消退、評價下滑。許多論文的評估剛好只做在系統上線的那個時間點, 因此報告出來的接受度往往被新鮮感灌了水。
本研究涵蓋四次調查、三個學期,期中與期末都測, 中途甚至把問卷從 5 點量表改成 7 點量表(這種改動通常會讓分數產生偏移), 結果分數依然穩定。 對一個「刻意讓使用者比較費力」的設計來說,這一點特別重要—— 它顯示把直接回答延後而非拒絕的柔性做法,確實守住了學生繼續使用的意願。
我們原本預期「學習動機比較強的學生,最後表現也會比較好」。 但在 2024 秋季班(39 人)的分析中,把學期初測得的內在動機加進預測模型後, 對期末成績的解釋力只增加了 0.4 個百分點,動機與進步幅度的相關幾乎是零。
這個結果要小心解讀,論文本身也把它列為限制:樣本只有 39 人, 而且這群學生的動機分數普遍偏高(7 點量表平均 5.84), 也就是「動機低」的那一端根本沒有出現在樣本裡,統計上不容易驗出差異。 我們如實把它報告為空結果,而不是宣稱「動機不重要」。 它真正的用處是提醒 AI 助教的設計者: 在一群本來就願意學的使用者裡,個別動機差異可能不是值得花力氣去追蹤與介入的變項。
與 Uedu 一貫的研究紀律相同,這篇論文對自己的宣稱設有明確界線,這些界線在正式論文中都白紙黑字寫著:
這篇論文評估的就是 Uedu 平台上的 ClassroomGPT: 教師可以上傳自己的教材讓 AI 助教只根據課程內容回答, 並透過 system prompt 設定「先反問、再回答」的互動風格; 學生的每一則提問也會自動標記認知層次,讓教師看見思考的深度而不只是使用次數。 需要提醒的是,蘇格拉底式對話是可由教師選擇開啟的教學設計, 平台一般 AI 助教的預設風格仍是盡力清楚回答。
前往使用