作者：翁希廉 Willis Yung｜銀行首席資訊安全主管 / 科技風險部主管、數苗青少年慈善基金創會會長
一、AI 正在悄悄重塑青少年「求助模式」
香港教育近年積極推動數碼轉型，而 AI 已經成為中小學教學的必然議題。
由《數字教育周2025》到教育局在科學科推行 AI 實驗計劃，香港正朝着「AI 入課室」的方向加速發展。
然而，在政策與技術以外，社會忽略了一個重要現象：
> 愈來愈多學生，在情緒低落時，第一時間不是找社工，而是找 AI。
原因並非他們真的信任 AI，而是 AI 回覆快、不批判、全天候可用。
對於情緒不穩定的青少年而言，即時性往往比深度更重要。
這種趨勢，正在重塑青少年對「支援」的理解。
二、AI 教育市場高速增長，心理風險卻未同步處理
根據多份國際市場研究，教育 AI 市場正以 每年 30% 以上 的速度增長。
香港亦在積極推動相關應用，包括：
教大 AIREA 國際 AI 教育賽：學生研發 NLP（自然語言處理）情緒工具，用於心理教育與自我覺察。
教育局 AI 教學試點：AI 被視為未來科學科核心能力之一。
大型校際 AI 競賽與沙盒遊戲平台：強調 AI 素養與問題解難能力。
這些發展顯示，AI 正逐步滲透成為學習伙伴、寫作輔助、甚至情緒反饋工具。
但問題是：
> 政策、技術與市場增長，均比心理安全框架快得多。
例如，在不少 AI 工具中，學生可能會輸入：
家庭矛盾
自我否定
校園壓力
自殘念頭
這些內容屬於高度敏感資料，但現時市場上很多產品未有清晰的資料使用或儲存政策。
私隱專員公署在 2025「關注私隱週」中提醒：
兒童與青少年資料必須有更高級別的保護。
在 AI 情緒應用流行的當下，這一點尤其重要。
三、AI 不是心理專業，但市場正在把它「包裝」成心理陪伴者
現時不少教育科技公司以「陪伴式 AI」「情緒教練」作為賣點，聲稱能：
與學生傾訴
進行情緒追蹤
提供「溫暖回應」
作為「每天都會聽你講」的朋友
這讓人誤以為 AI 可以部分取代社工或心理輔導員。
然而，從教大與其他學術機構研究顯示：
AI 雖能偵測字詞情緒，但 不具備心理風險判斷能力。
例如：
「我唔想返學」vs「我唔想活」
AI 很可能以同一方式回應。
國際市場亦出現曾未能識別危機訊號的案例，反映 AI 不能承擔臨床判斷責任。
對企業而言，這意味著：
> 在情緒工具上使用 AI，本身就是一個潛在法律風險與品牌風險。
在未建立明確界線前，教育科技企業應避免過度包裝 AI 為「心理陪伴者」。
四、香港具備發展「AI 心理安全標準」的條件
從教育政策、產業技術，到市場需求，香港正處於建立標準的黃金時間點。
以下三項可作為方向：
（1）制定「AI 心理安全守則」
可由教育局、科技公司、心理專業界共同制定，包括：
AI 不得模仿專業心理學家
禁止提供任何治療建議
遇到高風險字眼必須跳出真人求助提示
清晰列明資料用途及存放政策
這亦能提升企業面對家長與學校時的可信度。
（2）成立跨界審查委員會：教育 × 心理 × 法律 × 資訊安全
參考政府在《數字教育周2025》與大學合作的模式：
審查 AI 教育產品是否符合心理安全及私隱標準。
這可以避免出現：
未經審核的 AI 工具直接在學校使用
敏感資料無加密
AI 回覆出現風險誤導
對企業而言，這也是「建立信任」的關鍵。
（3）推動「AI × 心理素養」教育
AI 素養不只是懂得 Prompt，
更重要是懂得：
AI 的能力與限制
何時需要向真人求助
如何避免將個人危機內容輸入 AI 系統
中學至大學層面均可以加入這類課程。
五、商業角度：為何企業需要重視心理安全？
教育科技市場競爭激烈，產品的差異化不再只是功能，而是 信任。
尤其在 AI 情緒工具領域，以下三項是企業必須注意的：
（1）品牌風險
若 AI 回覆不當導致負面後果，企業可能面臨重大品牌危機。
（2）合規風險
兒童資料屬高度敏感，教育市場在全球都逐漸收緊監管。
越早符合標準，越能建立競爭力。
（3）市場門檻提升
學校未來採用 AI 工具時，勢必要求查看：
私隱政策
風險管理流程
內容審查報告
系統安全審核
企業先行建立標準，便可形成市場領先優勢。
結語：AI 可以聆聽，但不能取代「人與人之間的理解」
香港正在急速推動 AI 教育，這是一場機遇巨大的轉型。
但在創新的背後，心理安全與倫理規範不能缺席。
學生之所以把 AI 當作第一求助，是因為回覆快、沒有壓力。
但 AI 懂語言，不懂心；能回覆，不能負責。
真正的教育，不只是引入科技，而是建立一個：
> 孩子願意向真人求助的環境。
AI 可以輔助理解人，但不能代替理解人。
在這場教育創新浪潮中，
創新可以很快，但安全必須更快。
作者簡介｜翁希廉（Willis Yung）
虛擬銀行資訊安全主管及科技風險負責人，負責 AI、雲端、網絡安全與 FinTech 風險治理。
同時創立「數苗青少年慈善基金」（Seed Master Youth Development Foundation），推動青少年數碼素養、AI 倫理與網絡安全教育，近年專注研究 AI 與青少年心理健康的交互影響。長期關注香港教育科技政策、數碼安全生態與 AI 教育的落地挑戰。
