在數位化時代，人工智能（AI）的迅速發展已經對各行各業產生了深遠的影響，教育領域也不例外。AI技術漸漸獲廣泛應用於輔助教學、教師數字人分身、設計個性化學習方案，以及自動化評估等方面。然而，正如硬幣的兩面，AI技術的普及也帶來了一些令人擔憂的問題，特別是在學術誠信方面。
最近，一篇關於美國線上課程中出現AI假學生的報道引起了廣泛關注，讓我們不得不重新審視AI在教育領域的雙刃劍效應。我們更希望有關當局在關注未來AI應用時，除了支持應用，也要協助教育界防範其帶來的副作用。
利用AI註冊 騙取助學金
報道中簡述一位教授Dr. Ivan（虛構名字），分享在他的線上藝術欣賞課程中，竟發現有三分之一的學生實際上是由AI驅動的垃圾訊息機器人（AI-Powered Spambots）。這些所謂的學生通過提交低品質或完全不相關的作業來保持其出席率，目的是讓背後的操縱者能夠繼續領取金融援助。這種現象被稱為”Pell Runners”，即一些不法分子利用假學生申請聯邦佩爾助學金（Federal Pell Grant），在收到資金後便消失無蹤。
Dr. Ivan通過Canvas平台發現了這些學生的異常端倪：他們在課程網站上的停留時間遠遠少於正常學生，而且提交的作業內容要麼是從網上隨意下載的圖片，要麼是完全捏造的內容。例如，一位學生提交了一篇關於一個不存在的藝術品Serenity的分析報告，這篇報告充斥由AI生成的胡言亂語，這種現象被稱為「AI幻覺」。
當香港教授們還在擔憂學生可能使用AI作弊時，在美國一些課堂中，已經出現了大量的AI假學生。這些假學生與使用AI作弊的普通學生有着本質的區別：前者至少還關心自己的成績和學分，而後者則完全不在乎成績，只是為了盡可能長時間地保持註冊狀態，以便背後的操縱者可以持續領取金錢援助。
監管非法行為 迫在眉睫
隨着線上課程愈來愈流行，教育工作者和政策制定者需要針對這些非法行為採取行動。首先，需要加強對線上課程註冊和出席的監控，確保只有真正的學生能夠參與課程，並領取相應的助學金或證書。其次，教育平台和AI提供商應該開發更先進的演算法，來識別和過濾這些AI生成的作業和出席。此外，還需要提高學生和教師對AI倫理的認識，令學生認識到使用AI作弊，不僅是不誠實的行為，而且可能會對他們的學術和職業生涯造成長遠的負面影響。
筆者也聽聞一些不法分子準備大舉利用AI技術進行詐騙，如利用換臉技術在線上考試詐騙，或者利用AI生成的文章編造和傳播網路謠言，對同學進行網路欺凌，藉以獲取保護費等等。這些行為不僅給學校、管理層、教師及學生造成了嚴重的名譽、財產損失和精神傷害，也對社會的穩定和安全構成了威脅。因此，我們需要提高個人資訊保護意識和能力，增強識別和防範虛假資訊的能力，同時也需要平台和監管方加強合作和規範，保障AI的健康、可持續和負責任的發展。
教育下一代 合理負責任使用AI
最後，我們必須認識到，AI技術本身並非問題的根源，問題在於人們如何使用這項技術。通過合理、負責任地利用AI，我們可以繼續享受它帶來的便利和益處，同時避免潛在的負面影響。教育不僅僅是傳授知識，更重要是培養價值觀和倫理觀。在這個AI日益普及的時代，我們需要重新思考如何培養學生的批判思維能力，以及如何教育他們成為負責任的技術使用者。
