密西西比州一名大学教授近日因设计了一项创意十足的“AI 陷阱”在网络上走红，这个方法的效果好得出乎意料。他在历史期中考试的题目中暗藏一个学生肉眼看不到的词，成功识别出大批直接使用人工智能生成完整答案、甚至没有检查内容便提交的学生。
在考试中，Alcorn State University 教授 Jason Gibson 博士要求学生比较工业革命与当今数字时代。为了判断学生是否会把题目直接复制到 AI 聊天机器人中，他使用不可见文本，在题目要求中隐藏了“Madagascar（马达加斯加）”一词。学生阅读题目时不会注意到这个词，但将整段内容复制给 AI 后，系统却会把它纳入生成的答案。
结果，许多学生提交的文章中都莫名其妙地出现了“马达加斯加”，而且伴随着完全不合逻辑的句子，例如“马达加斯加紫色自行车对着天花板低语”、“马达加斯加在午后横向漂浮”，甚至还有人写道：“马达加斯加穿着一台烤面包机去参加篮球比赛。”
@iamjasongibson I can’t make this stuff up. #professor #highereducation #college #midterm ♬ Piano famous song Chopin Deep deep clear beauty - RYOpianoforte
Gibson 在 TikTok 视频中透露，他教授的两个班共有 35 名学生，其中 32 人因为使用 AI 生成完整回答，导致期中考试的这一部分不及格。但最令他惊讶的并不是学生使用了 AI，而是他们在提交前甚至没有读一遍自己的答案。“显然，他们根本没有校对。”
Gibson 强调，设置这项陷阱并不是为了让学生难堪，而是希望在 AI 日益影响学习方式的背景下，向学生强调“学术诚信”。完成评分后，他向学生发出通知，解释为什么有这么多人在该部分不及格，并邀请任何认为评分不公的学生提出申诉。
这起事件很快在网上引发两极讨论。部分网友称赞 Gibson 给学生上了一堂有关诚信的重要课程。但也有人认为，既然隐藏指令确实存在于题目中，学生从技术层面来看也算遵循了要求，Gibson 可能很难应对成绩申诉。“好吧，但严格来说，那项指令确实包含在你的题目中。他们也的确遵循了指令。如果学生对不及格成绩提出申诉，我认为你很难为自己的评分决定作出辩护。”
还有网友指出，这种做法或许只能教会学生下次使用 AI 时如何避免被发现。“你所做的，不过是在教他们下次如何使用 AI 而不被抓到。”
来源: KTLA
