AI恶搞玩过火，加10名学生停课

加拿大魁北克省莱维市（Lévis）一所高中近日发生一起涉及人工智能（AI）的校园事件。10名学生因利用AI技术篡改教师及学校员工的照片，并将图片发布到社交媒体上，遭到学校停课处分。 据报道，涉事学校为Horizon高中。当地教育服务中心（CSSDN）发表声明称，这10名学生的行为违反了学校的行为守则。 根据规定，学生不得发布任何具有冒犯性、诽谤性、仇恨或暴力性质的内容及图片，也不得在未经当事人同意的情况下录制或传播他人的影像。

图源：Google AI恶搞照片竟出现枪指老师头部的画面 魁北克省学校管理人员协会主席André Bernier接受采访时表示，事件中大多数经AI修改的图片属于荒唐、无厘头的恶搞内容。 不过，其中一张发布在Snapchat上的虚假图片据称显示，一把枪正指着一名教师的头部，性质明显更加严重。 Bernier表示：“未经许可使用他人的照片是绝对不能接受的。你永远不知道事情最终会发展到什么地步，因此学校决定迅速介入处理。” 据CSSDN介绍，最先发现并举报这些AI篡改照片的并非教师，而是其他学生。这些学生看到相关图片后感到不安，于是主动向学校工作人员反映。 随后，学校管理人员及驻校警员约见了涉事学生，要求他们删除相关图片。学生同意了这一要求。 最终，10名涉事学生均被停课3天，但没有受到刑事起诉。 AI带来校园新风险，教师声誉可能受到严重影响 魁北克省教师工会联合会（FSE-CSQ）主席Richard Bergevin表示，学校必须严肃对待此类事件。 他指出，一旦经过篡改的照片或视频被上传到网络，就可能迅速传播，甚至对教师的个人声誉造成不公平的损害。 Bergevin回忆，在魁北克省实施校园手机禁令之前，曾发生过学生在课堂上偷拍教师的事件。 一些学生会将拍摄的视频剪辑成短片，刻意让教师显得不称职或行为不当，再在缺乏上下文的情况下将视频传播出去。 随着手机禁令实施，这类事件近年来明显减少，教师也不再像过去那样担忧被偷拍。 然而，AI技术的出现，又带来了新的风险。 “如今，人工智能为学生提供了功能强大的工具，这类事件未来可能越来越频繁。”Bergevin表示。 他指出，学生可以轻易利用AI修改已经发布在网上的教师或学校员工照片、视频，制造虚假内容。 因此，他认为学校及教育机构不仅应对违规学生实施纪律处分，必要时还应向警方报案。 专家提醒：教师发布照片也要更加谨慎 Bernier同样警告，学校员工即使只是将普通的校园活动照片上传网络，也需要考虑这些图片可能被他人利用AI篡改的风险。 他建议，学校可以为员工提供相关培训，帮助他们了解如何设置社交媒体的隐私权限，限制陌生人访问和使用个人照片。 “我们必须时刻注意隐私设置。因为一旦疏忽，原本不打算公开的照片就可能变成所有人都能访问的公开内容。”他说。 AI工具太容易获得，专家呼吁限制未成年人使用 舍布鲁克大学（University of Sherbrooke）讲师、博士研究生Carolanne Campeau，同时也是关注过度网络连接问题的组织PAUSE的顾问。 她指出，目前网络上的AI工具普遍缺乏充分监管，儿童和青少年可以轻易使用。 “这些工具对孩子来说实在太容易获得了。政府必须加强对相关平台的监管。”Campeau表示。 她坦言，令她难以理解的是，科技企业至今仍未能提供足够安全、适合青少年使用的AI工具。 她认为，科技发展的速度往往远远超过政府立法及教育系统制定规则的速度。 “目前大家讨论的重点仍然是社交媒体，而不一定是人工智能。”她说。 Campeau建议，政府可以考虑对一定年龄以下的儿童实施暂时性的AI使用禁令。 “我们需要推迟这些AI工具进入孩子生活的时间。”她表示。 在她看来，年龄较小的儿童不应接触AI工具，而青少年则可以在学校建立完善的数字素养教育体系后，逐步学习使用。 她强调，教育不仅要让学生掌握新技术，更要帮助他们理解使用这些技术可能带来的风险。 “我们需要培养他们的批判性思维，让他们明白哪些事情在技术上可以做到，哪些行为在道德上不可接受，以及哪些行为可能导致法律后果。” 魁北克教育部长表态：校园AI恶意篡改行为零容忍 魁北克省新任教育部长Joël Arseneau也对此事作出回应，明确支持学校对涉事学生实施停课处分。 他在声明中表示：“我们必须迅速而果断地采取行动，向整个教育系统传递明确的信息：对于Horizon高中发生的这类影像篡改行为，我们采取零容忍态度。” Arseneau同时指出，规范学校中的AI使用已经成为政府的优先事项。 他表示有信心，政府能够尽快找到有效措施，防止类似事件再次发生。 随着AI图像生成和修改技术日益普及，这起事件也引发了新的教育问题：当学生只需简单操作，就能制作出足以损害他人声誉、甚至带有暴力威胁意味的虚假图片时，学校、家长和政府应如何划定AI使用的界限？ 对于越来越多接触AI工具的加拿大青少年而言，学会使用技术固然重要，但理解隐私、尊重他人，以及认识技术滥用可能带来的纪律和法律后果，同样不可忽视。