澳洲校园爆发AI换脸不雅照风波！案件激增550%，最高判6年，家长该如何应对？

塔州一所学校因处理Deepfake（深度伪造）事件的方式遭到家长强烈批评。这起事件涉及21名女学生，她们的形象被用于AI生成的色情图像。

由AI生成的Deepfake（深度伪造）照片或视频，正越来越多地在澳洲校园中流传。(Pexels: kaboompics)

家长们透露，涉事的The Friends School曾建议他们不要将此事告诉女儿。

The Friends School的家长对学校处理AI伪造色情图像事件的方式深感不满。(ABC News: Jake Grant)

尽管家长们最终还是选择告知孩子，但由于不清楚其他同学是否也得知真相，受害学生普遍感到被噤声、缺乏支持。

校方则回应称，学校已根据警方和专家建议采取行动。校方还指出，这些图像是在校外时间、利用私人设备制作的，因此学校难以独自应对Deepfake带来的挑战。

那么，当涉及学生的Deepfake事件发生时，家长和学校究竟该如何应对？

什么是“Deepfake”？

eSafety专员表示，受害者往往不知道自己的形象已被用于Deepfake。(Supplied: Adobe Stock)

Deepfake是指利用AI技术生成的照片、视频或音频文件，用来展示某人从未真正做过的事或说过的话。

这类内容通常非常逼真，尤其在手机等小屏幕上浏览时几乎难以辨别，而且极易被传播扩散。

eSafety专员（eSafety Commissioner）Julie Inman Grant指出，制作Deepfake的动机五花八门，包括骚扰或羞辱他人、寻求性满足，甚至用于儿童性虐待。

受害者往往毫不知情。制作者会利用其社交媒体上的照片，例如自拍，甚至是学校证件照。

令人担忧的是，这类制作工具极易获取，操作门槛低，成本低廉甚至完全免费。

这种现象在学生中有多严重？

eSafety专员Julie Inman Grant表示，Deepfake事件正使整个校园陷入混乱。(Four Corners: Keana Naughton)

eSafety专员直言，这已演变成一场危机。

2024年的数据显示，自2019年以来，网络上的Deepfake内容年增长率高达550%。其中，色情视频占所有Deepfake素材的98%，而受害者中有99%是女性和女孩。

Inman Grant表示，Deepfake事件正让整个校园陷入混乱，教职员工、家长和学生往往不知所措。

受害学生普遍感到羞辱、愤怒和恐惧。而那些在群聊或私信中收到此类内容的学生，也会陷入困惑——是否该举报？如何支持朋友？自己会不会成为下一个目标？

学校的责任是什么？

这类事件的处理相当棘手，尤其是当内容在私人设备和私人场合制作，但矛头却指向校园学生时。

eSafety专员认为，相关青少年及教职员工的身心健康是首要任务。

Deepfake内容可以在笔记本电脑和手机等设备上快速生成，这使得打击此类行为充满挑战。(Unsplash: Kaitlyn Baker)

学校作为一线应对者，应为受害学生提供自主选择权，并让他们参与决策过程。应对措施的核心不应是维护学校声誉。

具体而言，学校应指派一名专门负责人管理事件，信息分享限于必要人员。事件必须上报警方和eSafety，受影响学生的家属也应被及时告知学校的应对举措。

此外，学校还应引入额外的心理健康支持服务，并围绕数字素养、尊重关系及同意原则制定相关政策和开展教育。

围绕数字素养和同意原则的政策有助于防止Deepfake内容的制作。(ABC Mildura Swan Hill: Timu King)

孩子被Deepfake了，家长该怎么办？

如果孩子主动向你求助，请首先保持冷静，与其共同商讨应对方案。

eSafety专员建议收集证据（截图、链接、用户名），但切勿保存或分享这些内容。接下来，协助孩子向学校、警方、eSafety及相关在线平台举报。

家长还需意识到，孩子可能会经历羞愧、自责、害怕不被相信、孤独等复杂情绪，必要时应代为寻求心理咨询。

如果家长先于孩子发现相关内容，处理方式则更为微妙。

Sexual Assault Support Service（SASS）表示，家长或许有各种理由不立即告知孩子（例如孩子年纪尚小），但该机构鼓励尽可能保持透明，并建议家长可向SASS等专业机构咨询。

如果孩子告诉你他们收到了Deepfake内容，请肯定他们没有二次传播，并重申主动开口是正确的选择。

如果孩子是制作或传播Deepfake的一方，则应向其明确说明严重的法律与心理后果，并督促其承担责任——删除内容、主动举报，并为自己的行为道歉。

Sexual Assault Support Service还推荐了其PAST（预防、评估、支持与治疗）早期干预项目。

这是违法的吗？

答案是肯定的。

2024年，澳洲出台新法，明令禁止分享未经当事人同意的Deepfake成人色情内容，最高可判六年监禁。

值得警惕的是，一些青少年可能出于恶作剧或实验心理制作并传播Deepfake，却没意识到这已构成严重的刑事犯罪。

今年4月，首位依据该联邦法律被起诉的澳洲人已当庭认罪。