根据 404 媒体的调查,频道中的视频内容遵循了相似的格式,包括一些知名的游戏角色,如 “古墓丽影” 的劳拉・克劳馥。在这些视频中,画面多为女性角色被暴力对待,甚至有一则视频显示俄国士兵枪杀流泪的乌克兰女性,画面中她们的胸前贴有国旗。
频道的创作者还在视频中使用了带有种族歧视色彩的选项,让观众投票选择下一部 “受害者” 的视频,显示出极端的厌女情绪和扭曲的喜好。这种极具争议性的内容在社交媒体平台上引发了极大的关注与不安。
在 404 媒体向 YouTube 请求评论后,该频道最终被删除。YouTube 的一位发言人表示,该频道因违反服务条款而被关闭,尤其是因为它曾在之前遭到过禁令。该频道使用的是谷歌新推出的文本到视频生成工具 Veo 3,尽管这款工具有一定的生成限制,但频道创作者采用了多重账户的方式,规避了这些限制。发言人指出,谷歌对其生成 AI 工具的使用有明确的政策,并在不断改进其管理机制。
这样的事件再一次引发了人们对于 AI 生成内容的关注,尤其是那些不当使用 AI 技术的案例。虽然 AI 技术具有广泛的应用前景,但也存在潜在的道德和法律风险,亟需更好的监管与引导。