抖音整治 AI 恶意营销号，近一月处置违规账号 50.7 万个

IT之家 10 月 28 日消息，根据抖音黑板报，AI 工具的广泛使用降低了内容创作门槛，为创作者提供了更多便利的创作手段和表达方式。然而，一些以流量变现为唯一目标的“恶意营销号”，并未将 AI 工具用于正当创作，反而将其视为快速起号的捷径，通过批量生成和复制爆款模板实现快速变现，持续破坏平台生态基础，严重压缩优质创作者的生存空间，损害公平竞争环境。

近期，该平台监测发现，部分恶意营销号利用 AI 工具显著扩大恶意营销内容的规模，不仅在内容形式和传播手法上带来新挑战，部分账号背后还存在黑产教学组织的运营，违规手段更新快、隐蔽性强。目前，AI 恶意营销号主要呈现三类问题：内容上表现为低成本同质化和工业化量产；行为上常伴随诱导互动；一些恶劣的营销号存在传播 AI 虚假信息的情况。为维护健康创作环境，平台已对这类滥用 AI 工具的恶意营销号进行持续治理。

IT之家附官方公布案例：

> 案例一：通过 AI 生成诱导互动内容骗取流量快速起号 > > 此类行为主要利用 AI 生成“神医送福”“迎财神”“致敬军人”等祝福送礼类内容，诱导用户点赞、评论、转发，骗取流量快速起号。 > > 例如，有 450 个账号发布此类模板化特征明显的内容，在获得一定流量后试图通过带货变现。 > > 另有账号持续发布 AI 生成的冲突类小剧场，内容聚焦家庭伦理、社会矛盾等“爽文”剧情，常在视频末尾以话术引导点赞求支持，并通过大量同质化内容和账号间互相搬运抄袭快速批量起号。其中 807 个账号因同质化严重已被处置。 > > 案例二：通过 AI 仿冒公众人物蹭热营销带货 > > 此类行为主要利用 AI 数字人、AI 合成声线等技术，冒充公众人物或其亲属出镜，通过虚构事实博取信任后引导带货变现。 > > 例如，部分账号使用 AI 数字人冒充名人亲属，以“谎称患癌、饮用某产品后痊愈”等虚假养生案例博取信任，在视频结尾引导用户到商品橱窗下单。有 1617 个账号以此方式出镜带货，多个账号投稿内容和售卖产品一致，疑似由团伙统一教学，并假称获得“抖音综艺”授权引导用户加入机构，相关账号均已处置。 > > 另有账号以 AI 模仿名人声线配音加洗稿文案批量产出内容，并在同一主题方向批量起号，冒充公众人物本人传播相关信息。例如，有 401 个账号通过 AI 合成公众人物声线，批量产出语录或生肖讲解内容，部分账号售卖中医相关商品，营销意图明显，相关账号已处置。 > > 案例三：通过 AI 批量炮制虚假信息博取流量 > > 此类行为主要利用 AI 生成虚假画面、虚假人设或模板化谣言，以此获取流量后进行营销。 > > 部分账号批量进行矩阵起号，用 AI 生成家电爆炸等惊悚画面抓取用户注意力，随后引流橱窗售卖相关清洁剂。例如，有 30 个账号通过此类画面引流带货，相关账号均已处置。 > > 另有账号使用矩阵化的新号重复投稿 AI 生成的虚假老龄孕妇内容，伪装成用户分享，实为引流试管机构。例如，有 143 个账号批量发布 AI 生成的虚假“好孕”内容引流至站外试管机构，其中绝大多数为近两个月新注册账号，相关账号均已处置。 > > 还有账号利用 AI 生成模板化婚恋人设，吸引流量后转向其他变现方向。例如，有 66 个账号通过 AI 生成中老年男性形象搭配告白音频吸引中老年女性关注，相关账号均已处置。 > > 案例四：利用 AI 生成恐怖迷信与猎奇内容博取关注导流牟利 > > 此类行为主要利用 AI 生成封建迷信、阴间恐怖等猎奇内容，或渲染迷信氛围骗取用户互动，随后通过售卖祭祀用品、引导付费测算或私域导流等方式牟利。此类内容不仅易引发用户心理不适，还可能传播封建迷信、误导用户。 > > 例如，有 32 个账号以“道人”“师兄”“先生”等古风道家昵称命名，投稿以民俗分享为幌子，批量发布 AI 生成的地府生活、亡魂归程、阴间打工、祭祀超度等迷信内容，通过渲染“地府没钱寸步难行”制造用户焦虑，引导购买玉皇钱祭祀用品；另有 154 个账号利用 AI 生成白狐、神兽、观音菩萨等形象，叠加音频送祝福、送财运，还通过“天堂探亲”“冥界寻亲”等方式骗取评论区互动，起号后引流站外“提供帮看逝去亲人现状”等付费服务。平台已对相关违规账号进行处置。 > > 案例五：借助 AI 工具低成本复制内容批量起号变现 > > 此类行为不局限于特定内容题材，而是将 AI 工具视为起号捷径，一款玩法在平台火爆后，大量营销号便跟进通过 AI 模仿批量起号，并沉淀出付费教学的黑灰产生态，一些流量转化路径较短的赛道成为此类违规行为的高发区。 > > 例如，有 304 个账号批量发布 AI 治愈类内容，以情感共鸣、童年怀旧为情绪钩子吸引用户，涨粉后转向套取流量激励变现；另有 732 个账号打着“科普”名义，批量发布历史人物传、中药材故事、国学文化等模板化内容，为后续带货或知识付费做铺垫；有 108 个账号集中发布民间故事题材内容，不同账号情节套路高度雷同，批量复制爆款模板；此外，有 296 个账号利用 AI 批量生成人物背景、对话脚本、售卖商品高度相似的带货视频。相关账号均已处置。

IT之家从公告获悉，近一个月，抖音平台依据“账号健康分规则”，累计处置违规短视频 113.5 万条，处置违规账号 50.7 万个，30.2 万个账号通过参与平台规则学习考试等方式引导其规范创作。后续平台将持续加大对滥用 AI 工具实施恶意营销行为的打击力度，加强对黑产工具和教学组织的追溯打击，同时欢迎用户通过举报渠道提供违规线索，共同维护清朗网络环境。