当前位置: 首页 > 体育(yu) > 电竞

用AI大模(mo)型判断擦边:抖音(yin)狙击新型低俗诱导打(da)赏8.8万人次被处罚

2025-11-14 15:10:13
来源:
电竞资讯11月14日称 抖(dou)音集团今日(ri)发(fa)文,在直播业态发展背(bei)景下,直播间不仅成为主播展示自我的舞台,也(ye)创造了大量新兴岗位,成为带动灵活就业的(de)“蓄水池”。随着(zhe)各平台治理动作的专业化、常态(tai)化,直播发展初期的乱象(xiang)问题多数得到了有效(xiao)遏制,行业(ye)已进(jin)入优质、合规的发展阶段(duan)。与此(ci)同时,部分违规主播、作弊团伙及黑灰(hui)产也开始变更作弊手段,与平台打起“游击战”,以更隐蔽的方式逃避(bi)处(chu)罚(fa)。

2025 年以来,8.8 万人次(ci)在抖音直播因低俗诱(you)导打赏被处罚,11.7 万个账号因色情违规被无限期回收直播权限(xian)。

抖音集团表示,“低俗擦边”违规一直存在变(bian)体多(duo)、界定难等问题,自 2024 年打着“语音助(zhu)眠”旗号进行低俗直播形(xing)式冒头,此类“软色情”违规成为各平台违(wei)规治理(li)的重(zhong)点。在严格治理下,这类(lei)违规团伙开始利(li)用剧情(qing)演绎、弹幕互动等新形式进行低俗内容(rong)输出,或采(cai)用特(te)定拍摄(she)手法、场景搭建等方式,渲染烘托低俗不良氛围,极(ji)大增加了监(jian)管或治(zhi)理难度。

相较于过往在直播间闪(shan)现二维码导流至站(zhan)外淫秽色情网站,当下的色情黑产也同样有(you)了更隐蔽的链路。他们通过在各(ge)种资料区、图(tu)片、主播着装上展现网址或关键词等(deng)信息以导流站外,或在导流中跨多个平台中转,甚至篡改 IP 地址(zhi),使用(yong)“黑话”沟通,规(gui)避平台审核。

对(dui)此,抖(dou)音直播持(chi)续迭代治理策略和手段(duan)。针对较隐(yin)晦的软色情导流场景,平台启用了多模态大模型(xing),综合判断直播间画面、声音(yin)、口播内容和用户举报等,分辨直播间是否有擦边风险(xian),实现风险快速拦截。另一方面,平台不断(duan)完善举报链路,在 30 分钟内处置举报风险,并结合(he)用户反馈更新大模型样(yang)本,达(da)到长效化治理的效果。

针对色情导(dao)流黑产,平台搭建了“事前黑产(chan)防范,事中隐晦内容识别断(duan)播封禁,事后防止(zhi)回(hui)流”的(de)治理链路。针对(dui)高危场景,前置风(feng)险识别(bie)并阻断(duan);在风险(xian)发生时,通过内容大模型、异常行为检测(ce)等(deng)能力,做(zuo)到实时断播。针对较(jiao)隐晦的导流线下场景,则主要通过用户举证做好风险主播的防回(hui)流策略,并将涉嫌违法(fa)的线索上报相关主管部门。

2025 年以来,抖音(yin)共封禁(jin)“软色情”直播间 66 万个,无限期(qi)回(hui)收 11.7 万个(ge)涉色情违规账号的直播权限。

平台对于主播的管理(li)核心,则是“长效观察、有效识别”。平(ping)台在(zai)针对(dui)直播间违(wei)规(gui)内容做(zuo)单次处(chu)罚的基础(chu)上,结合主播日常直播(bo)行为来增(zeng)减其账号健康分,通过主播的长期表现(xian)进行评(ping)判,多次(ci)违规仍不(bu)整改的主播,最(zui)终将被永久回收直播权限。

对于利用低俗(su)直播(bo)刺激(ji)、诱导打赏的违规主(zhu)播,平(ping)台则在健康分基础上,重点加强对诱导消费类违规主播的“经济”管理力度,对违规场次(ci)进行(xing)资金冻结、提现(xian)考核、延迟结算(suan)等。

2025 年(nian)至今,用户对诱导打(da)赏的举报率同比减(jian)少 74%;超过 40 万主播因违规诱导打赏被扣(kou)除健康(kang)分;共有 8.8 万人次因(yin)涉低俗(su)直播诱导打赏被处(chu)以限制违(wei)规场次收益提现、关闭礼物收入功能、禁止使用 PK 功能等处罚,五千个账号被无限期回收直播权限。

此类(lei)精细化手段,还运用在了团播(bo)的治理上。近两年来,以互动性(xing)强、观赏度(du)高(gao)为特点(dian)的(de)团(tuan)播逐渐兴起,成为(wei)用(yong)户喜闻乐见的直(zhi)播形式。然而,一(yi)些账号却借团播玩起“翻牌选妃”“蒙面摸人”等低俗(su)花样,或使用“跪(gui)爬”“嘶喊哭泣”等引人不适方式,进行拉票或(huo)诱导用户打(da)赏互动。

今年(nian) 7 月 30 日,抖音升级《抖(dou)音直播团播内容管理规范》,并发布《抖音直播团播机构管理规范》。对存在违规行(xing)为的团播账号,平台将根据违规程度(du)实(shi)施阶梯式处罚,对旗下违规主播占比高,或存在侵(qin)犯主播合法权益(yi)等不当经营行为的公会(hui),平台将予以扣减公会健康分、限制经营能力(li)等处置,情(qing)节严重的,平(ping)台将终止(zhi)合(he)作关系。今年以来,抖音直播(bo)因各(ge)类低(di)俗诱导打赏,共(gong)清退公会 113 家。

抖音集团(tuan)还表示(shi),不管是何种直播(bo)形(xing)式,若涉(she)嫌违法,平台均(jun)将第一时间上(shang)报相关部门并配(pei)合线下打击。今年 1 月,抖音直播在日常治理中发现(xian),有黑产批量购买、注册抖音账号,将账号(hao)头像修改为隐晦的第三方平台联系方式,引导用户(hu)下载涉色(se)情违法类(lei) App,在 App 内进行(xing)色(se)情违法活动。平台立即无限期回(hui)收相关账号权限(xian)并上报线索,最(zui)终 4 名犯罪(zui)嫌疑人被依(yi)法刑事拘留(liu)。

2025 年初,平台(tai)发现(xian) 2 个(ge)以(yi)承(cheng)诺线下卖淫为(wei)由诱导用(yong)户消费打赏的(de)团(tuan)伙,利用短视频(pin)发布美女视频和(he)虚假(jia)定位,诱导不同城市的用户进入(ru)直播间;再通过隐晦文案、背景、签名等多个场景发布隐晦(hui)交(jiao)友信息(xi),引导用户(hu)站外添(tian)加其(qi)他社交软件。抖音直播第一时间对相关账号进行封禁(jin),并(bing)将线索上报给当(dang)地(di)公安(an)机关。截(jie)至目前,警方共抓捕(bu) 21 人,其中 16 人被刑事拘留。

抖音集团公告(gao),2025 年以来,已有 68 名违法犯罪嫌疑人因传播淫秽色情被刑拘。抖音直播相关负责(ze)人表示,平台将持续加强技术投入与治理力度,打击低俗(su)直播、引诱打赏行为,致力于营(ying)造一个健康清(qing)朗的网络直播生态。

最新(xin)资讯
最新录像(xiang)
最新集锦
热(re)词推荐
hpdSO