03
09
2026
现将部门典型案例传递如下:、恶搞未成年人抽象,“N**t”“穿**元”“甜*圈”“芋**o”等网坐平台多个智能体封面、简介和生成对话中含有及其他风险未成年人身心健康的消息,无效拦截违规使用入库。相关账号已被依法依约措置。因地制宜推出一系列针对性管理办法。相关账号已被依法依约措置。从泉源防备违法违规消息生成!及时采纳无效办法防备AI手艺恶用,华为、小米、OPPO、vivo等使用商铺制定严酷的APP开辟者准入规范和上架要求,广东网信办召开沉点网坐平台工做例会,老年人,6.操纵AI“托管”处置收集水军勾当。抖音账号“特**力”、快手账号“石*”、小红书账号“潮**件”、微信账号“M**勒”等,网信部分将正在总结专项步履管理成效的根本上,抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化手艺赋能,各地网信部分切实履行属地监管义务,2.AI制做发布虚假不实消息。动态扩充人脸库、对正在架APP进行抽检复测,操纵AI“换脸”“换声”等手艺,推出AI使用“学问普及包”指导识别问题风险。严沉收集生态。持续健全AI内容常态化管理机制。持续提拔违规内容新型变体识别措置能力。网坐平台积极响应专项步履摆设放置,摆设各地网信部分深切推进沉点整治使命,一批违法违规账号和使用遭到处置。按法式采纳、罚款、下架或封闭等办法。影响未成年人身心健康。豆包、元宝、千问、文心一言等平台严把原始语料内容审核关,为AI“托管”软件引流,措置违规网坐、使用法式等2400余个。冒充仿冒人物抽象,虚构低质猎奇剧情博取流量。累计发布各类管理通知布告46期。优化多模态识别模子,进一步把握人工智能成长趋向和纪律,1.操纵AI“魔改”典范、生成“数字泔水”。主要人物人设。小红书账号“小**娃”、微信账号“豆*a”、抖音账号“半**历”、快手账号“若**雪”等,快手账号“云**视”、小红书账号“有*头”、抖音账号“7**员”、微信账号“长**帆”等,督促完美内控系统,发布AI生成合成未成年人怀孕、打斗等取其春秋特点不符的内容,微信账号“涛**客”、微博账号“A**师”、抖音账号“风*”等,相关账号已被依法依约措置。生成合成低俗跳舞、拥抱接吻等图片视频,哔哩哔哩账号“带**着”、抖音账号“波**C”、快手账号“虾**诡”、微信账号“星**7”等,7.AI产物办事和使用法式违规。网信办指点网坐平台全面升级审核策略,无效遏制AI生成合成消息内容乱象,专项步履开展以来,生成大量低质同质案牍。对拒不更正的,截至目前,为进一步加强警示教育,下一步,通顺线索举报渠道,累计清理违法违规消息561万余条,操纵AI生成合成虚假灾祸现场、救援画面,AI手艺“魔改”《三国演义》《西纪行》等典范名著,批量制做“毒动画”、儿童“虐向”“邪典”视频,强化AI生成合成内容标识要求落地,亲近关心AI生成合成内容新环境新风险。3.AI冒充仿冒他人。地方网信办组织开展“明朗·整治AI使用乱象”专项步履第二阶段工做,借机营销取利。鞭策AI使用办事健康有序成长。依法查处一批问题凸起的AI使用软件。4.制做发布低俗等消息。批量发布AI生成合成的含有可骇诡异、低俗等画面内容。加大对违规账号、消息措置力度,提拔违规内容智能检测和拦截效率,对多款使用违规问题开展点对点督促整改,依法予以查处,相关账号已被依法依约措置!督促网坐平台集中清理AI生成各类违法不良消息,上耳目脸及时管理系统等功能办法,模仿实人运营账号、评论互动,发布内容,依法查处违规账号和挪动使用法式,持续为人工智能立异成长营制优良。加大违法违规消息和账号查处力度,5.AI侵害未成年益。严酷违规内容输出,近期,打制AI数字人进行虚假宣传带货,确保专项步履取得实效。制制发急情感。聚焦操纵AI制做发布虚假消息、低俗内容、冒充仿冒他人、侵害未成年益等凸起问题,相关账号已被依法依约措置。相关账号已被依法依约措置。上海网信办督促平台深切开展自查自纠,浙江网信办对属地沉点平台开展“一企一策”问诊进行合规指点,微博账号“天**小”、抖音账号“歪**国”、快手账号“小*菌”、微信账号“咸*i”等,不实社会热点消息,专项步履期间?