严打“黑公关”、围歼AI“黑手” 上海发布网络问题管理效果

近来，黑公关上海市委网络安全和信息化委员会办公室对外发布了“明亮清明浦江·2024”的严打8个典型处置事例，会集展现了针对自媒体诽谤传谣、围歼网络问题AI技能乱用，黑手尤其是上海涉企侵权等杰出网络问题的管理效果。

曩昔一年间，发布上海活跃安排展开20多项专项举动，管理包含优化营商网络环境、效果抵抗网络暴力等要点范畴。黑公关经计算，严打累计收拾违法违规和不良信息1008万余条，围歼网络问题依规处置违规账号349万余个。黑手

严打“黑公关” 整治自媒体涉企侵权行为。上海

这次发布的发布8个典型处置事例显现，以发布负面信息敲诈企业获利，管理是当下要点整治的违法违规行为。部分自媒体账号假造不实内容向企业施压，借协作之名索要金钱。

比方“乳韵之家”等账号，就屡次发布某乳品企业的负面信息。当企业自动联络交流时，这些账号运营者便暴露无遗。

遭到企业拒绝后，“乳韵之家”等账号仍不死心，持续向企业施压。无独有偶，“星空财富”“星空财研”等账号也使出恶劣手法。他们发布某互联网企业的不实内容，随后向企业提出，只需付出费用就能撤下这些负面文章，还要求企业交钱参加所谓“白名单”，暗示参加后就不会再被歹意曝光。

上海市委网络安全和信息化委员会办公室接到告发后查实状况，依法封闭涉事及相关账号，并将涉嫌敲诈勒索头绪移交公安机关。

上海交大人工智能管理与法令研究中心秘书长 何渊：一旦出现这样的歹意勒索，正确的做法是向公安机关告发，或许向网信部分告发，寻求公权力的支撑，由法令来惩罚。

这类歹意行为常发生在企业初次揭露募股、签订合同等关键时期，使用言论施压，获取不正当利益。

上海市委网络安全和信息化委员会办公室网络管理处四级调研员 陈廷雯：经过这几年持续展开优化营商网络环境专项举动，咱们不断展开政策法规和事例的宣扬，许多企业进步了保护合法权益的认识和才干。他们在接到自媒体提出的不合理诉求的时分，比方要求协作才干删稿，企业第一时间就会想到向网信部分告发处置。咱们也会坚决支撑企业维权，会同有关部分严厉冲击违法违规的自媒体。

虚伪兼职众多 网信亮剑整治。

在此次专项举动中，上海市委网络安全和信息化委员会办公室发现，部分自媒体用虚伪高薪兼职信息引流牟利的手法越发荫蔽，且构成了套路，严峻破坏网络生态与作业市场秩序。

2024年3月，网上有“自媒体”账号很多发布“xx图书馆300/天，帮忙图书归类”“图书馆收拾数据270元/天”等虚伪招募信息，严峻搅扰网络生态。相关部分查询发现，这些信息其实是引流欺诈圈套，依法依约对“兼职找搭子”“魔都驿站吧”“爱吃草莓”等违规账号予以永久封禁。

上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃：其实这些有偿兼职信息，实际上是经过标示高薪信息将网民引流到第三方途径，并逐渐诱导不明真相的网民购买求职网站的会员，等顾客充值之后才发现，真正在招的岗位与宣扬的不符。

经查，不法分子虚拟岗位、夸张薪酬，诱使网民点击链接，接着用交纳会员费、解锁报名资历、提交保证金预留名额等托言施行欺诈。这些信息常打着“官方协作”“公益招募”的旗帜，乃至盗用图书馆、博物馆等公共机构名称，极具迷惑性。为此，上海市委网络安全和信息化委员会办公室敏捷举动。

上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃：咱们运用相关技能进步对不实信息的监测预警和快速辨认才干，保证不实信息在刚刚冒头时就能敏捷发现、及时处置，与相关部分树立网络流言的巡查监测、核对反应、谈判研判、头绪移交、冲击处置的闭环机制，在相关流言的处置中都起到了很好的震撼效果。

针对虚伪招募信息荫蔽性强、途径审阅困难的问题，相关部分催促途径针对“高薪兼职”“免试入职”等关键词树立样本库，进行前置过滤，一起对有前史违规记载账号的相关信息施举动态追寻。

上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃：网民在看到这些信息时，仍是要慎重分辩这些信息的真伪，要学会从网上找一些官方信息去核实，也要经过一些穿插比照的方法，去验证这些信息的真伪性。尤其是触及金钱的时分，特别要慎重，不要容易去转账、充值等等。

围歼AI“黑手” 净化网络空间。

跟着AI生成技能日益老练，本来服务大众的科技，却被不法之徒“魔改”，借“换脸”“换衣”传达低俗内容、设下欺诈圈套。近期，上海市委网络安全和信息化委员会办公室向网络途径AI技能乱用乱象“宣战”，力求全方位净化网络空间，还网友一片明亮清明六合。

在专项举动期间，巡查人员发现“程序媛**”“小狗爱吃**”等账号，竟经过视频教程，明火执仗向用户教授使用AI技能达到“一键去衣”“换脸换身”等低俗的操作方法。而部分网络店肆竟公开售卖相关软件。

为此，上海市委网络安全和信息化委员会办公室辅导属地途径展开全面排查，收拾违规产品，关停违法店肆，对涉事账号采纳禁言等处置办法。但整治作业不能仅依托监管部分，途径本身也担负重要职责。

上海某互联网途径副总修改 顾复俊：咱们对账号认证注册信息的复核会严格把关，定时发布管理的公告，管理的内容包含网络暴力、网络流言、欺诈信息。咱们重视未成年人身心健康的方面，进一步完善了未成年人保护模式，用AI、用大模型来进一步辅佐咱们做好审阅作业。

现在，部分网络途径已树立24小时告发处理机制，用户能够经过弹幕、谈论等多种途径告发违法内容。途径负责人表明，虽然AI大模型正助力审阅，但技能发展速度仍赶不上违法手法的更新迭代。

上海市委网络安全和信息化委员会办公室网络管理处二级主任科员 周力君：单单靠途径自己的AI辨认才干是有限的，咱们的网民，包含技能研制专家，共同去加快相关的AI假造信息的辨认冲击，我觉得才干构成更好的合力。

面临AI假造内容难以辨认，从而引发网络虚伪信息众多、欺诈危险剧增等难题，科研人员与技能团队活跃探索，一系列针对性技能手法正加快更新。其间，数字水印和特征检测成为破解难题的两大关键技能。

聚集网络恶疾 “明亮清明”再反击。

本年3月20日，上海市委网络安全和信息化委员会办公室联合多家单位敞开了“明亮清明浦江・2025”网络生态管理旬举动。

持续针对涉企侵权、网络暴力等五大要点范畴展开专项整治，并推出40余项主题日和途径敞开日活动，活跃推进健康网络生态建设。经过“监管+企业+网民”三方联动，将管理效果落地，实在优化网页出现内容，为网民营建更优质、安全、明亮清明的网络环境。

(责任编辑：知识)