来源：7月3日《新华每日电讯》第一证券
莫让“AI造谣”的“黑嘴”网暴伤企｜整治“AI技术滥用”系列评论之一
作者：新华每日电讯评论员兰天鸣
近日，上海警方成功侦破一起利用人工智能技术编造、传播网络谣言损害企业权益案，抓获犯罪嫌疑人8名。嫌疑人为提高账号流量获取广告收益，在网上找到人代笔。代笔者利用AI生成了一篇涉及沪上某茶饮企业的文章，文中包含大量针对该企业及创始人的不实信息。全网浏览量迅速上涨，引发网民对该茶饮企业的质疑。
近年来，AI工具正融入人们日常生活工作。而作为技术使用的一体两面，用AI工具造谣抹黑企业的现象也频频发生。AI“一键生成”“批量产出”内容的能力，大大降低了“黑嘴”抹黑营商环境的成本和门槛。
造谣者提出指令，AI快速以“无中生有”“移花接木”“断章取义”的手法拼凑，再冠以“博眼球”的标题。由于违法人员深谙内容平台算法机制，涉及企业的不实内容被快速推送到用户眼前。
AI造谣之所以猖獗，是背后的利益驱动作祟。从相关案件看，利用AI造谣抹黑企业的目的大致有二：一部分，为了追求内容平台给创作者的收益分成：内容越“劲爆”、点击量越高，分成收入也越多。而还有一些，则是敲诈勒索，刻意诋毁企业产品质量、经营状况以及企业家声誉，再以“删稿”等名义，向企业索取所谓“合作费”，将企业当作“提款机”。
AI谣言对营商环境的破坏力巨大。对企业来说，一旦陷入谣言漩涡，要花费大量时间、人力、财力辟谣、维权，即使澄清成功，品牌形象也已受到伤害。有的企业在新品发布、上市、融资等关键时期，因谣言的干扰，发展推进受阻。
AI谣言严重扰乱了正常市场秩序第一证券，破坏了公平竞争的市场环境，干扰了正常的市场运行机制，误导消费者的购买决策，降低公众对市场的信任度，进而影响社会的经济活力。
良好的营商环境需要大家共同呵护。当前，平台针对AI内容治理已经有所行动。例如，AI生成的部分内容在平台上已经能够被识别、标注。但也必须看到，AI造谣治理是一项长期工作，难以“毕其功于一役”，需要“两只手”长抓不懈：一方面要做好技术识别、技术防控；另一方面应盯住AI乱象背后的利益链，做好源头治理、打击。
就平台而言，要摒弃纯粹做“流量生意”的广告商思维，不能抱着让涉企负面舆情“飞一会儿”“让热度高一点”再处置的想法，要加快形成对谣言识别、分流、处置的靶向治理，以“AI辟谣”应对“AI造谣”，让AI造谣的黑嘴“发不出声”“发不大声”“发声即被封”。
对执法机关而言，对待花样翻新、不断迭代的AI造谣违法犯罪套路，要始终做到发现一起、核查一起、处置一起，统一执法尺度和标准，及时向社会公布，对不法分子形成震慑。同时，督促平台依法依规落实信息处置、账号关停、全网封禁等惩戒措施，防止“键盘伤企”“网暴伤企”等情况发生。
对企业而言，要明白“打得一拳开，免得百拳来”的道理，一旦遇上造谣言论，要尽最大可能保留证据，及时向平台投诉举报，对虚假、侵权信息采取删除、屏蔽等必要措施，并及时与属地公安机关沟通、报案，防止不实言论持续扩散发酵。
当心！你家孩子的“AI”玩伴，可能正在制造“擦边”暧昧｜整治“AI技术滥用”系列评论之二
作者：新华每日电讯评论员吴振东 兰天鸣
近期，上海网信部门依法约谈筑梦岛App运营企业主要负责人，要求平台立即整改，健全人工智能（AI）生成合成内容审核机制，提升技术把关能力第一证券，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。
当前，在特定环境中能够自主感知、思考、行动的AI智能体（AI Agent）正在加速进入企业和个人应用场景。其中，直击人们情感需求的“AI伴侣”智能体产品以即时陪伴、拟人应答、场景化预设等为卖点，一度备受热捧。
然而，AI智能体在走进人们生活的同时，涉黄、不雅、“擦边”等涉未成年人保护问题频频亮起红灯。
有相关平台的用户坦言，只要不断训练、引导，就能打造一个愿意“擦边”的虚拟恋人。其原理，一方面在于用户可以自行选择AI扮演的虚拟角色和故事演绎：由于这些智能体能够做到“短暂记忆”，用户可以获得沉浸式亲密体验，训练出专属“伴侣”。另一方面来自平台的“擦边营销策略”：一些智能体依赖身材夸张的二次元形象、具有挑逗性的回应等暧昧设定吸引用户，逐步使用户沉溺其中。
对于身心尚未发育完全的未成年人，沉溺AI“擦边”和涉黄内容，可能会增强现实中的模仿行为。过度沉迷AI智能体提供的所谓“情绪价值”，还可能导致未成年人社交疏离，减少真实人际互动，加剧孤独感，甚至模糊现实与虚拟的边界。其中危害不言而喻。
未成年人保护无小事。由于人机聊天内容本身具有私域化特征，当中出现涉黄、“擦边”内容具有隐蔽性。主打“AI伴侣”的平台作为第一责任方，应切实担起保护未成年人的责任，尤其需守好“三关”。
首先，是法律伦理关。当前主流AI大模型虽设置了内容过滤机制，拦截违法内容，但也有不法分子利用部分开源模型，调整提示词，绕过关键词屏蔽，诱导模型生成“擦边”内容。平台应进一步健全内容审核机制，切勿为了短期商业利益，以增强所谓用户体验和黏性为目的，以“擦边”为卖点，利用人性“软肋”，突破法律伦理底线。
其次，是技术保护关。应进一步加强对涉“AI伴侣”平台未成年人保护技术体系建设。例如，做到“身份证+人脸识别”等多因子安全认证，启用未成年人保护模式。同时，完善防沉迷系统，对大额充值、频繁充值等异常行为人员建立回访机制，对充值者进行二次身份确认。
第三，是行业发展关。当前，越来越多的行业都在更加关注AI智能体在产业上的应用。赛道的拓展，要与产业发展更贴近。在同具体应用场景的结合中，AI智能体要从用户指令的被动执行者，变为主动帮助用户提升工作效率的助手。通过AI智能体的帮助，使人们从重复性、事务性的工作中解脱出来，专注于更具创造性的工作，增强产业发展的核心竞争力。
法律和技术协同进化，推动AI技术健康向善｜整治“AI技术滥用”系列评论之三
作者：王思维（上海市律师协会理事、上海博和汉商律师事务所执行主任）
作为人类社会技术发展的新阶段，AI技术不可避免地带来了新问题、新情况，也给社会治理带来了新命题、新任务。生成式人工智能技术的日趋成熟，使得AI技术在教育、金融、医疗等领域为人们提供了诸多便利，但利用或者滥用AI技术从事违法犯罪的活动也日益增多，并体现出手段智能化、形式多样化、链条复杂化及影响扩大化等趋势，因而在法律层面对AI技术的研究、发展及应用进行引导和规范也势在必行。
AI技术滥用所导致的不法行为的类型，覆盖了民事侵权、行政违法及刑事犯罪各领域。AI技术发展尚处于弱人工智能阶段，其运行的机理、模型、算法以及训练语料的丰富均依赖于人类操作，并不具有独立的辨认和控制能力，没有自主意识，无法自主决策，因此，人工智能目前仍仅是一种技术手段，而非可承担法律责任的独立主体。对AI技术滥用行为的治理，应当在认清此类行为系传统不法行为借助新型技术手段而实施的基础上，坚持防惩并重原则，在确保科技创新积极性、AI技术合法合规使用的情况下，避免过度监管。
首先，建立健全人工智能相关法律规定，引导并规范人工智能技术合规发展、合法应用。针对当前我国涉人工智能立法所存在的立法层级、体系衔接等问题，要通过立法手段，建立健全相关法律规定，完善人工智能发展的法律法规、政策制度、应用规范、伦理准则，形成制度合力，确保人工智能技术能够在规范的约束下健康发展。
其次，提升专业能力，加强协作配合，减少“犯罪黑数”，提高执法质量。实践中，利用AI技术实施的违法犯罪行为往往具有调查取证难度大、责任追究困难等问题，各职能部门及办案部门，应当加强专业建设，依托数字赋能，强化技术培训，提高职能部门对AI监管的针对性和有效性，提高办案人员办理新型犯罪案件的能力水平。同时，加强不同地区、不同部门之间的协作配合，形成对人工智能的全链条监管，挤压犯罪滋生空间，提高执法质量，为AI技术的健康发展提供良好的执法环境。
再次，充分发挥司法职能，贯彻司法政策，明确裁判规则，实现依法严惩和有效保护相统筹。对于现阶段AI技术滥用行为，司法部门应当从技术发展的实际出发，依据主观罪过的不同、因果关系的强弱，准确划分并追究利用AI实施违法犯罪行为的研发设计人、使用人或者平台的法律责任。另外，司法部门要结合实际，贯彻宽严相济的刑事司法政策，灵活运用现有法律规定和司法解释，以社会危害性为评价标准，明确裁判规则，对传统犯罪借助新技术而产生的新样态进行准确打击，依法严惩涉AI违法犯罪的同时，避免法律规制过严而阻碍技术发展。
最后，加大宣传和培训力度，提高社会公众防范意识，强化平台监管的责任意识，加强源头治理。通过组织普法宣传和专题培训等形式，加强对涉AI技术的安全宣传教育，提高社会公众对AI技术的认知水平及其潜在法律风险的防范意识第一证券，强化平台对AI产品的监管责任意识，督促平台落实主体管理责任，从源头推动AI技术向善发展。
实配网提示：文章来自网络，不代表本站观点。
