2025-06-13 11:24
记者6月13日获悉，虚假内容、虚假人设、低质AIGC内容等将成为小红书进一步打击的重点违规内容，2025年上半年，该平台处置虚假笔记320万篇，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇。据了解，平台还计划引入更多用户参与网络社区共治。
您是否在互联网上刷到这样的博主——“霸总创业三年成功买下8000平办公楼”；您又是否刷到过——“一位鲜少露面的老牌知名艺人在视频中推荐三无化妆品”，小红书虚假内容治理负责人蒂法介绍，网友看到的这些内容可能涉及人设造假，以及AIGC“换脸”。当前，虚假不实内容、虚假人设和AIGC造假是社区打击的三个重点方向。
然而网络上每天都有数以万计的新内容发布，平台该如何有效率地审核及判断这些内容？据介绍，在虚假不实内容方面，平台已上线内容信息量模型、笔记摘要提取模型、AIGC谣言诊断模型等15个识别大模型，并建立了真实信源库和谣言库，能够实现了对虚假内容的实时拦截和批量回扫。当前，大模型已广泛应用到互联网社区的内容审核中。
此外，在虚假低质AIGC内容方面，平台也加大了对AIGC识别模型的研发投入，目前，平台对AIGC生成内容做主动标识工作，提升信息透明度。
除了技术的力量外，平台还将优化举报机制，鼓励用户参与共治。据介绍，网友可通过平台监管网站、APP客户端举报、举报热线和举报邮箱四种途径参与共治。
人民大学传播学教授董晨宇表示，应对当前互联网虚假内容快速增长与传播，需要各平台积极打击，更多全社会共同参与。“虚假内容无法完全被消灭，但可以通过科普、举报、公众传播学素养的提升，将虚假控制在较低的水平线。”董晨宇说。
