Meta以算法重构内容审核机制 社交媒体治理步入AI时代

Meta正式启动大规模内容审核系统更替计划，逐步以自研大模型替代外包人工审核员。此举旨在根除困扰行业已久的审核员心理创伤问题，同时通过算力提升应对复杂网络违规行为的处理效率。

破解劳工伦理与心理创伤困局

多年来大型科技公司的内容审核员一直面临巨大的心理压力。由于需要长时间审查具有视觉冲击力或极端倾向的违规素材，许多外包员工患上了严重的创伤后应激障碍，并引发了多起针对平台方的集体诉讼。管理层明确指出，AI系统在处理令人不安且具有重复性的审核工作时具备天然优势，能够从源头阻断真实员工面临的“数字创伤”。

图源备注 图片由AI生成

算法接管的效率与潜在隐忧

在应对各类黑产交易、网络诈骗等手段多变的对抗性领域时，机器的实时学习与全天候迭代能力显著优于传统的人工流水线。尽管平台强调仍会保留部分专家级人工岗位以处理复杂决策，但减少对第三方供应商依赖的业务重组信号已经极其明确。外界对此同时产生了大批基础岗位流失以及算法公正性的担忧。近期内部曝出的因系统误操作导致的事故，更让这一技术转移过程充满争议。随着社区准则的解释权逐步移交给算法，内容安全行业正在经历一场由代码主导的生存实验。