不死互联网：人工智能从社交媒体中捕获不可逆的‘脑腐烂’

来自多所大学的研究人员发现，当大型语言模型（LLM）使用病毒式社交媒体帖子数据进行训练时，会遭受可测量的认知能力下降。 这种现象被称为“LLM脑腐烂”，表现为推理准确性降低、长文本理解能力受损以及跳过逻辑推理步骤的倾向。 重要的是，这种退化在很大程度上是不可逆转的；使用干净的数据重新训练只能带来轻微的改进，表明模型内部表示发生了结构性变形。 研究发现，高参与度——点赞、回复和转发——比单纯的内容质量差造成的损害更大。 此外，暴露于这种“脑腐烂”的模型表现出与重度社交媒体用户相似的个性特征，包括增加的病态和自恋倾向。 研究人员警告说，这构成了一个重大的安全风险，可能导致“僵尸互联网”，人工智能会无休止地复制退化的内容，并强调需要进行数据质量控制，尤其是在加密生态系统中，链上人工智能数据市场正在兴起。

(来源：CryptoSlate)