LLM 可直接读写神经网络权重,开启「权重空间编程」
有研究展示大模型能够原生地读取和修改神经网络的权重,而非仅通过文本或代码间接操作。这意味着模型可以检查参数分布、定位特定能力对应的权重区域,并按指令进行定向改写,为模型编辑、能力注入、遗忘与调试提供新路径。相比微调或提示工程,权重级操作更直接,但也带来可解释性与安全风险:恶意权重修改可能难以检测,模型行为溯源也更复杂。该方向若成熟,可能改变模型维护与后训练的工作方式。
📌 原文来源:Lobsters
🔗 阅读原文
本文内容由飞星网基于公开资讯整理生成,仅供学习参考,版权归原作者及原网站所有。
https://feithing.com/post/Fyhs47dF