arXiv AI· Bo Li, Taoyong Cui, Bob Zhang, Mengran Li, Chengyang Zhang, Yang Zhang, Pheng Ann Heng, Wanli Ouyang, Zhenfei Yin, Yingcheng Wu, Ling Yang·· 1 天前评分50
WeightCode: Installing New Capabilities into Neural Networks via Weight-Space Programming
摘要
神经网络通过其权重编码学习到的能力,但将这些能力扩展到明确的任务知识仍是一个基本挑战。我们展示了一种称为Weight-Space Programming(WSP)的方法,该方法允许可执行程序直接读取、构造或修改神经网络的权重,从而在训练好的神经网络中安装新的能力。WeightCode是一个WSP框架,使用冻结的语言模型编写可执行的权重程序,利用任务知识和现有权重,通过非梯度方式在训练好的神经网络中安装新的计算。
推荐理由
请对照arXiv AI原文,核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:arXiv AI · arxiv.org