谷歌研究团队提出了一种名为 Cappy 的轻量级预训练评分器，基于仅3.6亿参数的RoBERTa，通过为指令和候选响应生成0到1的正确性评分，在分类任务中可独立运行或辅助大型多任务语言模型，无需微调或访问模型参数即可高效适配下游任务，显著降低了计算和存储成本。
关键要点
- Cappy 是一个仅有3.6亿参数的轻量级评分器，输入指令和候选响应后输出正确性评分（0-1）。
- 它可在分类任务中独立使用，或作为辅助组件增强大型多任务语言模型（如T0、FLAN、OPT-IML）的性能。
- 无需通过LLM参数进行反向传播或微调，极大减少内存需求，并兼容闭源模型（仅需WebAPI访问）。
- 在NeurIPS 2023上发布，基于T0训练数据集的39个不同任务进行预训练，支持零样本适配。
Cappy 的设计巧妙平衡了性能与效率，为大型语言模型在资源受限场景下的部署提供了新思路，尤其适用于需要频繁适配下游任务的企业级应用。