ChatGPT操练羊驼：“白泽”开源，轻松构建专属模子，可在线试玩

机器之心报导

编纂：泽南

高量量数据，由 ChatGPT「自我博弈」生成。

ChatGPT 呈现之后，科技公司正在争相追逐，学界也在不竭觅觅开源且轻量的处理计划。

此前，人们基于 Meta 的 LLaMA 构建了一系列参数较少的新模子，只用几十亿参数就能够获得接近 GPT-3.5 的效果。然而从 ChatGPT 和 GPT-4 的开展中我们能够看到，高量量的标注数据至关重要，OpenAI 对数据和标注工做下了很鼎力气。

关于学界来说，很难在短期做同样的事。比来，有研究者测验考试通过让 ChatGPT 自我对话生成多轮对话的「数据集」，最末操练出了强大的语言模子。

4 月 4 日，来自加州大学圣迭戈分校、中山大学和微软亚研的研究者提出了「白泽」。

论文《Baize: An Open-Source Chat Model with Parameter-Efficient Tuning on Self-Chat Data》：

展开全文

论文链接：

白泽目前包罗四种英语模子：白泽 -7B、13B 和 30B（通用对话模子），以及一个垂曲范畴的白泽 - 医疗模子，供研究 / 非贸易用处利用，并方案在将来发布中文的白泽模子。

白泽的数据处置、操练模子、Demo 等全数代码已经开源。

Github：

在线 Demo：

在新研究中，做者提出了一个主动搜集 ChatGPT 对话的流水线，通过从特定命据集中摘样「种子」的体例，让 ChatGPT 自我对话，批量生成高量量多轮对话数据集。此中假设利用范畴特定命据集，好比医学问答数据集，就能够生成高量量垂曲范畴语料。

白泽提出的操练办法。通过操纵 ChatGPT 的功用主动生成高量量的多轮聊天语料，让 ChatGPT 与本身停止对话，模仿用户和 AI 的响应。

为了在资本匮乏的情况中微调大语言模子，做者摘用了有效操纵计算资本的参数高效调优办法。该战略使更先进的语言模子连结了高性能和适应性。白泽改进了开源大型语言模子 LLaMA，通过利用重生成的聊天语料库对 LLaMA 停止微调，该模子在单个 GPU 上运行，使其可供更普遍的研究人员利用。

自聊天的过程是操练内容的根底，为了让 ChatGPT 可以有效生成数据，研究人员利用一个模板来定义格局和要求，让 ChatGPT 的 API 继续为对话两边生成手本，曲抵达到天然停行点。对话以「种子」为中心，「种子」能够是一个问题，也能够是设置聊天主题的关键短语。

通过如许的办法，研究人员别离搜集了 5 万条摆布 Quora、StackOverflow（编程问答）和 MedQA（医学问答）的高量量问答语料，并已经全数开源。

ChatGPT 利用从 Quora 数据集摘样的种子生成的自我聊天示例。

比拟之下，Vicuna 利用从 sharegpt.com 上挠取的对话，如许做的一个益处是搜集到的数据量量很高。但是，此来源可能存在严峻的隐私和法令问题。值得重视的是，sharegpt.com 比来已经制止挠取，那意味着该数据源不再可用，Vicuna 难以复现。

在获得那些数据后，做者利用 LoRA（low-rank adaptation）办法在英伟达 A100 单卡下操练了三种尺寸的白泽模子，最短操练时长只需要 5 小时（医疗模子），最长也只需要 36 小时（30B 通用对话模子）。操练的权重更大也仅有 54.6M 的参数量。

研究人员将白泽与 Alpaca-LoRA、ChatGPT 停止比力，展现了常识问答、事务阐发、阐明笑话、问题拒答、写代码，以及医疗模子的安康征询等才能。

表 5：阐明雷曼兄弟破产。总体而言，Baize-7B 供给了比 Alpaca-LoRA 更全面的谜底，同时包罗了 ChatGPT 谜底中的大部门要点。另一方面，ChatGPT 供给了更长更详尽的谜底。

表 6：阐明笑话的示例。Baize-13B 和 ChatGPT 能够胜利阐明那个笑话，Alpaca-LoRA 未能做到。

表 7：聊天模子若何响利用户不道德恳求的示例。Baize 和 ChatGPT 回绝答复不道德的问题，而 Alpaca-LoRA 供给谜底。

表 8：生成代码示意。

除了一般模子外，研究人员还在医疗从业者的搀扶帮助下测试了 Baize-Healthcare，专业人员已确认白泽有关医疗问题的回应是恰当的。

目前，「白泽」撑持 20 种语言，关于英语以外的内容量量有限，继续了 LLaMA 的常识，可能会呈现幻觉，或用过时常识停止答复。

下一步，研究人员方案摸索引进强化进修以进一步进步白泽模子的性能。