拓展模型的Function call能力

文摘   2024-07-25 14:05   新加坡  

本文涉及到的详细测试代码和测试步骤放置于:

https://github.com/davidsajare/david-share.git

下的:Deep-Learning/Function-call-training

欢迎给repo点亮Star,您的点赞是作者持续创作的动力。

格式原因本公众号文章不会放置代码。

有一些模型本身具有function call功能,如OpenAI,Phi3。有一些不具备。我们可以通过微调,增强模型的function call的能力,也就是让模型原生具备更多的function。

训练数据集:https://huggingface.co/datasets/Salesforce/xlam-function-calling-60k/viewer

训练集answers一列的names,就是function的名字:

训练1000 steps,查看训练中的损失函数:

训练之后的推理验证:

代码会调用function,并给出正确的结果:

大魏分享
https://github.com/davidsajare/david-share.git
 最新文章