请选择 进入手机版 | 继续访问电脑版

赛龙周

银牌会员

116

主题

814

帖子

3822

积分

银牌会员

积分
3822

悬赏达人

赛龙周
银牌会员   /  发表于:2025-1-20 09:44  /   查看:2710  /  回复:31
本帖最后由 赛龙周 于 2025-3-6 16:22 编辑

通用AI大模型插件(兼容OpenAI协议)的由来

更新:支持视觉模型的调用:
1、对png文件的直接处理,不仅是OCR,包括理解,如计数、图案识别等,具体要看AI提供的能力
2、PDF文件间接处理:为了不过多消耗token,如果PDF小于5页,直接转为png图片,走1的途径;大于5页是先提取出文字再给AI分析;
3、测试了千问、kimi的视觉模型都是可以的


多模态的api真的好用,以后像图片识别,文件内容提取不要太方便了,可惜现在注册的AI不多,大部分api用不了,包括deepseek

把chatbot与插件实现了融合


这个插件的原来是蹭DeepSeek的流量,好玩做了一个插件,第一版本:最近很火的DeepSeek,玩了个插件,用的Ohh.ChatAi.TotalApi这个开源库,基于9.1版本




出了这个版本后,想用DeepSeek的Function Calling来调用服务端命令,原来的库没有这个功能,于是从学习的角度看了相关文档,发现现在的AI大模型基本上都兼容OpenAI协议,找到了,OpenAI.net,尝试完成了这个插件。


这个配置比较简单,按各项将参数填入即可。

第一项的模型选项分别是:深度求索(固定只能用deepseekv3);普通模型不支持Function Calling,隐藏了Function Calling选项;高级模型支持Function Calling。其实是可以合并成一个的,想想还是保留了。

勾选Function Calling后,点击功能定义列表

这里面的功能描述很重要,AI就是根据描述来生成参数,执行命令的。

前端页面的展示也更新了几个版本,虽然不是特别满意,但目前也就这样了,最终的效果:










本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x

评分

参与人数 2满意度 +10 收起 理由
charleschan + 5
Meng2499 + 5

查看全部评分

31 个回复

hubei333
银牌会员   /  发表于:2025-1-20 10:35:28
沙发
感谢楼主分享!
回复 使用道具 举报
陈城
初级会员   /  发表于:2025-1-20 10:48:50
板凳
支持
回复 使用道具 举报
绿之雪
银牌会员   /  发表于:2025-1-20 12:50:21
地板
回复 使用道具 举报
小崽子来也
中级会员   /  发表于:2025-1-20 13:38:58
5#
感谢大神的分享, 我们跟着享福了。  好人一生平安
回复 使用道具 举报
leilei6120悬赏达人认证
银牌会员   /  发表于:2025-1-20 13:59:38
6#
感谢分享
回复 使用道具 举报
leilei6120悬赏达人认证
银牌会员   /  发表于:2025-1-20 14:01:41
7#
可不可以兼容一下9.0版本?
回复 使用道具 举报
赛龙周
银牌会员   /  发表于:2025-1-20 14:08:38
8#
leilei6120 发表于 2025-1-20 14:01
可不可以兼容一下9.0版本?

9.0不支持自定义命令列表,你可以去下载我发的第一个版本。
回复 使用道具 举报
星塵子
注册会员   /  发表于:2025-1-20 16:37:16
9#
感谢分享,赚金币。
回复 使用道具 举报
紫菩提
初级会员   /  发表于:2025-1-20 21:54:24
10#
感谢大神的分享, 我们跟着享福了。  好人一生平安
回复 使用道具 举报
1234下一页
您需要登录后才可以回帖 登录 | 立即注册
返回顶部