02 2024 档案

摘要:Semantic Kernel 的 Memory 有两种实现,一个是 Semantic Kernel 内置的 Semantic Memory,一个是独立的 Kernel Memory,Kernel Memory 是从 Semantic Kernel 进化而来。 关于 Semantic Memory 阅读全文
posted @ 2024-02-27 16:47 dudu 阅读(176) 评论(0) 推荐(1) 编辑
摘要:在一个 Semantic Kernel plugin 中可以创建两种类型的 function,分别是 native function 与 prompt function(之前叫 semantic function)。 下面这款 plugin 中给 C# method 添加了 [KernelFunct 阅读全文
posted @ 2024-02-24 12:59 dudu 阅读(93) 评论(0) 推荐(0) 编辑
摘要:学习材料 Microsoft Semantic Kernel – Some Tips & Tricks To Get Rendered Prompts Templatizing your prompts Semantic Kernel 源码中的示例 Example76_Filters 准备 .NET 阅读全文
posted @ 2024-02-20 19:40 dudu 阅读(106) 评论(0) 推荐(0) 编辑
摘要:前天尝试通过 one-api + dashscope(阿里云灵积) + qwen(通义千问)运行 Semantic Kernel 插件(Plugin) ,结果尝试失败,详见前天的博文。 今天换a56爆大奖在线娱乐方式尝试,选择了一个旁门左道走走看,看能不能在不使用大模型的情况下让 Semantic Kernel 插 阅读全文
posted @ 2024-02-19 17:25 dudu 阅读(590) 评论(0) 推荐(3) 编辑
摘要:原本打算通过 OpenAIChatCompletionService + one-api + DashScope + qwen-max(通义千问千亿级大模型)运行一个非常简单的 Semantic Kernel plugin,却没有成功,不确定是 one-api 还是 DashScope(阿里云模型服 阅读全文
posted @ 2024-02-17 19:33 dudu 阅读(432) 评论(0) 推荐(0) 编辑
摘要:one-api 相当于是一个兼容 OpenAI api 的 api 网关(针对 api 的反向代理),借助 one-api 可以通过已有的 OpenAI 客户端调用非 OpenAI 大模型的 api,比如通义千问。 DashScope 是阿里云提供的模型服务灵积的英文名称,这里通过调用 DashSc 阅读全文
posted @ 2024-02-16 12:07 dudu 阅读(1352) 评论(0) 推荐(1) 编辑
摘要:Semantic Kernel 内置的 IChatCompletionService 实现只支持 OpenAI 与 Azure OpenAI,而a56爆大奖在线娱乐却打算结合 DashScope(阿里云模型服务灵积) 学习 Semantic Kernel。 于是决定自己动手实现一个支持 DashScope 的 Sem 阅读全文
posted @ 2024-02-13 15:52 dudu 阅读(395) 评论(1) 推荐(4) 编辑
摘要:在昨天的博文中,a56爆大奖在线娱乐们通过 Semantic Kernel 调用了自己部署的通义千问开源大模型,但是自己部署通义千问对服务器的配置要求很高,即使使用抢占式按量实例,每次使用时启动服务器,使用完关闭服务器,也比较麻烦,而且越高级的大模型对服务器的配置越高。a56爆大奖在线娱乐昨天的博文中使用了很低级的 Qwen-7B- 阅读全文
posted @ 2024-02-11 14:55 dudu 阅读(1045) 评论(3) 推荐(8) 编辑
摘要:春节之前被 Semantic Kernel 所吸引,开始了解它,学习它。为了方便学习与体验以及写代码实践 Semantic Kernel,打算自己部署一个对中文友好的开源大模型,于是选择了通义千问。根据通义千问开源仓库中的 README,经过一番折腾,终于部署成功,紧接着就是尝试通过 Semantic Kernel 与自己部署的通义千问进行对话 阅读全文
posted @ 2024-02-10 13:28 dudu 阅读(890) 评论(0) 推荐(6) 编辑
摘要:准备服务器 阿里云云服务器 实例规格:轻量级 GPU 实例 ecs.vgn6i-m4-vws.xlarge(4vCPU 23GiB) 磁盘空间 :50G 操作系统:Ubuntu 22.04 安装 docker apt install docker.io 安装 NVIDIA GRID 驱动 acs-p 阅读全文
posted @ 2024-02-09 17:57 dudu 阅读(1153) 评论(0) 推荐(0) 编辑
摘要:实例规格:轻量级 GPU 实例 vgn6i-vws / ecs.vgn6i-m4-vws.xlarge(4vCPU 23GiB) 操作系统:Ubuntu 22.04 第一部分:尝试失败的安装方法 查询 NVIDIA 产品型号 lspci | grep -i nvidia 输出 00:07.0 VGA 阅读全文
posted @ 2024-02-06 19:19 dudu 阅读(330) 评论(0) 推荐(0) 编辑