一日一技：超简单方法显著提高大模型答案质量
很多人都知道Prompt大神李继刚，他使用Lisp语法来写Prompt，把大模型指挥得服服帖帖。但我们很多时候没有办法把自己业务场景的Prompt改造成伪代码的形式。相信不少人跟我一样，会使用Markdown格式来写Prompt，大部分时候没什么问题，但偶尔总会发现大模型返回的结果跟我们想要的不一样。Markdown的弊端例如下图所示：让大模型给我返回一个JSON，它返回的时候会用Markdown的多行代码格式来包装这个JSON。我后续要解析数据时，还得使用字符串切分功能把开头结尾的三个反引号去掉。即便我把system prompt里面的反引号去掉，改成：1234567你是一个数据提取专家，你能从一段文本中提取出所有结构化数据。并以J50N格式返回。返回格式示例:{"name": "小王","age": ..
更多
一日一技：如何正确对Python第三方库做二次开发
今天，有同学在知识星球上给我提了一个问题：如何在Simplemind中接入Azure的GPT接口。如下图所示。在使用Python时经常会出现这样的情况，某一个第三方库，满足我们99%的需求，但碰巧有一个小需求不满足。遇到这种情况，有些同学会忍痛割爱，换一个库；还有一些同学，会继续使用这个第三方库，但是缺的那个功能，他就完全自己单独写；剩下的同学，可能是把这个第三方库下载下来，放到自己项目的根目录中，然后当做项目的一部分来修改并导入使用。今天我们就来讲一下这个问题。前两个方法不需要多说什么。第三个方法从功能上来说没什么问题，但会给自己的项目引入大量其他代码，导致项目在做安全性检查、静态类型检查、Code Review时变得很麻烦。而且这个第三方库必须放到项目的根目录，否则在导入时，它的导入语句就跟正常pip..
更多
Zephyr build 架构
Foreword Zephyr 工程的整个构建体系是怎样的，这里做一个具体的分析和学习 最近小米的Vele 也开源了，不过由于缺少文档，而且架构非常庞大，光是仓库就传了两三百个，想看明白不太容易，但是基础的CMake、Kconfig等等全都有。 CMake 创建构建目录：保持源代码目录整洁。 使用 CMake 生成构建文件：配置项目并生成适合平台的构建文件。 编译和构建：使用生成的构建文件执行编译和构建。 清理构建文件：删除中间文件和目标文件。 重新配置和构建：处理项目设置的更改。 CMake 推荐使用 “Out-of-source” 构建方式，即将构建文件放在源代码目录之外的独立目录中 CMake例程 一个比较简单的CMake例程 https://g..
更多
配置管理工具之kconfig
Foreword 绕了这么大一圈，似乎只有kconfig是比较成熟的，能与之相媲美的管理工具很少 Kconfig 安装 在windows下使用Kconfig，至少得有python，否则界面等内容无法正常显示 python需要先安装这几个包 python -m pip install windows-curses python -m pip install kconfiglib 测试安装，可以正常显示命令 menuconfig -h 测试 参考工程sample_1 https://github.com/bobwenstudy/test_kconfig_system 编译所有 make all 修改配置 menuconfig 运行main.exe就能看到结果了 ..
更多
一日一技：为什么我很讨厌LangChain
一说到RAG或者Agent，很多人就会想到LangChan或者LlamaIndex，他们似乎觉得这两个东西是大模型应用开发的标配。但对我来说，我特别讨厌这两个东西。因为这两个东西就是过度封装的典型代表。特别是里面大量使用依赖注入，让人使用起来非常难受。什么是依赖注入假设我们要在Python里面模拟出各种动物的声音，那么使用依赖注入可以这样写：12345678910111213141516171819202122def make_sound(animal): sound = animal.bark() print(f'这个动物在{sound}')class Duck: def bark(self): return '嘎嘎叫'class Dog: def bark(sel..
更多
记一次群辉存储空间损毁后 QB 种子恢复尝试
前记应该是 蜗牛星际 电压太高加上 固态不稳定 导致的这块盘我只放服务. 基本不写这块盘. 像 nastool, qb, tr, emby, iyuu, homepage 等全被一套带走了.不幸中的万幸, 之前的 qb 页面开着没关.因为之前我开着 qb 页面没关, 所有抢救下来了 qb 页面(包括所有的种子详情)大约是 1200 种, 因为 qb 页面里面可以拿到 torrent hash, 所以 torrent 有望恢复主要流程⌘ + S, 保存 qb web 页面成单个 html对 qb web 页面结构进行分析从 qb web 页面提取 torrent hash, (分类, 标签, 保存路径)向 iyuu 通过 torrent hash 进行 辅种链接查询根据 iyuu 返回的 sid 和 tor..
更多
聊聊 Rerank：从 BERT 到大模型的技术旅程
从搜索引擎到大语言模型，Rerank 技术一直在默默发挥着”最后一公里”的关键作用。前言在 NLP 场景中，Rerank 作为一个关键环节，承担着对多路召回、多数据来源、多模态、多结构等不同类型数据的归一化和精筛作用。它能有效地整合和优化各类召回结果，对提升检索系统的整体性能至关重要。本文将介绍 rerank 相关的技术概念、业界进展，以及对业务 产生价值的可能性。 Rerank-从 BERT 到大模型的技术旅程/overall.png 正文什么是 RerankRerank 并不是新兴的技术，其发展历史可追溯到搜索引擎，其历程可浓缩为 3 个主要阶段： Rerank-从 BERT 到大模型的技术旅程/timeline.png 一句话介绍：Rerank 是一种对初步检索结果进行重排序的优化技术，以提..
更多
QEMU模拟运行FreeRTOS
Foreword 测试一下QEMU模拟运行FreeRTOS QEMU QEMU安装需要先安装MSYS2 直接下载安装 https://www.msys2.org/ 安装完成以后，QEMU使用pacman包进行安装 https://www.qemu.org/download/#windows pacman -S mingw-w64-x86_64-qemu 添加新的环境变量，把刚才安装的路径加进去 D:\msys64\mingw64\bin 查看版本，显示正确 qemu-system-arm -version QEMU emulator version 9.1.1 Copyright (c) 2003-2024 Fabrice Bellard and the QEM..
更多
畅网 N100 黑群晖踩坑记录
硬件配置畅网 N100 先锋版 V2这个图是旧版的, 新版略有区别槽点必知先锋版 V1 和V2区别节选自某宝 畅网微控品牌店, (只在这个店看到过这个说明, 记录一下)增加多2个 USB2.0、2个USB3.2多了一个标准SATA数据接口，增加了一个信号侦测芯片.当 WiFi接口插了无线网卡或转接卡之后，SATA口自动失效. 当WiFi接口没插东西，SATA口插了硬盘，SATA口生效两者只能二选一另外V2版本用不了 三选一的转接卡 协议冲突, 只能用 WiFi转M2 的转接卡 或无线网卡。V1和V2 BIOS 不通用，不能互刷V2版本多了一个物理自启动开关，如果要通电自启动直接拨杆到 ON就可以了不需要去 BIOS里面修改任何东西。找不到硬盘/不支持 M2 NVME 硬盘RR 引导添加插件 nvmesys..
更多
宏管理工具之lite-manager
Foreword 体验一下群友的宏管理工具 lite-manager https://gitee.com/li-shan-asked/lite-manager 群友的宏管理工具，主要在gitee上更新，github更新不及时，release文件可能不能用 环境 至少需要一个make和gun c的环境，之前系统里一直有一个MinGW32 13年的版本，gcc大概只有6，编译过不去（后来发现应该不是这个问题） 通过下面的方式在线安装MinGW64 https://github.com/Vuniverse0/mingwInstaller/releases/download/1.2.1/mingwInstaller.exe 安装完成以后添加环境路径 如果环境里没有多的make，可以把..
更多