一日一技:三分钟离线运行开源大模型
经过一年多的发展,各种开源大模型现在已经相当不错了。国产的Qwen 1.5的生成效果已经能满足一些日常使用。有一些同学可能之前一直在用网页版的ChatGPT、Kimi Chat、文心一言或者通义千问,那么你可能会遇到如下一些问题:网络问题。例如ChatGPT需要特殊的网络才能访问。审查问题。国产大模型会大量屏蔽关键字,有一些你觉得完全没有任何问题的回答,它会告诉你不符合法律规范,不能回答。不能自定义模型,网页版的这些大模型,你没有办法做微调,难以自定义内容。当你花了大量时间设计了一个高级Prompt,把模型洗脑成了猫娘,结果第二天它又不能用了。隐私泄漏问题,担心大模型的开发商把你问的问题和上传的信息挪作他用。当你被这些问题困扰,那么你可以考虑离线运行开源大模型。完全不需要网络,因此不存在隐私泄漏的问题。你..
更多雾锁王国服务器搭建
Foreword 雾锁王国,高清版英灵神殿,发售时间好巧不巧遇到了帕鲁,虽然也百万套了,不过被帕鲁抢了太多风头了 服务器需求 CPU,4cores RAM,16G,这次直接给32G,防止意外 Network,Port UDP 15636、15637 硬盘,30G,建议给多点,不支持linux 比较麻烦的是雾锁王国没有linux服务器,目前有的linux使用docker,内涵了wine等转译方式运行的steam和游戏,这种如果游戏更新了,docker没更新就跟不上,那就不如自己windows开一个得了 linux linux版本建服,可以参考这里 https://github.com/PR3SIDENT/enshrouded-server windows 安..
更多Golang Web 项目常见布局
官方布局来源:Golang 官方文档 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 project-root-directory/ go.mod internal/ auth/ ... metrics/ ... model/ ... cmd/ api-server/ main.go metrics-analyzer/ main.go ... ... the project's other directories with non-Go code 总结:只是一个简单的布局,cmd/ 作为入口,不同的应用使用不同的目录;internal/ ..
更多修复 GoLand 调试 WSL2 中的项目时卡住的问题
问题在使用 GoLand 调试 WSL2 中的项目时,调试窗口会卡住,无法 Step Into,并且出现以下信息:1 2 2024-01-29T15:18:59+08:00 warning layer=rpc Listening for remote connections (co nnections are not authenticated nor encrypted) 方法 1:关闭镜像网络模式这实际上是 WSL2 的镜像网络模式造成,它无法监听调试工具 delve 使用的 0.0.0.0 地址。可以在 %UserProfile%/.wslconfig 注释掉 networkingMode=mirrored 来关闭它。方法 2:修改 delve在 GitHub 上下载 delve 源码。然后找到 d..
更多一日一技:iOS下的开源免费消息推送服务
我们在部署代码到线上以后,可能会需要在一些情况下给自己发报警通知。如果是公司的线上业务,一般会有公司内部的各种通知工具。但如果是自己的个人服务,我们应该怎么推送消息呢?有些同学可能使用过叮叮或者飞书机器人,但是这些机器人要发送通知还需要拉个群,稍微有点麻烦。有些同学可能使用的是Telegram,但使用它需要梯子也不太方便。如果你的手机是iPhone,那么你可以使用一个开源免费超级轻量级的消息推送服务:Bark.使用Bark只需要简单调用接口即可给自己的iPhone发送推送。它只依赖苹果APNs,及时、稳定、可靠。不会消耗设备的电量, 基于系统推送服务与推送扩展,APP本体并不需要运行。能够使用点对点加密,实现隐私安全,确保即使是Bark的开发者在内的所有人都无法窃取你的隐私。使用Bark非常简单,首先在A..
更多ES 6/7 数据备份恢复
使用工具https://github.com/elasticsearch-dumphttps://hub.docker.com/r/elasticdump/elasticsearch-dump参数说明更多请参考: https://github.com/elasticsearch-dump/elasticsearch-dump?tab=readme-ov-file#options123456--parallel 并发度--direction load: 恢复, dump: 导出(默认)--input 数据来源--match 正则匹配需要导出的索引--includeType= 导出类型, 支持六种: data,mapping,analyzer,alias,settings,template--output 数..
更多如何参与Apache顶级开源项目
我们在日常工作中经常会使用到很多的开源项目,开源也是一个在工作和学习中都离不开的内容。一般来说,开源项目可以选择直接开源,也可以选择捐赠给某些基金会,例如Linux Foundation、CNCF和ASF等等。以ASF为例,如果一个项目想要成为顶级项目,则需要先通过孵化器孵化,孵化结束毕业才能成为顶级项目。最近我因为一些原因参与了云原生网关APISIX开源项目,这里做一下介绍。搭建环境首先我们需要下载源代码并且构建开发流程,根据官网介绍,我们把项目代码fork到自己的仓库并clone到本地,随后在本地仓库中将原始的项目设置为上游upstream,之后新建分支进行开发即可~ git clone git@github.com:RitterHou/apisix.git~ cd apisix~ git remot..
更多Golang 1.21 语言规范改动
内置函数新增内置函数 min、max 来返回参数中的最小值、最大值。新增内置函数 clear 把切片中的所有元素都设置为零值,或把 map 中的所有元素都删除。包初始化顺序新的语言规范对包初始化顺序给出了明确的定义。实际上就是按照深度优先搜索的顺序来初始化。类型推断优化了泛型函数的类型推断,并在规范中做出了明确的定义。变量循环捕获为了修复一直以来的变量循环捕获问题,可以先通过以下命令来找出受影响的代码:1 go build -gcflags=all=-d=loopvar=2 . all= 表示包括依赖包。然后通过以下命令来启用:1 GOEXPERIMENT=loopvar go build main.go nil panic在 Go 1.21 之前的版本,如果传入 panic 函数的参数是 nil,不会返..
更多Palworld幻兽帕鲁专业服务器搭建
Foreword 幻兽帕鲁,宝可梦版方舟,还缝合了一点塞尔达,The Survivalists,有意思,啥时候GF能做个这样的宝可梦游戏啊 本身支持小服务器4人联机,也支持大服务器32人联机,刚好有独立服务器,可以开一个玩一下。 服务器需求 CPU,4cores RAM,8G Network,Port UDP 8211 这是推荐配置,我直接8c,16g,防止出问题,使用Ubuntu来安装 linux 首先安装steamcmd sudo add-apt-repository multiverse; sudo dpkg --add-architecture i386; sudo apt update sudo apt install steamcmd 安装PalServ..
更多FastAPI/Starlette 长连接感知断开
之前写过如何 在服务器重启的时候感知长连接,最近发现折腾复杂了。 https://github.com/encode/starlette/discussions/1776 测试代码: import asyncio async def async_streamer(): try: while True: yield b"--boundary\r\nContent-Type: text/plain\r\nContent-Length: 1\r\n\r\n1\r\n" await asyncio.sleep(0) except asyncio.CancelledError: print("caught cance..
更多