

Agent Skills实践
Foreword 最近 Skills 稍微有点火,哪哪都是在讨论。这里我也结合一下日常工作的实际场景来实践一下,看看 Agent Skills 能干些啥,以及它和之前说过的 MCP 有什么区别。 Skills https://github.com/anthropics/skills Skills是由Anthropic提出的,官方给了开源的skills的模板,很快就接入了其他各大模型 核心概念 Agent Skills 是一个用于为 AI 智能体扩展专门能力的开放标准。Skills 会把特定领域的知识和工作流封装起来,智能体可以调用这些 Skills 来执行对应的任务。 大白话解说:Skills 就是把平常我们命令 AI 去做的一些「复合模板 + Prompt + 规则」的事情,收敛成..
更多

ChatGPT Free账号没有GPT-5的选项
8月初已经收到GPT5推出的消息。打开ChatGPT一看左上角的选项里没有GPT5的选项。但是询问GPT,它会回答现在就是GPT51我这边已经是 GPT-5 Thinking,可以直接继续帮你。目前用的是free账号,推测OpenAI给限额的GPT-5使用。看了YouTube的视频,Plus或者Pro账号就能直接切换到GPT-5再等等,等GPT-5普及到free账号
更多

iMa知识库体验
Foreword 我的blog基本就是我的知识库,都是一些比较冷门的知识点,我自己按照我的逻辑整理成的,之前就考虑过能不能结合我自己的知识库做一个AI,很久之前看过王登科的把自己的聊天记录做成了模仿自己说话语气内容的AI数字人,不过模仿语气我感觉不太需要,能正常提问回答出来我知识库的内容就够用了,语气什么的,客观就行了。 我也试过有道的、wolai的只能说在文档提问这一块还是有点挫,特别是wolai的基本是垃圾,不知道做这玩意干啥用,完全没有可用性。 iMa https://iMa.qq.com/download/ 最近听说腾讯的iMa知识库,试用一下,发现挺不错的,内容总结也可以,导入速度也挺快的,有原始的markdown文档就可以。 上手很简单,直接把我的blog的post全都..
更多

ChatGPT学习模式(study mode)介绍和体验
ChatGPT学习模式(study mode)介绍和体验近期,ChatGPT推出了学习模式(study mode)。不管是iOS、安卓、web或者桌面端都可以使用。免费版本、Plus、Pro版本都可以使用。这个模式也支持中文。你可以把学习模式当做是一个在线的全科老师,此模式具备交互功能,可以一问一答。或者把ChatGPT当做是“私人学习助手”,家教老师,题库练习机,学习规划师,英语对话伙伴,地理百科全书等等。这个模式重点在于交互、问答和引导。如果要ChatGPT一次性出一份练习题,可以用普通模式。下面我们来试一下学习模式(网络不好的情况下请全局开🪜)先打开ChatGPT的学习模式,本文以网页版为例,工具 - 研究与学习做题练习模式先告诉ChatGPT自己的情况,然后要求出对应科目的题目。例如作为一个小学..
更多

GPU相关常识
Foreword GPU相关一些基础建设的常识 GPU CPU NPU TPU TPU,张量处理单元,主要是进行矩阵乘法计算 NPU,其实类似TPU,但是他是一种定制的计算规则,比如矩阵先乘后加,先加后乘,或者是更复杂的乘加乘加等等,相当于是定制化的计算单元,他是有适用的局限性的。如果专门为某个算法而生,那么这个算法就能吃满硬件加速,远超CPU或者TPU等其他方式实现的计算速率。 GPU,主攻并行计算,常常需要CPU指挥,广义上GPU是包含了TPU、NPU的,所以主力是强大的专业算力。 CPU,主攻逻辑运算,广义上CPU是可能会包含NPU和TPU,GPU的,但是多而不精,遇到一些专业问题,还是得专业的来搞。 但是,其实现在GPU的广义定义可能又发生改变了,英伟达新系列已经把一个小CPU作为协..
更多

SD ComfyUI部署
Foreword 顺便把SD ComfyUI搭建一下 ComfyUI https://github.com/comfyanonymous/ComfyUI 部署 安装环境 最好先安一下python 3.12的环境, ComfyUI的一些老库可能运行不了 uv python install 3.12 uv venv source .venv/bin/activate uv python pin 3.12 拉取ComfyUI源码 git clone https://github.com/comfyanonymous/ComfyUI.git git checkout v0.3.33 安装CUDA wget https://developer.download.nvidia.com..
更多

DeepSeek-671b-Q4部署
Foreword DeepSeek火了这么久,总算轮到我来部署一下了,部署小模型的挺多的,但是接近满血的大模型的好像很少,遇到的问题也难得有人说。 DeepSeek 设备需求 浪潮 NF5468M6 GPU服务器 CPU:2x6330(2G,28C/56T,42MB,Turbo,205W,3200),2x2400¥ 内存:32x64G DDR4 3200 RDIMM ECC,32x500¥ 硬盘:5x1.6TB SSD NVMe U.2 2.5寸 混合型,5x900¥ 阵列卡:Intel/英特尔 VROC KEY VROCPREMM0D U.2 NVME 阵列 RAID 0/1/5/10激活卡 高级版,1300¥ 网卡1:迈络思 MCX556A 100G 双口网卡,1500¥ 网卡2:X710双..
更多

AI大模型笔记
Foreword 记录一些AI相关的流程或者是运行逻辑 AI Transform Transform的机制 Benchmark 做一个新模型的时候,最好先建立好一个Benchmark,用来评估当前模型的性能,从而有一个准确的优化方向 微调 微调的流程 微调的后期,要么是有一个专家模型负责评估,要么就是有一个RLHF的反馈环境,不断对模型进行微调,这样整个模型就在不断进化中,效果就能越来越好。 当这个累计到一定时间或者数据以后,就可以考虑直接全参数微调,变成一个新模型 RAG 某些应用既可以通过RAG实现,也能通过微调实现,RAG相当于是外挂一个知识给模型,比较灵活,但是RAG的实现细节也有很多东西要考虑。 Denoise 本质上Diffusion就是..
更多

AI模型生成对比
Foreword 研究一下如何把AI相关的AI设计产品融合到目前的艺术设计的工作流中,对比了一下当前模型生成相关的AI,发现区别还是挺大的 图片生成 Stable Diffusion https://github.com/AUTOMATIC1111/stable-diffusion-webui Stable Diffusion是一种图像模型,他背后是Stability AI Midjounery https://www.midjourney.com/ 模型生成 提示词,猫和老鼠中的老鼠,拿着一个烤串 # Core requirements Jerry from Tom and Jerry cartoon, holding a barbecue skewer, # Sty..
更多

如何写一个MCP Server
Foreword 看一下如何写一个MCP服务 FastMCP 翻了一下看到了MCP有一个快速的模式,这种方式不需要写那么多前置代码 # server.py from mcp.server.fastmcp import FastMCP # Create an MCP server mcp = FastMCP("Demo") # 通过注解快速加入一个工具命令 # Add an addition tool @mcp.tool() def add(a: int, b: int) -> int: """Add two numbers""" return a + b # 这里还通过注解,加入了有一部分资源 # 这里的资源可以理解为一个文件或者一段信息,或者说一个特定的内容,这个可..
更多