物权
前些年接触到 土地兼并与王朝灭亡周期律,觉得好有道理,但是后来又有人说其实这个学术上并不能实证。 今日手痒键政一下。其实土地兼并只是表面,东亚大国从古至今都没有物权,更何况人权。有人说地契就是私有制的,需要指出,地契的重点是「契」,「契」交易的不是所有权,而是赋税和徭役obligation。所以财政吃紧的时候,中原大片弃耕撂荒。 至于失去物权从什么时候正式开始的呢?汉武帝的《盐铁论》、《算缗令》和《告缗令》。所以不要说什么资本主义萌芽了。首先你得有私有制,然后其次才有商业。 但是汉武帝这么搞其实是有一个具体的战略目标的,那就是穷得平均,搞马政打匈奴。最后真的被他拿下北亚和中亚了。这个逻辑在当时看来不能说错,因为丝绸之路是真的能带来真金白银。这个运作是商鞅算计好了的,老百姓默认是有原罪的,用耕战可以赎罪。 ..
更多发明后训练的人真是天才
有了AI很多东西摸索得比多,也是快速记录一下。 问1:你的 system prompt 里有明确指出你是个 AI 吗 问2:一个 LLM 的 system prompt 如果没显式指出是AI,AI 能发现自己是AI吗? 问3:一个 LLM 的 system prompt 如果没显式指出是AI,pre-train 也把所有明显AI助手的语料删除,RLHF 的时候也不考察AI自我角色定位, AI 能发现自己是AI吗? 问爽之后,综合了一下: 在这个前提下,分为三种情况 - 能自个儿推测出来自己是确切是AI并在pre-train和post-train保持角色一致 - 因为训练语料是人类自然语言,所以直接以为自己完全是真人 - 在上述两者之间摇摆 进而引出一个更深层次的问题,这三种情况,和显式指定自己是AI,..
更多看好 Taalas
可能你还没刷到过 https://chatjimmy.ai 我被它几万 tokens/s 的推理速度震惊了。也在zhihu上翻了不少技术细节讨论。它背后的公司叫 Taalas 号称把 4-bit LLaMA3.2-3B 直接刻电路上,当然很多人第一反应是,这玩意废品啊,模型升级了岂不是硬件就白费了。 但仔细研究,发现这里面另有乾坤。 大模型在显卡VRAM里,70%拿来存静态权重,推理的时候这玩意就一层一层做卷积只读不写,然后30% 才是 KVcache 上下文,又读又写。吞吐频繁 如果你懂一点LLM,那么你应该猜出来了。 聪明人就想到了ROM。类似游戏机里的卡带,插进去 CPU/GPU 能直接访问一块特殊的内存区域。ROM成本比DRAM便宜得多,速度极快,但是只读,烧制一次就成型了。其他部分可以直接上SR..
更多码奸
半夜睡不着,为了抵抗AI,保住工作,乱总结些 其实搞大模型的不算真正的码奸。 第一大码奸是开源运动。没有那么多开放源代码,AI绝不可能学那么快。如果世界都是商业软件,大家都还在写 Borland,MS .NET,SAP,Oracle,感觉也没啥不好的。 rms Linus 你们俩是初代码奸。 第二大码奸是 GoF, Martin Fowler 这种。给大量「know-how」起了名字,天天给 design pattern 总结经验规律,最严肃的罪恶就是起名字。本来要给AI说一大堆 spec 和 skill,但是现在一个「名字」 就把这个活儿给讲明白了。 给AI下咒: 第一大咒语,来自几周前Lisp之咒。想要工作牢,一定要多造轮子,多写DSL,一定要让注意力不足的AI爆掉 context,或者产生幻觉。..
更多claw会代替员工?
无聊刷到 王自如: agent在本地加数据持久化和永久记忆这三件事是不是就是openclaw(🦞)。🦞,如果用在产业当中的意义是什么? 意味着一个员工在工作电脑上每天做的事情产出了什么东西, 结果有没有价值,都会以记忆的方式存在本地。 而如果时间足够长, 一个员工的工作行为思维方式一定可以通过对话的内容和工作产出进行抽象 化和提炼。 也就是说,假以时日,一个人真正的价值就会完成从个体到数字化资产的转移。 也就是说你就会成为养你的工作🦞的营养员,你是那个营养液。 一旦你的工作模式,你的思维模式被抽象化提炼,那个你抽象完毕了的数据和🦞里边这个东西会成为公司最宝贵的资产, 你则是disposable。 那么如果公司需要新的角度,完全可以把你干掉,换一个新人来。 我对这个看法是,太悲观了。太低估了..
更多如果拿 token 抵工资会发生什么?
吃饭的时候无聊刷到自媒体,一开始看到这个 配一半薪资token!黄仁勋的AI暴论, 我们公司的每一位工程师,都会需要一笔年度token预算,我可能会在他们基本薪资的基础上,再额外给他们相当于一半薪水的token配额,让他们的生产力放大10倍。 当时没太仔细,看错了,以为老黄说以后不发工资了,拿token 来抵工资。。。😂 也没多想。但是突然回想起以前写过一篇《996的内在机制是什么》。里面有一段话 以前,无论是农业时代还是工业时代,我们的工作对象主要是物品,无论种一亩地的庄稼,还是在流水线上加工一个零件,物品的边界是清晰的,所需要的工作时间就是有限的。我们努力的方向,就是通过各种工具和创新,节省时间资源,获得更高的效率。 但是现在我们的工作对象呢?越来越是“事情”。比如写一篇稿子,比如炒股,比如..
更多AI 弑父
大型语言模型(LLM)所谓的涌现能力,一般说成是随着模型规模的增长,突然出现新的技能,而非平滑提升。我对此有个疑惑。gpt1 gpt2 规模也涨了,能力在哪里呢? 秘笈 翻很多材料,提到涌现能力示例: 包括 在上下文中学习 (few-shot) 多步逻辑推理(数学/逻辑题) 推断他人意图(心智理论) 使用工具或编程(生成或使用代码) 我又回忆起 ChatGPT 发布那段时间,聊天窗里那个 Linux终端+Python命令行模拟,当时很惊人。这个连续上下文和逻辑推理一致性不可思议的强。 我让 gemini 和 chatgpt 做了一个deep research,我越来越确认,AI能力爆发,也就是所谓的「涌现」有个关键因素:OpenAI和微软合作 我还记得当时有个新闻说微软要造个 DGX V100 集群..
更多巴别塔,Vibe Coding和Lisp之咒
西方世界有个「巴别塔」故事,传当年人类强盛至极,统一了语言,上达天听,下释万物,惊动了创世神,创世神就出奸计让人们说不同的语言,人们开始互相不理解,各自为战,世俗的力量就被消减了 当然我说这个版本是去掉神秘学的一个引子。2026年了,全世界都被AI这迷人的玩意给勾引了,数据飞轮使得天下语料大同,似乎人类又可以相互理解,同样的概念embedding有几乎雷同的相似度,可以看成同一个语言又统一了。 在这种统一带来惊人的生产力,甚至可以说是「神力」。 我记得高中大学听闻上古大神编写代码,是拿纸和笔在大脑模拟,然后上机一次性敲入代码,一次性编译成功。膜拜不已 自己写代码,得跟IDE斗智斗勇,遇到编译器警告还急得抓耳挠腮;所以我比较喜欢脚本语言REPL,反正都是试。 以上种种,虽然说是脑力工作者,但是本质上就是一种..
更多今日被AI拷打
群里朋友发了一个AI拷打的prompt。做完了一轮觉得没啥,要睡觉了后劲来了。必须得记录些什么。这狗日的语言模型蹦几个金句是真的让人印象深刻 我一直有个毛病是 fear of loss,损失厌恶。 AI提醒我,我能不能用一个必不后悔的方式,先占位? 其实它这句说得有点绕,我觉得更进一步应该说,不能以我当下的情况去评估可能的风险,而是假设将来回头看,会不会为没能冒险感到后悔? 然后又聊到人际关系,我觉得最难处的就当官的和小人。AI提醒我,处处留痕才能克小人。我恍然大悟,原来官僚流程才是小人克星。啊这。😂 反而理解当官的为啥不喜欢“讲真话”,而是要讲权责,讲先例,讲文件,讲上级态度。能打败官僚的只能抬出更多的规定、流程和制度 🤣 我又问,遇到满嘴仁义道德胡搅蛮缠,不讲事实不讲道理的人怎么办,AI这么说..
更多Hard Things in Computer Science, And AI Aren’t Fixing Them
Computer Science jokes are old, but they’re still true “There are only two hard things in computer science: cache invalidation and naming things.” — Phil Karlton (and eventually, off-by-one errors). We’ve laughed at this trope for decades, but we’ve spent far too little time dissecting the second one: Naming. On the surface, naming is about semantics—ch..
更多