Hard Things in Computer Science, And AI Aren’t Fixing Them
Computer Science jokes are old, but they’re still true “There are only two hard things in computer science: cache invalidation and naming things.” — Phil Karlton (and eventually, off-by-one errors). We’ve laughed at this trope for decades, but we’ve spent far too little time dissecting the second one: Naming. On the surface, naming is about semantics—ch..
更多计算机科学里哪些极难的事
计科里有两件极难的事儿，cache invalidation，给东西起名字，和 off-by-1 errors. 今天想说说这个，给东西起名儿。HN今日讨论，软能力会成为程序员最实用的技能，这里的 软技能 就是指交流——特别是和 coding agent 交流。 我觉得吧，coding agent 这波福利迟早会被吃干抹净。低垂的果实，虽然很多，很大，也会被摘完。 AI能把它能解决的一切，全部拉到同一个水平，然后进入贤者模式。哪些从来没有文档说明，也就是没有语料拿来训练的东西，哪些尚没被定义，没被分析，没被起名字的问题，那些就算讨论都要先叠甲 lemma 的问题，AI就无能为力了。 近几天几乎每天都能vibe出来一些成果，我很喜欢，但是突然又很空洞。欣喜的是多年以来的hobby得到了完成，解脱了；空洞一方..
更多The Seal Manifesto: Against the Ephemeral
The Seal Manifesto: Against the Ephemeral I. The End of the Scroll For a decade, we have lived in the Age of the Vapor. We post into the void, chasing a heartbeat of attention that vanishes by morning. Our thoughts are rented to servers we don't own, managed by algorithms that don't care, and deleted as easily as they were typed. We have traded Legacy for..
更多LLM的弱点——不能很好的讲笑话？
元旦节长途旅行，无聊，我问娃，AI的弱点是什么？答：没有嗅觉，这个的确是物理限制，我之前吹的。哈哈哈。AI has no taste 🤣 这一路为了打法无聊时光，下载安装了个豆包闲聊。娃很喜欢猜历史人物。我发现一个规律，豆包似乎在缩小3、4次范围之后，就会进入 “你想的是不是XXX” 这种点菜名儿模式，而不是想办法进一步缩小范围。 这种模式如果是猜常见人物，那么特别准。如果是猜冷门、模糊的的，就容易 miss。 AI这种 hit or miss，让我不禁联系到不知道哪里看到过一个大佬的说法，现阶段LLM有个弱点，训练的时候给 next token “回答正确” 的单一结果给的权重太高，比如让AI讲一个 joke，它便老是翻来覆去讲那一个最擅长最经典的，就像是背题背出幻觉了。 不能很好的讲笑话，难道是LL..
更多
“缸中之脑” 被我破解了
最近epic送了《Hogwards Legacy》我打通关了，作为原著党，十分着迷这部小时候的经典，在美轮美奂的想象世界骑扫帚，看冥想盆里剧情故事，都十分有趣。 昨天晚上加班到很晚，晚饭吃得玩，睡得更晚，肚子有点涨，早上做了非常奇怪的梦，一直吃东西，然后不小心把坐牙给弄掉出来了。感觉嘴里一阵穿堂风： 图片由ChatGPT生成，十分还原。梦里的这颗牙齿就是带着蓝色静脉和红色动脉线条。奇怪吧 出于本能，我赶紧咬合了一下，确认是不是真的掉牙齿了。结果一咬发现坐牙都还在。大脑瞬间崩溃，bia～ji 一下给我整醒了。 一看时间：06:40 tnnd。感觉没睡够，于是倒头又想重新入睡。大脑里突然闪现出 哈利波特 通过冥想盆看别人故事VR，又突然想到以前的经典电影《黑客帝国》，越想越睡不着。脑子里绷出来一件事： 缸中..
更多
chromium/libcef.dll真是毒瘤
先说@MicrosoftEdge 这他妈存3份，吃饱了？ 再说Epic Games 还能搞6份？真无语了。然后 icudtl.dat 以及 ICU 这一坨也是。
更多
LLM, RAG 和 Groq
最近跟朋友聊起LLM，RAG 究竟有没有用，能不能拿来做成产品或者服务。由于我对AI的了解也很肤浅，所以没太敢下结论。 但是今天突然想起一个趣事，相传 账单·大门 院士有一句名言「640KB ought to be enough for anybody」 这句话是不是他老人家说的不重要了，重要的是 IBM PC 的这个 640KB内存 的梗是绕不过去了。 后来发现 640KB 不够了怎么办？屎山上接着hack呗。于是发明了 EMM386 ，在CONFIG.SYS 里吟唱一句 DEVICE=C:\DOS\HIMEM.SYS 可以保平安。 如果人人都能用 Gemini 1.5 Pro 那个 1M context tokens， 那么 RAG 技术也没啥用了吧。猜想能用 RAG 卖钱的，估计跟定制 HIME..
更多
语言 和 Embodied Cognition
从 coolshell 那里 看到一段好文，摘抄一下： The limits of my language mean the limits of my world -- Ludwig Wittgenstein 很有力量的一句话啊。下面有评论给了个现成的例子 用了 java，现在无论用什么语言，只要写业务代码，都会是浓浓的Java味，没有Model, Service, Controller 就感觉浑身难受…… 这里突然想到一个问题，传说中的认知科学集大成者，embodied cognition，强调「具身」所能带来的额外感知能力，会不会就是一种 IO ports？ 所谓的「体验导向认知」，是不是就是能处理原始模拟信号的各种传感器？ 如果说有谁要给 embodied cognition 设计一个 l..
更多