Paleshell's Cornfield🌽

突然发现学校旁边的小 target 开了个书架，有 #WoF 卷十六，猫武新 GN，还有猫武衍生新作。很好奇是因为这些书比较畅销，还是说就是有人看这些（

最近在搬家，然而今天很不幸被奇怪的门锁 bug 锁在门外半个多小时。在等待房东救援的时候，还能连上室内的 WiFi，突发奇想查一下 apple neural engine（ANE）。前两个文档，包括 Wikipedia 都没多少信息，但我很快找到这篇 arXiv 文章。本来以为就是篇普通的逆向论文，下载了才发现有 300 页！看起来就很有意思，但上游仓库才几十个 star，有点神秘，莫非是 vibe 的假内容？说是支持 #LLM 和 SD，以及训练小模型。FAQ 里还引用了 ANE-LM，它又引用了另一个项目，倒是有几千 star，应该假不了吧。这个项目文章还上了 Hacker News。有空研究下。相比以前尝试 RK3568 啥的 NPU，Apple 的生态优势应该要好很多吧，但还得逆向。 现在的 #agentic 时代，理论上软件和框架都不再稀缺，但能用的项目总还是有限的，需要仔细甄别。

昨天经过 Gemini 一番优化，#树莓派 1B 跑 LFM2.5 成功来到了 0.5 t/s (350M) 和 0.65 t/s (230M)，虽然后者的输出完全是幻觉。看起来优化空间已经不多了，也许有 10%，连 Claude 都这么说。主要是部分 CPU 算子都移到 QPU 的话，能减少一些同步调度开销。下一步可以考虑移植 SDXS 啦！看了下单个模型比 350M 还小一点，Q4 应该能装下吧。 #LLM

经过 Gemini 的一番努力，#树莓派 1B 的 VC4 QPU ASM 后端终于算是跑通了。tg 来到了 0.2 t/s，达到了纯 CPU 的 2 倍，然而模型也从 350M 降到了 230M。但这速度还不如 MBA 跑 GLM-5.2 快…… #LLM #agentic

附上这个离谱的硬编码！amdgpu 应该把这张卡核心认作 Hainan，GPU-Z 给的是 Jet。但反正是移动端魔改卡，再加上 GCN 一堆马甲，也就不奇怪了。 https://github.com/torvalds/linux/blob/master/drivers/gpu/drm/amd/pm/legacy-dpm/si_dpm.c#L3468 #GPU

最近在继续折腾 R5 M320，主要的挑战是运行 stable-diffusion.cpp。因为跑 #LLM 的话，DDR3 显存绝对比不了四通道 DDR4，至少在 decode 阶段。2G 显存跑 SD，放在以前比较难以想象，在 A1111 的时代印象中就一个 low-vram 选项，也不知道最少要多少显存。而 sd.cpp 是用 llama.cpp 同款 ggml 后端，不需要笨重的 torch，而且支持 Vulkan，GCN 没有 ROCm 也能玩。模型支持方面也还行，像前段时间的 Krea2 过了几天也支持了。sd.cpp 有个 offload-to-cpu 选项，可以只在需要的时候把模型加载到显存。现代的 diffusion 模型一般需要先用 LLM 处理提示词，然后跑主体 diffusion 模型，最后跑 VAE 模型生成最终的图片。 sd.cpp 支持 safetensors 和 gguf 量化，但 2G 就算是 …

另外还折腾了一下 colibri，通过 SSD offload MoE 在本地跑 GLM-5.2。速度当然看看就好，短输出都只有 0.3~0.4 t/s，不过 prefill 看起来快不少，所以 prompt 长点问题不大。我还在 128G 内存纯 CPU 服务器上跑了下，发现速度也差不多……模型需要吃掉 384GB 空间，MTP 也基本没用，提高 topp 可以牺牲一点质量换一点速度。这个速度跑一晚上也生成不了多少，可以看作是 oracle 哈。 之后可以试试 llama.cpp 效率如何。以及 Kimi K3 发布之后，GLM-5.2 看来已是明日黄花了。 #Mac #LLM

导师提出给我买 MacBook，我们赶在涨价前买了，转眼间我已经用了两周了。从一开始的不适应，到现在已经基本被 Mac 同化了。所以在这里简单写一下作为万年 Windows 用户的迁移心得，再拖着不写估计都快忘了。因为是学院采购，所以只能买新的 M5。给的预算是最低配的 16GB MacBook Pro，涨价前教育优惠是 1600 刀。但我印象中 Mac 很适合跑本地模型，16G 内存实在是杯水车薪， 而且要知道我的旧 RedmiBook 2020 都有 16G 了。最终决定买同预算的 MacBook Air 32GB + 1TB，外加升级 70W 充电器，希望我不会后悔。涨价后就贵了 300 刀！ MBA 很快就给我带来了麻烦，没有 HDMI 接口，而我的垃圾显示器只有 HDMI 和 VGA。在 Aliexpress 挑了半天，选了个 4 块多的 USB-C 扩展坞，除了 HDMI 还有读卡器、两个 USB-A 接口甚至以太网…

显然后续我并没有尝试，甚至都没怎么玩 HV 绕过的 D 加密游戏，就玩了一点怪猎物语 3，AFOP 后来也没再打开过。比起玩游戏，我显然更喜欢测显卡。现在基本所有 D 加密游戏都至少有 HV 绕过了，部分还有 voices38 的传统破解。现在 Linux 版也出了，对支持 cpuid_fault 的 CPU 已经不需要 hypervisor 了，包括 Intel 4 代以上或 AMD Zen4+，只需要 userspace 修改。对于考古而言，Haswell/Zen 以上还是挺高的要求，有空试试能不能在更老的平台上运行。因为据说 Ivy Bridge 就支持 cpuid_fault，不行的话也还有 hypervisor 可以尝试。HV 模块和 Proton 的补丁也都开源，看起来有挺高的可玩性。 https://cs.rin.ru/forum/viewtopic.php?f=10&t=159989

好久不见，上次看完 #Pern 卷一之后，我没立刻继续看卷二。因为在逛 r/dragons 的时候找到了些有趣的内容。r/dragons 很大一部分是各种龙类艺术图，但偶尔还是有人讨论龙类小说啥的。不过这次我看到的是一个新动漫，号称以龙为主角，叫 the cat and the dragon。听起来设定挺有意思，后来 YouTube 也刷到了介绍视频（不知道有没有和 reddit 的推荐机制）。这下不得不看了，但因为是日漫，显然我需要翻译。英文可以看 crunchyroll，但是收费，而且不如直接看中文翻译呢。国内似乎也没引进吧，于是就直接去找盗版吧。目前我主要靠 r/piracy megathread 和 fmhy 作为索引站，后者也提供了一些中文站点。看起来 nyaa.si 是个不错的选择，也成功找到我需要的资源。检索用原文应该更有效，写作 Neko to Ryuu。我知道 ryu 是龙吧，那 neko 就是猫吧。 然而这个…

好久不见，最近我重新开始看 #Pern 系列，看完了卷一 Dragonflight。看下日期可以发现，我上次看已经是快两年前了。卷一一共有四部分，上次看了第四部分的开头之后弃坑了，因为有些无聊。实际上完全不是这样，再往后看一点就很精彩了。我通过有声书回顾前面的剧情，也大概翻了一些复习，然后一口气看完了。 Pern 在龙类小说里，差不多有魔戒之于奇幻的创始地位吧。卷一 1968 年出版，只比沙丘和基地迟一点。卷一的两部分分别获得了雨果奖和星云奖，也让作者 Anne McCaffrey 成为第一个获得这些奖项的女作者。Pern 还是科幻小说，我上次就提到过，我看过的 #冰火、#RotE 都有受到其明显的影响。比如 Weyr 就类似冰火的守夜人，与世隔绝（住在 Weyr vs 长城），都守护世界免受威胁（Thread vs 异鬼），但随着时间推移逐渐被人轻视（不再进贡 vs 发配罪犯）。当然 dragonman 比守夜人厉害多了，他们…

最近重新开始捣鼓老 #GPU 运行新游戏，now with #agentic！首先还是 #幻兽帕鲁，上次还是用网页版 Gemini 和 GPT（走的 Perplexity），主要有两种思路：一种是直接盲写一个 hook DLL，当然没解决崩溃；另一种是试图开 D3D 和 UE 自带的调试层，但也没成功的样子。 现在我想给实验室同学推销帕鲁，于是顺便自己又测了一下。用的是最新的 0.7.3，感觉和两年前真的是很不一样了。复习一下，帕鲁用的是 UE 5.1.1，理论上引擎方面最低需要 DX11 SM5 的显卡。但以前实测过，初代 DX11 的 TeraScale（HD 5000/6000 系列）和 Fermi（GTX 400/500 系列）架构都会直接崩溃，报错是一个 UAV 不支持某种格式啥的，反正我不懂。我记得查过 D3D 文档，这个确实是可选支持的格式。这次我用 FirePro V5800（相当于 HD 5770/5750）重…