488 GiB 变 3.81 GiB：腾讯把视觉文档检索的索引砍掉 128 倍，精度只让了 7 分
> TL;DR：做文档 RAG 的都懂这个痛：OCR 管线丢图表信息，单向量检索粒度不够，ColPali 式「一页 1024 个向量」精度好但索引贵到肉疼——百万页就要 488 GiB。腾讯 EVIE 交出的答卷分三层：训练时让多模态裁判把…
分类 · 文章
AI 大模型
大模型应用、Prompt 工程、AI 工具、模型微调、AI 开发实践
页都塞给模型了，它还是答错：哈工大实测 VLM『拿着证据不用』有多离谱
> 💡 一句话总结：RAG 文档问答有个从没人明说的前提——「证据页进了上下文，读就是容易的部分」。哈工大这篇论文把这个前提按在地上摩擦：在检索百分之百命中的条件下，给同样的 16 页图像附一份 CPU-OCR 跑出来的文本，准确率立刻涨 …
KV Cache 压缩技术：把大模型的“记忆”塞进一个小盒子
> 大模型一次对话要吃掉多少显存？ 为什么有些模型能把缓存压到原来的十分之一，却几乎不掉质量？ 上一篇文章我们把 KV Cache 讲透了：模型逐 token 生成，每一步都要回查前面所有 token 的 Key 和 Value，缓存下来重…
3T 参数模型怎么跑出 2000 tokens/s？Cerebras 把 59 片晶圆的算术全公开了
氛围图 💡 一句话总结：Cerebras 首次把「万亿参数模型怎么跑进晶圆级芯片」的完整算术摊开——59 片晶圆、每层 16GB 权重不挪窝、激活值以每跳 2 微秒在片间流动，跑出 1000-2000+ tokens/s。方案是真的快，但 …
AI 阅卷的第一道坎：学生涂改的叉，模型读成了答案
> 💡 一句话总结：AI 阅卷离落地差的那一步，可能不是「认字」而是「认涂改」。一个学生先写了个错误公式、划掉、在旁边重写——人类阅卷老师扫一眼就跳过叉号，而文档解析模型会把划痕里的幽灵字符照单全收，混进解题步骤里。暨南大学团队发布的 HA…
PyTorch、JAX 全中招：Softmax 藏了两个数值 Bug，DeepMind 用十余行代码修好了
氛围图 💡 一句话总结：DeepMind 研究者发现所有主流框架的 softmax/交叉熵标准实现藏着两个浮点 Bug——目标梯度会凭空消失、蒸馏梯度会无中生有；修复只要十余行代码，独立开发者已经实测复现。你训练过的每个模型都跑过这两个函数…
别再迷信 OCR 专用小模型：8 个 7B 以下 VLM 实测，抽取 JSON 结构还得靠通用选手
> TL;DR：博物馆数字化有个死结——文档不能上传到商业 API，但本地小模型抽不出合格的结构化数据。德国 FAU 团队拿三个真实馆藏（手写文物登记册、珠宝卡片、楼梯调查表）测了 8 个 7B 以下开源模型，结论有三条反直觉：① OCR …
PolyOCR-Venus：蚂蚁把 OCR 从『抄写员』练成『视觉智能体』，教师蒸馏还会自己下岗
> 💡 一句话总结：蚂蚁广见团队的 PolyOCR 想让 OCR 模型不只是「把字抄下来」，而是识别、定位、解析、抽取、理解、推理一把抓：6000 万实例按六大能力维度组织训练，后训练用 CGPO——先量出「教师在这个样本上到底比学生强多少…
2026年AI安全测试工具大全，14款大模型与Agent安全工具一次配齐
前面盘完接口、性能、APP、UI、安全五篇传统工具，群里果然有人来问，那 AI 呢，测大模型用什么，测 Agent 用什么。 问得正是时候。Gartner 今年的预测说，到 2029 年七成中国企业都会实施 AI 安全测试，国家 CERT …
花旗、安永、英伟达联手写的文档摄取系统报告：92% 的页面根本不需要 OCR
花旗、安永、英伟达联手写的文档摄取系统报告：92% 的页面根本不需要 OCR > 💡 一句话总结：这是一篇没有新算法、但每个做过企业 RAG 的人都会拍大腿的 MLSys 工业 track 报告：来自花旗、安永和英伟达的三位作者，把「文档怎…
介绍一个开源项目 —— 烂笔头
介绍一个开源项目 —— 烂笔头 > 纸上得来终觉浅，绝知此事要躬行 今天给大家介绍一个我自己的开源项目，在整理github仓库的时候发现的，叫做烂笔头，一款笔记软件，目前自己已经用了好久，今天分享给大家： 开源地址：github.com/H…
用 STM32 搞清楚 FreeRTOS 的任务上下文到底是什么
FreeRTOS 的上下文是一个细节特别多的事情，为了便于搞清楚原理，我们暂且不掺杂诸如 TrustZone、FPU 等一些其他特性，但这并不代表这些细节不属于上下文的一部分，而是我们故意先搁置它们以便简化这部分内容，使我们能够聚焦于主线，…
从 0 到 1 写一个扫雷游戏
扫雷大概是很多人的童年回忆：一个 9×9 的棋盘里藏着 10 颗雷，点开格子看数字，数字告诉你周围八格有几颗雷，把雷全部找出来就赢了。它练逻辑、练细心，也是学 C 语言时非常经典的练手项目——控制台就能跑，但里面该有的设计问题一个不少：数据…
给 Agent 装上对话框 —— AgentScope-Java 接入 Spring Boot 与 SSE 流式实战
P5：给 Agent 装上对话框 —— AgentScope-Java 接入 Spring Boot 与 SSE 流式实战 系列第五篇。前四篇 Agent 都活在终端里，这一篇把它接上 Web：一个 SSE 接口，让浏览器里的聊天框像 Ch…
工具分享：OneX AI 工具安装、配置及功能介绍
> OneX 知识平台：一个面向AI时代的知识交付平台，12+ 高质量体系课、4+ 实战项目，涵盖 Go、云原生、AI 。 - 微信GZH 令飞编程：分享 Go、云原生、AI Infra 相关技术。回复「资料」免费下载 Go、云原生、AI …
【鸿蒙心迹】让老照片变清晰：HarmonyOS 7.0 图像超分相册工程化落地与 5 个踩坑解法
> 摘要: 相册里压着十几年的老照片，分辨率才 480p，放大全是马赛克。HarmonyOS 7.0 的图像超分能力（CoreVisionKit 的 imageSuperResolution）在端侧把低清图增强到高清，不上传云端、隐私安全、…
做前端 UI 的人，接下来得先过一道开源技能的"设计质检"
业务目标：让 AI 生成的界面不"一眼假" Perplexity CEO Aravind Srinivas 宣布 @pbakaus 开发的开源技能 /impeccable 现已进入 Computer 的技能市… 当前卡点：生成快、验收慢，走…
WebGIS + AI 智能体：唯杰地图智能体平台一句话处理 CAD 图纸，支持 MCP 接入 AI 编辑器
唯杰地图智能体平台正式上线 一句话介绍：唯杰地图 VJMAP 是为 CAD 图纸打造的 WebGIS 平台。基于它的唯杰地图智能体平台，把「CAD 图纸叠加到地图」「坐标转换」「图片转 CAD」「构件识别」「智能审图」这些专业活，做成了开箱…
AI Agent工具误调用怎么解决-从参数校验到高危二次确认的四层工程防线
AI Agent 乱调工具，靠改 prompt 治不好。实测数据摆在这里：模型单工具调用准确率约 95%，工具数涨到 20 个以上就掉到 65%–78%，而规模化后 60%–75% 的失败根本不是选错工具，是参数填错。这篇按「根因 → Sc…
AI Agent工具调用防护层怎么写-一份能直接跑的Python四层拦截实现
四层防护不用从零设计。下面这 150 行 Python 就是完整骨架，只依赖标准库，复制进 guard.py 直接运行，五个典型场景会依次打印出每一层在哪一步拦下调用——参数名幻觉、类型错误、越权、硬禁、重复调用，一条不漏。 目录 1. 这…