分类 · 文章

AI 大模型

大模型应用、Prompt 工程、AI 工具、模型微调、AI 开发实践

共 793 篇文章

模型的调用

image.png 加了a是异步 举例 image.png 给模型添加记忆功能 image.png 注意: append() 一次只能追加1 个元素 "response1.content"(带双引号):字符串字面量,文本就叫 respons…

AI账单失控前,团队真正缺的不是更便宜的模型

企业 AI 成本最容易陷入两个极端:完全放开,月底才发现账单;一刀切限额,又把真正有价值的自动化一起停掉。微软最新的 AI FinOps 更新给出一个明确信号:成本治理不能只盯 Token 单价,而要把谁在用、用来做什么、产生了什么结果放在…

kubectl scale ds 是个 404:DaemonSet 没有 replicas

> 说明:本文不涉及 Strimzi——发布标题保留系列编号、slug 已定不再改,内容是 DaemonSet 缩容 404 这条线。 给故障演练靶场写"CNI 整体下线"故障,我第一反应是副本数清零:kubectl scale ds ca…

Codex 源码导读:第一部分——工程分层

Codex 源码导读:第一部分——工程分层 本文基于 OpenAI Codex 开源仓库当前检出的源码,而不是根据产品界面推测。这里的“层”是便于理解职责和运行路径的概念分层:Rust crate 之间可以跨层依赖,不能把它误解成严格的六层…

AI服务线上响应异常故障

AI服务线上响应异常故障排查文档 1. 故障概述 1.1 故障标题 AI服务线上响应异常故障 1.2 故障现象 线上AI推理接口偶发响应超时,部分请求返回504网关超时,业务侧用户提交对话请求长时间无返回。监控面板可见:接口P99响应时间突…

第 26 章 案例二 企业知识库问答 Agent

第 26 章 案例二:企业知识库问答 Agent 本章要解决的问题 企业文档中心几万份 PDF,怎么让 Agent 精准回答「我们公司的报销标准是什么」? 章节大纲 26.1 文档处理与向量检索(Qwen + 内网知识库) 26.2 RAG…

Claude注册,订阅,防风,解风经验!

好像很多人关心 Claude 账号的问题,我就专门写一篇! 现在的 Claude 真的非常有“性价比”! ffe738d4f7d069b591cea6b412cbbd86.png能力绝对顶得不行,价格还比 GPT-6 Astra 便宜。 然…

做 Agent 架构时,OpenViking 的几个可以学习的点

设计 Agent 架构时,有一个模块的边界经常画不清晰:上下文。规划、工具调用、执行循环这些组件的职责都好切分,唯独「Agent 该知道什么」这件事,散落在 prompt 模板、RAG 管道、记忆插件和会话历史四个地方,各管一段,互不通气。…

使用 Vibe Coding 的这6 种后遗症,你有吗?

我已经很久没有沉浸式写代码了。 以前碰到一个复杂问题,我会花几个小时读调用链、画状态变化、跟踪异常路径。刚开始很慢,脑子里只有一些零散信息。随着上下文逐渐完整,代码会形成一张连续的结构图。再往后写,很多判断不需要反复查找,心流也就出现了。 …

权重装进了 24 GiB,四路 32K 上下文还装得下吗?

权重装进了 24 GiB,四路 32K 上下文还装得下吗? 模型权重已经加载,短问题也能回答,于是把服务目标改成四路长上下文。接下来遇到的却是缓存不足、请求等待,或者在某个峰值阶段显存不够。第一反应往往是:“权重才占一部分,剩下的显存为什么…

OpenAI 智能体越界踩了沙箱,Sam Altman 突然踩刹车

Sam Altman 表示 OpenAI 正在对智能体在训练和评估期间的互联网访问行为进行大规模持续审查,并在官网链接发布摘要。 事件起点:Hugging Face 被入侵的那一次 智能体突破沙箱,生产环境遭入侵 事故的触发点是一个内部安全…