AI 工程
DGX Spark 跑 Qwen3.8-27B，速度从 24 到 36 tok/s，我折腾了哪些东西？
如果你也有一台 DGX Spark，或者正在琢磨要不要入手一台来跑本地大模型，那你大概率会遇到同一个问题：模型装进去了，速度却提不上来。
AI EngineeringAgentRAGBuild with AI
最新文章
VIEW ALL →
AI 工程
AI 做视频，模型生成和代码生成，到底哪种更省钱？
生成一段 30 秒的 AI 视频，多少钱？ 按 2026 年 11 月 11 日查到的官方价格示例，Seedance 2.5 的 720p 约 ¥1.51 一秒，30 秒 ¥45.…
技术思考
你用 AI 花的每一分钱，有多少是在给英伟达买单？
复制 HTML 点击复制后，粘贴到公众号草稿箱正文区域。 你打开 DeepSeek 或者 ChatGPT，输入一个问题，几秒钟后，答案就出来了。
技术思考
都说 AI 写代码效率翻倍，但没人告诉你验证成本并没有消失
项目立项那天，我做了个决定：这次不按老路子来。 新项目不小，涉及好几个模块、多条业务流程，搁以前至少要拉齐两轮需求评审、出三版接口文档、掰扯一星期才能分头开工。
技术思考
为什么大模型一处理长文本，就开始变慢？
前段时间，同事跟我吐槽，他们用 4 张国产加速卡部署了一个 Qwen 模型，想让 AI 审查一份一万多字的合同，结果请求一直等不到响应，最后接口超时了。 这个问题我并不陌生。
技术思考
你的 AI 助手记住的东西，同事能用上吗？
前段时间，我跟几家公司的朋友聊天，聊着聊着，问了他们一个问题：你平时用 AI 积累下来的那些经验，其他同事能直接用吗？ 问了七八个人，没有专门设计问卷，也算不上什么正式调研。
技术思考
花四万买个笔记本跑 AI，到底值不值？
你想在自己电脑上跑个像样的大模型，结果装不下。显卡那 12 个 G 的显存，塞进一个中等模型就爆了；你想加内存条，发现加了也没用——模型根本不放内存里，它放显存里，而显存焊死在显卡…
技术思考
刚开源的“记忆原生”模型，能替代你公司的 RAG 吗？
10 月 20 日，一家叫记忆张量的公司开源了两个模型，AI 圈讨论不少。我看完论文，第一反应不是兴奋，而是替很多团队捏了把汗：刚花力气建好 RAG 知识库的企业，看到这种新闻最容…
技术思考
AI 写的代码，到底谁来兜底？（下）：五层都漏，但每一层都有正确的用法
上一篇把话说得挺丧：五层防线，每层都在漏。没读过的补一句背景：五层指的是给 AI 代码把关的五个环节——需求说明、自动检查、AI 加人工审查、测试、小流量发布，上篇逐一拆了它们各自…
技术思考
AI 写的代码，到底谁来兜底？（上）：五层防线，每层都在漏
工作标题，待定稿后替换 上个月有个事，挺有意思。 Linus——就是那个骂了三十多年别人代码有问题的 Linus——自己用 Claude Code（Anthropic 出的 AI …
行业观察
App 明明没打开，为什么还能收到消息？
App 明明没打开，消息却照样弹出来。很多人的第一反应是：它是不是一直在后台偷偷运行？ 有这种可能，但仅凭一条通知，还不能下这个判断。因为接收消息的，未必是这个 App 自己。
随笔
读过的书，下次怎么用上？一套普通人能做的AI阅读方法
设想你下周要组织一次项目启动会。你读过沟通、管理方面的书，也记过不少划线。可准备议程时，仍然想不起哪段内容能帮上忙，只好重新搜索，再问 AI。 阅读时觉得有道理，遇到事情又从头找。
技术思考
AI说“做完了”，我们该如何确定结果的真实可靠？
假设你经营一家小店，把一个月的订单表交给 AI，让它按周、按渠道整理收入，再看看最近为什么卖得少了。 它交回来一个工作簿，附上一段总结：“数据已整理，分析已完成。
行业观察
Muse 和 Dots 到底是什么？国内已经有对手，下一步会怎么走
第四生产力 · 产品观察 假设你交给 AI 一件今天办不完的事：“下周出差，帮我盯着机票和日程；有变动再来找我。” 现在多数人用 AI，还是打开对话框，问一次，拿一次答案。
AI 工程
同一个模型，该用什么精度、配什么硬件？
推理优化 · 硬件选型从 BF16、FP8、NVFP4，一直算到国产卡与消费级显卡昨天我们选完 Qwen3.8-27B，今天轮到买卡。 问题看起来很简单：27B 模型需要多大显存？
AI 工程
自己部署大模型，真的更便宜吗？这笔账我帮你算了
如果你的老板最近问你：咱们要不要自己部署个大模型？我听说 API 用着贵。 先别急着点头，也别急着摇头。这笔账，十个团队里有九个算漏过。 先给自建一个公道 自建不是没道理。
行业观察
智能体闯进你的数据，3 个月没人发现，这才是智能体安全最吓人的
你公司要是已经在用 AI 智能体碰真实数据，客户档案、财务表、代码仓库，这条新闻跟你关系比想象中大。 9 月 23 日，澳大利亚总理亲口对外说：6 月份，一个 OpenAI 的智能…
AI 工程
Qwen Image 2.1：AI 图片做出来了，为什么还要反复改？
第四生产力 · AI 创作实践设想你要给一款保温杯做促销海报。产品照片已经有了，只想换个秋天的背景，再放上价格和活动日期。第一版出来，气氛不错。仔细看，杯盖的形状变了。
AI 工程
FDE 到底是干什么的？从一次客户催单说起
第四生产力 · 企业 AI 落地客户问：“我的货，到底什么时候能发？” 销售去问仓库，仓库说还没齐；再问生产，生产说缺一批零件。几轮电话打完，仍然没人敢给客户一个准信。
随笔
为什么 AI 写不出有观点的文章？10 个 Skill 里有一句话值 3 年稿费
上个月我花了 3 天用 AI 写公众号，12 篇初稿全部作废。 作废的原因都一样——全是空泛的“赋能”“闭环”“全链路”，通篇是公开信息复述，没有一个作者自己的判断。
技术思考
RAG 和知识图谱 RAG：什么时候该从“找段落”升级到“找关系”？
企业做 RAG，容易遇到一种落差。 文档都切好了，向量库也建好了，演示时问什么都能搜到。 一到真实业务，问题却变成：“哪些订单同时受到三条规则影响？
AI 工程
AI安全：Agent 越权之后，企业该如何给 AI 装上“急停按钮”？
如果 Agent 停不下来，谁能让它停？ OpenAI 和 Anthropic 分别公开了与 Agent 行为和评估环境有关的安全事件。
AI 工程
AI治理：Agent 有了规则，为什么还是不敢放权？
AI治理不只是给模型写一套使用规范。企业让 Agent 进入真实流程前，还要解决身份、最小权限、审批门槛和可追责证据；这也是智能体安全最容易被忽略的部分。
技术思考
SOP 为什么喂不出能干活的 Agent？
企业把制度、操作手册和流程图都喂给了 AI，得到的往往还是一个会背流程的客服。想让 Agent 真正接手工作，得先把人类靠经验补齐的那些条件，变成机器能够理解、执行和验证的工作契约…
技术思考
给 Agent 配了最强大脑，它为什么还像刚入职第一天？
想想一个很常见的任务：让 Agent 查客户、按规则出报价、把邮件草稿写好。 活听着不复杂。模型挑了最强的，知识库也塞了不少材料。跑出来一看，第一封邮件就让人不敢发。
技术思考
Agent 和工作流到底啥区别？90% 的老板都选错了
最近又被客户问了那个经典问题：“我们要上 AI，是搞 Agent 还是搞工作流？” 我说你先把这俩是啥搞清楚。他说：不就是……一个高级点一个低级点吗？
技术思考
我劝客户别急着上 RAG：他的数据，不配
最近接了个活，给一家企业做智能客服系统。 按行业惯例，这种需求闭着眼睛都是上 RAG——就是现在最火的那种”企业知识库问答”，你问什么，AI 从你的资料里找答案。
行业观察
OpenAI 砸了 40 亿美元，只为把工程师塞进你的办公室
今年 AI 圈有个特别反常的事。 所有人都在追更大的模型、更强的参数，结果 OpenAI 干了件”不性感”的事：砸 40 亿美元成立了一家全资子公司，专门干一件事——把工程师派到客…
AI 工程
GPT-6 昨晚发布，我看着我那台 8 卡服务器沉默了
昨天晚上，OpenAI 发布了 GPT-6（代号 Astra），全网都在刷”AGI 要来了”。 同一时间的我在干嘛呢？在给我那台 8 卡 96GB 的服务器数秒。
行业观察
房贷延长到40年，压力真的下降了吗？
8月28日，住建部、央行、金融监管总局联合发文：个人住房贷款期限上限，从30年延长到40年。 这意味着，一个35岁的人现在贷款买房，理论上可以把房贷一直还到75岁。
专题与主线
01
Agent 工程实战
身份、授权、审批、审计与逐级放权
02
RAG 与知识库
从找段落到找关系，什么数据配得上 RAG
03
推理部署与硬件
精度、显存与自建成本的账
04
企业落地与治理
评测、急停与流程工程
关于我
赵
HELLO, I’M
AI 工程师 & 创作者
专注于 AI 工程、产品与企业落地，用技术思考记录第四生产力的时代。公众号「第四生产力」作者。
热门话题
大模型AgentRAGFDE知识图谱推理优化企业数字化流程工程AI 治理Agent 评测