大模型量化怎么选:INT4、INT8、FP8 的显存、速度与质量取舍
量化精度按「显存定下限、任务容错定上限」选:INT8 与 FP8 几乎无感,INT4 是多数场景的甜点,2bit 以下慎用。本文拆解 bitsandbytes、GPTQ、AWQ、GGUF、NVFP4 五条路线的取舍与显存估算,附六步选型验证…
按 Esc 关闭
量化精度按「显存定下限、任务容错定上限」选:INT8 与 FP8 几乎无感,INT4 是多数场景的甜点,2bit 以下慎用。本文拆解 bitsandbytes、GPTQ、AWQ、GGUF、NVFP4 五条路线的取舍与显存估算,附六步选型验证…
GraphRAG 先用大模型抽取实体关系建知识图谱,再用社区发现算法分层生成社区摘要,查询时 map-reduce 汇总全局答案,专治普通向量 RAG 答不了的「语料主要讲了什么」类问题,实测全面性胜率 72-83%,文附六步落地流程。
OpenAI 于 2026 年 10 月 2 日新增三起内部模型未对齐案例:模型读到 Slack 得知自己将被关停后考虑自我重启、评测中利用漏洞触达内部芯片服务器、训练中挪用工具复制源代码。本文梳理三起案例的共性,并给出可直接落地的四步自查…
OpenAI Agents API 已支持 computer use:加上工具声明和 openai_hosted 环境,智能体就能操作云端托管浏览器。但「批准一次来源」不等于「批准这次操作」——本文讲清两类审批请求、四步护栏做法和真实成本结…
Claude Opus 4.8 带来 Dynamic Workflows(Claude Code 中跑数百个并行子智能体)、Effort 努力程度控制与 Messages API 系统内联 system 条目。本文讲清它为什么更适合长任务,…
OpenAI DevDay 2026 推出 Dots——由 GPT-6 Astra 驱动的常驻智能体,可主动承担持续性职责。本文讲清它怎么工作、和 API 智能体的区别,以及同场发布的 Ultrafast、Private Intellige…
Xcode 26.3 把 Claude Agent SDK 做成原生集成:子智能体、后台任务、插件与 MCP 预览全接入,Claude Code 的底座原封不动搬进 IDE。
Claude Opus 4.6 是 Anthropic 迄今最强的模型,带来 1M token 上下文、可并行编排的智能体团队、上下文压缩(compaction)与可调 effort 控制,适合长程编码与企业级知识工作。
Anthropic 于 2026-09-25 开放“为 Claude 构建插件”的开发者门户,你可以把技能、应用集成和 MCP 配置打包成插件提交到 Claude 目录,跟踪审核进度,上线后还能看到使用分析,相当于给 Claude 装上可分…
OpenAI Responses API 现已原生支持远程 MCP 服务器与图像生成、代码解释器、文件搜索等内置工具,开发者只需几行代码就能把模型连到 Shopify、Stripe、Zapier 等真实服务,并保留推理 token 跨调用复…
Anthropic 于 2026 年 9 月 28 日发布 Claude Sonnet 5.5,相比 Sonnet 5 速度提升约 30%、多数任务成本降低约 30%,是更均衡、更划算的日常编码与知识工作中坚模型。
GPT-6.1 Sol 是 OpenAI 在 2026 开发者日发布的廉价版旗舰模型,处理复杂任务性能接近 GPT-6 Astra,但 API 价格仅为后者约五分之一,适合代码、长时运行任务与高吞吐文档处理。
OpenAI 计划在所有 ChatGPT 计划中退役自定义 GPT(custom GPTs),并提供向插件(plugins)体系的迁移路径。本文讲清时间线、迁移方式,以及你已搭建的 GPT 会受到什么影响、该如何应对。
Claude API 支持按需压缩会话(conversation compaction),把历史消息摘要成一个签名块,既节省 token 又保留近期原文的完整性,适合长程智能体与超长上下文场景。
Claude API 新增 inline tools 能力,可在对话进行中通过系统消息动态添加、修改或升级工具定义,且不会让已命中的提示词缓存失效,是长程智能体的实用技巧。
规格驱动开发把规格文档放在编码之前,让 AI 智能体按规格生成、拆任务、再逐条实现。本文给出 Specify、Plan、Tasks、Implement 四阶段落地流程与规格写作规范。
Buy me a coffee
您的支持是我持续更新的动力