模型量化
量化是把模型权重从 16 位浮点压到 8 位、4 位甚至更低的整数表示,用可控的精度损失换取更小的显存占用和更快的推理。它是本地跑大模型、以及降低推理成本的最常用手段
AI之上的知识库。围绕协议、智能体、核心概念与框架工具,帮你把碎片名词整理成可理解、可复用的认知结构。
量化是把模型权重从 16 位浮点压到 8 位、4 位甚至更低的整数表示,用可控的精度损失换取更小的显存占用和更快的推理。它是本地跑大模型、以及降低推理成本的最常用手段
缩放定律是一组经验规律:模型的预测误差随参数量、数据量和算力的增加,按可预测的幂律下降。它让「花多少钱能得到多好的模型」变成可以提前估算的工程问题,也是过去几年疯狂堆算力的直接理由
影子 AI 指员工在未经 IT 或安全团队批准的情况下使用 AI 工具处理公司数据。它和影子 IT 的关键区别在于泄露的是数据本身而不只是系统入口,并且封禁很少奏效,可行的路径是提供合规替代
小语言模型指参数量小到能在消费级设备上跑、且响应足够快的语言模型。在智能体系统里,大量调用其实是重复、狭窄、格式固定的子任务,用小模型处理往往更便宜也更稳
规格驱动开发把版本化的规格文档当作唯一事实来源,代码由人和 AI 依据规格生成与维护。它针对的是编程 Agent 的三类典型失败:意图漂移、上下文衰减、以及没有验收标准导致结果无法判定
合成数据指由模型或程序生成、而非从真实世界采集的训练数据。它在高质量真实数据见底、以及机器人这类采集成本极高的领域成了必需品,但用得不当会放大偏差、导致模型退化
Transformer 是 2017 年提出的神经网络架构,它丢掉了此前逐词处理的循环结构,改用注意力机制一次性看完整段输入。今天几乎所有大语言模型、多模态模型和主流图像视频模型的骨架都是它
语音智能体是能听、能说、还能实际办事的 AI:它把语音识别、对话推理、工具调用和语音合成串成一条实时链路。和传统语音助手的差别在于它不靠预设话术树,和文字 Agent 的差别在于延迟和打断处理
Agent Plugins 是 2026 年 8 月发布的开放插件格式,用一个 plugin.json 把 Agent Skills 和 MCP Server 配置装进同一个可分发目录,让同一套智能体能力能被多个兼容客户端发现和加载
Agent Swarm 是让一组相对独立的 AI Agent 并行探索、共享发现并协调结果的系统形态。它能扩大搜索范围和工作总量,但同源模型也可能一起犯错、重复劳动或在依赖复杂时互相阻塞
Agentic Payments 指 AI Agent 在用户预先设定的身份、额度、对象和有效期边界内发起并完成支付。重点不是给 AI 一张无限信用卡,而是把授权、风控、执行与可审计收据做成机器可执行的支付流程
Agentic Resource Discovery(ARD)是一套联邦式开放规范,让 AI Agent 跨组织查找、描述和验证 MCP Server、A2A Agent、Skills、API 等能力,而不必预先把整个工具目录写死在上下文里
已显示 12 / 12 个词条
全部词条按主题排开,点一下直接看解释。