名词百科

什么是大模型 / LLM?

一句话定义

大模型(LLM,Large Language Model)是在大规模文本上训练的语言模型,通过预测下一个词学习语言规律,具备理解、生成、总结与推理能力。

发布者:黔序科技

它到底是什么

大模型的能力来自规模与预训练:在海量文本上学到语言结构与 world knowledge,再通过指令微调与人类反馈对齐,变成能听懂指令的助手。

它的两个固有特征需要认清:概率生成(输出是采样结果,同一问题可能不同答案)和知识截止(训练数据有截止时间,之后的 facts 不知道)。这两点决定了它必须配合检索与验证使用。

怎么运作的

预训练:在大量语料上学习下一个词的预测,形成基础模型。

微调与对齐:用指令数据与人类偏好调整,使其遵循指令、拒绝有害请求。

推理:输入文本被切成 token,模型逐个生成输出 token,直到结束。这一过程受上下文窗口限制,超出部分会被截断。

参数与成本:模型规模越大能力越强,推理成本也越高。实际选型常按任务难度分层,简单任务用小模型,复杂任务用大模型。

容易混的几个概念

  • 多模态模型:同时处理文本、图像、音频的模型。
  • 小模型:参数量小、成本低,适合特定任务。
  • 微调:用自有数据调整模型,与提示词工程不同。
  • 知识库 / RAG:用外部检索补充模型不知道的内容。

常见问题

大模型会胡说八道吗?

会。它生成的是概率上合理的文本,而不是经过核实的事实。缓解办法是检索增强(让答案有据可依)、要求引用来源、对关键结论做人工或程序校验。

微调和知识库该怎么选?

补知识用知识库(RAG),改行为与风格用微调。让模型记住经常变动的事实,用微调既昂贵又容易过期。

F AI 新兴 · 同组词条

AI AgentAI Agent(智能体)是能自主调用工具、分解任务并多轮执行的大模型应用形态。与单次问答不同,它会规划步骤、调用外部接口、根据结果调整行动,直到完成任务。AIGCAIGC(AI Generated Content,人工智能生成内容)指由模型生成的文本、图片、音频、视频等内容形态。它的核心变化是把内容生产从人工创作转为模型生成加人工筛选。RAGRAG(Retrieval-Augmented Generation,检索增强生成)是先从外部知识库检索相关内容,再把检索结果作为上下文交给模型生成答案的技术方案。它让模型的回答有据可依。企业知识库企业 AI 知识库是把企业内部的文档、规范、工单等资料整理成可被模型检索使用的知识系统,通常以 RAG 为技术基础,用于问答、辅助写作与培训。智能客服智能客服是用模型或规则自动应答客户咨询的系统,能力范围从关键词匹配的知识库问答,到理解上下文、调用业务接口完成查询与办理。MCPMCP(Model Context Protocol,模型上下文协议)是让模型应用以统一方式接入外部工具与数据源的开放协议。它把「模型怎么调用工具」标准化,避免为每个模型、每个工具重复写适配。PromptPrompt(提示词)是输入给模型的指令与上下文,决定模型输出的方向与质量;提示词工程是设计、迭代和评估提示词的方法。AI原生应用AI 原生应用是围绕模型能力设计的软件,模型承担理解、决策与生成的核心职责,而不是在既有流程上叠加一个 AI 功能。