AI 词库
查阅 AI 名词、缩写与释义
共 14 个词条 · 1 个分类
模型与训练
14 个词条模型检查点
Checkpoint
模型训练过程中的一个存档,方便继续训练或选择某个版本
数据集
Dataset
为学习、检查或分析收集起来的一组资料
过拟合
Overfitting
练习过的例子答得很好,换成新问题却表现变差
混合专家模型
Mixture of Experts
模型内部设有多组处理部分,每次只选择其中一部分参与计算,简称 MoE
量化
Quantization · INT8
用更省空间的数值来保存和计算模型,让它更容易在设备上运行
知识蒸馏
Knowledge Distillation
让一个模型向更强的模型学习,常用来训练更小、更省资源的模型
人类反馈强化学习
Reinforcement Learning from Human Feedback · RLHF
先让人比较 AI 的回答,再用这些偏好继续训练模型
LoRA
Low-Rank Adaptation
一种较省训练资源的微调方法,只集中训练较小的一部分附加设置
指令微调
Instruction Tuning · SFT
专门用“要求和合格答案”教模型学会听懂任务、按要求回答
预训练
Pretraining
模型先从大量内容中打基础的学习阶段
注意力机制
Attention
模型处理一段内容时,计算哪些部分和当前问题更相关
Transformer
Transformer
很多语言模型采用的一种内部设计,擅长联系前后内容
微调
Fine-tuning
让已有模型再练一批专门的例子,使它更擅长某类任务
大语言模型
Large Language Model · LLM
能读文字、写回答的 AI,是许多聊天助手背后的核心
想补充一个词条,或发现释义有误?
告诉我们