什么是上下文嵌入（Contextual Embedding） – AI百科知识
上下文嵌入（Contextual Embedding）是自然语言处理（NLP）领域的一项重要技术，它通过考虑词语在特定上下文中的用法来生成词的向量表示。与传统的静态词嵌入（如Word2Vec和GloV...
排序
什么是联结主义（Connectionism） – AI百科知识
联结主义（Connectionism），也称为连接主义，是认知科学和人工智能领域的一种理论框架，它主张通过模拟大脑中神经元的相互连接来解释认知过程。这一理论认为，认知功能可以通过大量简单单元（类似神经...
什么是规模定律（Scaling Law） – AI百科知识
规模定律（Scaling Law）的概念在不同学科领域中有不同的应用，但在人工智能和机器学习领域，它主要用来描述模型性能如何随着模型大小、数据集大小和计算资源的增加而变化。随着模型中参数数量的增加，性...
什么是数据蒸馏（Dataset Distillation） – AI百科知识
数据蒸馏（Dataset Distillation）作为一种将大规模数据集知识压缩到小规模合成数据中的创新技术，正在快速发展并展现出巨大潜力。它不仅为解决大规模数据集带来的存储、计算和隐私挑战提供了新...
什么是上下文窗口（Context Window） – AI百科知识
上下文窗口（Context Window）指的是大型语言模型（LLM）在处理和生成文本时，模型可以处理的token数。这个窗口的大小直接影响模型在处理信息时可以利用的前后文信息，或者生成回复时生成的t...
什么是模型泛化（Generalization） – AI百科知识
模型泛化（Generalization）是机器学习中的一个核心概念，描述了模型在训练数据之外的新数据上的表现能力。泛化能力衡量的是模型能否在未见过的样本上做出正确的预测或推断。当训练机器学习模型时，模...
什么是奖励模型（Reward Model） – AI百科知识
奖励模型（Reward Model）在大模型训练中扮演着至关重要的角色。通过构建高质量的奖励模型，我们可以引导模型向更符合人类偏好和价值观的方向迭代，从而提升模型的安全性、可控性及用户满意度。在问答服...
什么是训练数据（Training Data） – AI百科知识
训练数据（Training Data）是机器学习的核心，质量、多样性和代表性对模型的性能有着直接的影响。精心准备和处理训练数据对于构建有效的机器学习模型至关重要。通过优化数据质量和数量，我们可以提高模...
什么是具身智能（Embodied Intelligence, EI） – AI百科知识
具身智能（Embodied Intelligence, EI）强调认知受智能体的感知与动作的影响。它主张智能或智能行为来自智能体身体与周围环境的交互，而不仅仅是大脑的功能。这一理论与建立在笛卡尔身心二...
什么是词嵌入（Word Embedding） – AI百科知识
词嵌入（Word Embedding）是一种自然语言处理（NLP）技术，它通过将单词映射到一个连续的向量空间中，使得语义相近的词在向量空间什么是词嵌入（Word Embedding） – ...