AI基础认知 一、核心定义,什么是边缘AI? 边缘AI 指的是在数据产生的源头或附近(即“边缘”),而非遥远的集中式数据中心(即“云”),直接运行人工智能算法的技术和架构,边缘:指网络的“末端”,即物理世界中产生数据的设备本身或靠近它的本地计算节... 星博讯 2026-04-09 28 #边缘计算 #人工智能
AI基础认知 一、什么是云端 AI? 云端AI是将人工智能(AI)的计算能力、数据存储和模型服务,通过互联网(云)以按需服务的形式提供给用户,你可以把它想象成:传统本地AI: 你自己买发电机、建电厂、铺电线来用电,云端AI: 你直接插上插... 星博讯 2026-04-09 25 #云端 #AI服务
AI基础认知 一、核心思想与驱动力 不是“非此即彼”,而是“各取所长,协同作战”,将AI推理(有时也包括部分训练)任务动态、智能地分布在端侧和云侧,主要驱动力:低延迟与实时性: 端侧处理无需网络往返,适合对实时性要求极高的场景(如自动驾... 星博讯 2026-04-09 23 #思想核心 #动力源
AI基础认知 我将为你规划一条清晰、循序渐进的入门路径,从基础认知到动手实践 建立认知 - 什么是嵌入式AI?你需要理解这两个领域的交集:嵌入式系统:专用计算机系统,通常资源受限(CPU主频低、内存小、无操作系统或轻量级OS如FreeRTOS),强调实时性、低功耗和低成本,常见... 星博讯 2026-04-09 24 #入门路径 #动手实践
AI基础认知 在人工智能,特别是大语言模型(LLM)浪潮的背景下,小模型通常指的是参数规模较小(通常在数十亿参数以下,常见的是千万到百亿级)计算资源需求相对较低的机器学习模型 什么是小模型?核心定义: 与动辄千亿、万亿参数的大模型(如GPT-4、Claude-3)相比,小模型是在模型规模、计算开销和部署成本上显著更“轻量级”的模型,关键对比:| 特性 | 大模型 (LLM ... 星博讯 2026-04-09 25 #小模型 #人工智能
AI基础认知 简单来说,参数量是一个大模型最基本、最核心的规模度量指标,它直接代表了模型的复杂度和容量 你可以把它想象成一个人的脑神经元数量,神经元越多,大脑的理论记忆容量和复杂思考能力就越强,参数到底是什么?在人工智能模型中,参数是模型在训练过程中从数据中学习并最终确定的数值,它们主要存在于模型的权重... 星博讯 2026-04-09 25 #参数量 #模型复杂度
AI基础认知 这是一个核心概念,理解它对于把握当前AI发展的脉络至关重要 什么是模型规模?在深度学习和AI中,“模型规模”通常指模型的容量或复杂程度,它主要从以下几个维度来衡量,且这些维度相互关联:参数量定义:模型内部所有可学习的权重和偏置的总数,你可以把它想象成模型“大脑... 星博讯 2026-04-09 26 #核心概念 #AI发展
AI基础认知 简单来说,上下文窗口是一个大语言模型在生成下一个词时,能够看到和考虑的前文信息的最大范围。你可以把它想象成模型的工作记忆或短期记忆 下面我们从原理、技术实现、挑战和意义几个层面来详细拆解,核心原理:注意力机制上下文窗口的实现,完全依赖于Transformer架构的自注意力机制,这是理解一切的关键,基本思想:当模型要生成句子中的下一... 星博讯 2026-04-09 27 #上下文窗口 #大语言模型
AI基础认知 在当前的讨论语境下(特别是人工智能领域)上下文学习 主要指 大语言模型 的一种核心能力。它的核心思想是 模型不更新其内部参数(即“不学习”或“不微调”),仅通过分析用户提供的提示和示例(即“上下文”),就能理解任务要求并生成符合预期的答案,简单说就是:你给我看几个例子,我就能明白你想让我干什么,并照做,... 星博讯 2026-04-09 26 #大语言模型 #上下文学习
AI基础认知 一、基本概念 思维链(Chain of Thought,CoT)是一种用于提升大语言模型(LLM)在复杂推理任务上表现的技术,其核心思想是引导模型像人类一样,将问题分解为多个中间推理步骤,逐步推导出最终答案,而非直... 星博讯 2026-04-09 26 #基本 #概念