模型训练学习

Ling-3.0-flash 是蚂蚁百灵（inclusionAI）推出的混合专家（MoE）大模型，总参数约 1240 亿，每 token 激活约 51 亿参数，支持 262144 token 上下文窗口、单次最大输出 32768 token。该模型已上架 OpenRouter，可通过统一 API 免费调用，适合需要长上下文与低成本推理的开发场景。

Grok 是由 xAI 构建的 AI 助手，支持聊天对话、图像创建、代码编写，并能从网络和 X 平台获取实时信息回答用户问题。订阅用户可通过 Grok Heavy 等套餐获得 X Premium+ 等增值权益。

Krea 是一站式生成式创作平台，把图像、视频、3D 生成与编辑能力集中在同一订阅内，支持 Krea 2 的 4K 原生图像生成、实时画布、图像编辑器与像素级放大，并可用自有数据微调模型；视频侧聚合 Veo 3、Sora 2、Kling、Seedance 等模型，面向专业创作者与团队提供素材管理与企业协作能力。

Nemotron 3.5 Lightning 是 NVIDIA Nemotron 系列中的开源 30B MoE 模型，官方定位为面向常驻在线智能体完成专项高频任务的最快 30B MoE 模型。它可被便捷地进行后训练以获得领域专用精度与效率，并支持从本地基础设施到云端的任意环境部署，适合需要长时间持续运行的智能体工作流。

Runway 是基于自研 Real-World Intelligence 模型构建的云端 AI 创意平台，在同一工作区内提供视频、图像与音频的生成和编辑能力，聚合 Gen-4.5、Seedance、Nano Banana Pro、Lyria 3、Text to Speech 等大量模型。支持改光影、换风格、增删画面元素等指令式视频编辑，并可搭建节点式自定义 Workflows 串联多模型、多模态与中间步骤，面向个人与各规模团队。

Fireworks AI 是由 PyTorch 创始团队打造的生成式 AI 推理与训练云平台，日处理超 40 万亿 token。平台提供 250+ 开源模型（Qwen、Kimi、DeepSeek、MiniMax、GLM、Llama 等）的无服务器与专属部署推理，兼容 OpenAI 与 Anthropic API，支持模型后训练，训练与推理在同一技术栈闭环运行，并具备 SOC 2 Type II、HIPAA、GDPR 合规能力。

Ling-3.0-tiny 是蚂蚁百灵（inclusionAI）开源的轻量级混合推理 MoE 模型，总参数 7.9B，每 token 仅激活 1.3B 参数，采用 KDA 与 MLA 按 3:1 交替堆叠加 128 路由专家的稀疏 MoE FFN。支持快速响应与多步骤推理两种模式，可按请求开关思考模式，在智能体任务、代码、数学与科学推理、长上下文理解上表现均衡，并提供 BF16、FP8、INT4 权重，已在 DGX Spark、Apple Silicon MacBook 与 Mac mini 上验证本地部署。

Mistral AI 是法国前沿 AI 公司，提供自研大语言模型、面向长周期任务的 AI 智能体与企业级 AI 平台，支持企业知识搜索、结构化数据分析、文档与报告合成、异步代码生成、自动化 CI/CD，以及自定义模型训练与蒸馏，可在自托管环境、Mistral 云或第三方云上部署。

国家超算互联网是国家级算力服务平台，连接全国超算智算中心，提供算力调度、应用商城、AI社区及低代码开发环境。平台搭载科学计算智能体，汇聚超万项技能与智能体组件，支持大模型训练与AI推理，为科研院所和个人开发者提供算力、数据、工具全栈配套支撑。

AMD ROCm 是 AMD 的开源 GPU 计算开放软件平台，提供编译器、运行时和数学/稀疏/通信库等完整生态，支持 AI、HPC 及领域特定负载，针对 Instinct、Radeon、Ryzen AI 平台优化。ROCm 包含 HIP 运行时、性能分析与调试工具，并通过 PyTorch、JAX、vLLM、SGLang、MIGraphX、ONNX Runtime 等框架支持深度学习训练与 AI 推理，同时提供 ROCm.AI（含 Hyperloom 自主智能体、AMD Skills 技能库与 ROCm CLI）。

AngelSpec 是腾讯混元开源的 torch-native 投机解码框架，用于训练投机解码草稿模型，覆盖自回归 MTP 草稿与 block-parallel DFlash 系列。单一训练管线支持 DFly、DFlash、DFlare、Eagle3、DSpark、MTP 共 6 种草稿架构，切换只需修改配置，并支持 TTT 的 MTP 训练，面向推理加速与部署场景。

Baseten 是美国 AI 基础设施公司，提供高性能模型推理平台，可将自定义、微调与开源模型部署到生产环境。平台内置自定义内核、先进解码技术与缓存的推理栈，支持跨区域跨云扩缩、冷启动与 99.99% 可用性，并提供预优化模型 API（含 Kimi K3、GLM-5.3、DeepSeek 等）、RL 训练、图像生成与语音转录能力，支持单租户与自托管部署。

BigModel（智谱大模型开放平台，bigmodel.cn）是智谱推出的一站式 MaaS 平台，面向企业与开发者提供 GLM 系列文本、视觉、图像、视频、音频模型的 API 调用，支持模型精调微调、专属资源部署、模型评测、联网搜索与知识库检索，并提供 Python/Java SDK、OpenAI 兼容接口及 LangChain 集成；2026 年 9 月宣布可申请数据内容不留存机制。

Castform 是一个模型训练平台，专注于对任务专用模型做后训练、评估与上线。平台可从现有语料库、智能体 trace 等已有数据自动生成训练集，支持定义工具与奖励函数、监控训练过程，并提供 LLM 裁判、批量评测与 playground，对接 Qwen、Gemma 等开源模型，目标是以开源成本达到前沿模型水平。

CUA-Lite 是 UC Berkeley 团队开源的计算机操作智能体（CUA）开放平台，用一套动作空间、一套 LiteSample 数据格式和一条命令，打通桌面、浏览器与移动端的智能体、沙箱环境、数据集、评测与训练。内置 10+ 智能体、15+ 基准与 30k+ 可验证任务的免虚拟机沙箱，并支持 SFT 与基于 Slime 的 GRPO 强化学习训练。

DSPy 是斯坦福 NLP 团队开源的大模型编程框架，全称 Declarative Self-improving Python。用户用可组合的 Python 代码替代脆弱提示词，构建分类器、RAG 管道和 Agent 循环等模块化 AI 系统，并通过内置算法优化提示词与模型权重。2026 年 9 月发布的 3.4.0 版本原生支持 Jev 与 System One 模型，并新增面向置信度校准输出的 ReAnchor 优化器。

Hugging Face 是面向 AI/ML 社区的开源协作平台，用户在 Hub 上托管和协作开发无限的公开模型、数据集与应用（Spaces），并提供 Transformers、Diffusers、Datasets、PEFT、TRL 等开源工具栈。它提供标准化推理：Inference Providers 通过统一 API 访问超 4.5 万模型，Inference Endpoints 支持在专用与自动扩缩容基础设施上部署模型，并提供企业级安全、访问控制与付费按需 GPU Compute。

Inertia-1 是一个开放的统一运动基础模型研究项目，基于超过 1800 万小时的全球加速度计数据自监督预训练，旨在用单一表征覆盖不同身体佩戴位置、传感器类型（加速度计、陀螺仪、磁力计）与采样率，支持活动识别、步态检测与长期健康监测等任务，无需针对新位置重新训练即可迁移。

Inkling 是 Thinking Machines Lab 发布的首个开源权重 MoE 模型，总参数量975B、活跃参数41B，支持100万token上下文窗口。模型原生支持文本、图像和音频理解，具备代码生成、智能体工具调用等能力，可通过 Tinker 平台进行微调定制。

Inkling-Small 是 Thinking Machines Lab 发布的轻量开源权重 MoE 模型，276B 总参数 / 12B 激活参数，体积约为 Inkling 的四分之一，官方称在 Terminal-Bench 2.1、HLE 推理、IFBench 指令跟随等基准上与 Inkling 性能相当。模型原生支持文本、图像和音频理解，可变推理强度，1M token 上下文，开源完整权重并可在 Tinker 上微调，也可通过 Tinker Playground 进行多模态对话。

Kimi K3 是月之暗面推出的 AI 助手，专为智能体编程与知识工作打造。支持 Swarm 智能体集群与 Goal 模式并行执行任务，可构建可玩的多人与3D游戏，生成咨询级 PPT，处理 Excel 和 PDF 文档，提供深度研究与建站能力。

LeMario 是一个从零实现的动作条件联合嵌入预测架构（JEPA）世界模型，在《超级马里奥兄弟》上训练。模型从游戏画面和手柄输入中学习短期潜在动态，使用 AdaLN-Zero 将动作注入六层 Transformer 预测器，并通过交叉熵方法（CEM）在潜在空间进行无奖励规划。项目在 737134 帧、280 个回合、32 个关卡上训练，验证了短时程动作条件动态预测的有效性，同时揭示了预测状态与控制状态之间的根本差异。

Liquid AI 提供 Liquid Foundation Models（LFM）系列基础模型，主打在手机、笔记本、汽车、可穿戴等设备本地运行的低延迟推理，可在 CPU、GPU、NPU 上通过 llama.cpp、MLX、ONNX、CoreML、vLLM 等运行时部署，并支持针对自有数据与具体场景做微调定制，形成从架构、优化到部署的全栈方案。

little-lm 是工程师 Hugo Vergnes 自研的配置驱动小型解码器 LLM 训练框架，每次运行通过一个 YAML 文件完整定义模型、数据集、优化器、调度与回调，组件自注册并按名称解析，替换优化器或数据集只需改一行配置。作者用该框架在租用的 8× B200 上以约 998 美元、43 小时、65B tokens 从零训练出 3.848B 参数的 Llama 风格模型，CORE 得分 0.384，高于 nanochat d32 的 0.310。