BLOOM

StableLM是由Stable Diffusion背后的团队Stability AI最新推出的开源的类ChatGPT大语言模型，该模型目前处于Alpha版本，拥有的参数量分别为30亿和70亿，后续还将推出150亿到650亿参数模型。

Segment Anything Model（SAM）是Meta AI研究院最新推出的图像分割模型，该模型通过点或框等输入提示生成高质量的物体遮罩，并且可以用于为图像中的所有物体和对象生成遮罩。SAM模型在超过1100万张图像和11亿张掩模的数据集上进行了训练，并且在各种图像分割任务上具有强大的零样本性能。

Auto-GPT是一个实验性开源应用程序，展示了GPT-4语言模型的真正潜力，GitHub上超10万人星标。该程序由 GPT-4 驱动，将LLM大语言模型思维链接在一起，以自主实现你设定的任何目标。作为GPT-4完全自主运行的首批例子之一，Auto-GPT突破了人工智能的极限，距离AGI通用人工智能又近了一步。大家注意甄别autogpt.net不是其官方网站，agpt.co才是。

Cohere是一个提供大语言模型的平台，帮助开发人员和企业构建高性能的AI产品。该平台主要提供AI驱动的搜索文本（多语言嵌入、神经搜索、搜索排名）、分类文本和生成文本等服务，可帮助企业快速部署对话式AI聊天机器人、生成式搜索引擎、文本摘要总结、增强向量检索等。5月3日，Cohere公司获2.5亿美元融资，目前估值约20亿美元，投资者包括Saleforce、Nvidia、Index Ventures等。该公司的联合创始人 Aidan Gomez 是《Attention Is All You Need》论文的作者之一，此论文提出了 GPT 等大语言模型的采用的 Transformer 架构。Cohere提供了一个Playground供用户试玩，如果你感兴趣的话可以访问试试看。另外Cohere还推出了LLM University，一个学习大语言模型的课程，可帮助你了解大型语言模型及其体系结构的基础知识。

M6是阿里巴巴达摩院推出的，中文社区最大的跨模态预训练模型，模型参数达到十万亿以上，具有强大的多模态表征能力。M6通过将不同模态的信息经过统一加工处理，沉淀成知识表征，为各个行业场景提供语言理解、图像处理、知识表征等智能服务

Meta（Facebook）推出的AI大语言模型

模力方舟是什么模力方舟（Gitee AI）是面向开发者、终端用户与产业场景的 AI 应用共创平台。依托 Gitee 全球第二大开发者平台的 DevOps 能力和开源的开发者服务体系，提供高可用的模型服务能力、Serverless 应用构建能力与 API 组合能力。平台汇聚超 70 款主流大模型，覆盖多种任务类型及行业场景，支持 Serverless 部署与私有化交付。AI 模型广场具备极简接入、高性能推理、灵活扩展等亮点，可助力开发者快速构建 AI 应用。平台提供 AI 开发者教育、AI 应用共创、模型定制等服务，是连接创作者与用户、AI 能力与实际场景的共创平台，推动 AI 应用生态建设。模力方舟的主要功能AI 模型广场：提供标准化模型接口，支持私有化部署与 Serverless 调用。可视化应用构建：图形化配置界面，零代码生成应用并上线。算力广泛兼容：适配昇腾、天数、沐曦等主流国产 AI 芯片，同时支持英伟达等国际主流硬件环境。推理成本显著降低：Serverless 架构显著降低开发与部署负担，推理成本最高可降 90%。AI 应用共创：提供覆盖 AI 应用“开发 → 上架 → 展示 → 变现”全流程服务，助力开发者高效实现从创意到产品、从产品到用户的完整闭环。共创 AI 应用生态，链接创意、用户与算力价值链。模型定制：提供包括微调、强化学习、参数插拔等在内的模型定制服务，助力企业客户快速打造专属 AI 能力，适配业务场景，高效落地应用。AI 开发者教育：通过系列 AI 技术活动，包括前沿技术分享、场景化实战训练营等，为开发者打造学习与交流空间。同时为企业提供展示技术能力、产品方案的合作窗口，共建开放共创的 AI 生态。稳定高可用的服务通道：API Token 独立绑定，支持高并发调用。智能推理缓存机制：内置多级缓存与模型复用机制，提升响应效率。多类型模型支持：兼容 Diffusion、多语言、多模态、RAG 等主流模型。LoRA 动态加载：支持运行时热插拔轻量化模型参数，快速实现个性化微调。能力组合和多模型链路：支持多 API 编排与工作流式调用，构建个性化 AI 应用。私有化部署：私有化部署能力覆盖推理服务、Serverless 平台及完整 MaaS 模型管理平台，支持以软硬一体机形式落地企业级场景，提升安全性与部署效率。如何使用模力方舟访问官网：访问模力方舟（Gitee AI）的官方网站。注册账号：使用邮箱或手机号注册账号，也可以通过Gitee账号直接登录。完善信息：根据提示完善个人或企业信息，使用平台的各项服务。浏览模型：在AI模型广场中，查看平台提供的70多款主流大模型，涵盖文本生成、图像生成、语义理解、多模态等任务类型。选择模型：根据你的需求，选择合适的模型进行应用开发。例如，如果你需要开发文本生成类应用，可以选择擅长文本生成的模型。使用API服务获取API Key：在平台中创建应用并获取API Key，这是调用模型接口的必要凭证。阅读文档：查看所选模型的API文档，了解接口的参数、返回值等详细信息。调用API：使用API Key，通过HTTP请求调用模型接口，将你的输入数据发送给模型，并获取模型的输出结果。可视化应用构建进入应用构建界面：在平台中找到可视化应用构建工具。配置应用：通过图形化界面进行应用配置，无需编写代码。你可以设置应用的名称、描述、输入输出等基本信息。连接模型：将所选的AI模型与应用进行连接，配置模型的调用参数。生成应用：完成配置后，点击生成应用按钮，平台将自动生成应用并上线。模力方舟的应用场景智能客服和助理：基于企业知识库、产品文档、使用手册等已有数据训练企业定制化的私有模型，可接入语音模型。政务服务：提供适用于政务工作的综合解决方案，如智能业务办理解决方案、云端法庭解决方案等。电商直播行业：提供智能化内容生成，识别用户兴趣和情感，提供有针对性的营销内容。内容创作：生成高质量的文本、图像、视频等内容，用于广告、媒体、创意等行业。数据分析：通过自然语言处理和数据分析技术，为企业提供智能决策支持。智能办公：自动化办公流程，如文档生成、会议记录整理、任务管理等，提高工作效率。

Llama 3是什么Llama 3是Meta公司最新开源推出的新一代大型语言模型（LLM），包含8B和70B两种参数规模的模型，标志着开源人工智能领域的又一重大进步。作为Llama系列的第三代产品，Llama 3不仅继承了前代模型的强大功能，还通过一系列创新和改进，提供了更高效、更可靠的AI解决方案，旨在通过先进的自然语言处理技术，支持广泛的应用场景，包括但不限于编程、问题解决、翻译和对话生成。Llama 3的系列型号Llama 3目前提供了两种型号，分别为8B（80亿参数）和70B（700亿参数）的版本，这两种型号旨在满足不同层次的应用需求，为用户提供了灵活性和选择的自由度。Llama-3-8B：8B参数模型，这是一个相对较小但高效的模型，拥有80亿个参数。专为需要快速推理和较少计算资源的应用场景设计，同时保持了较高的性能标准。Llama-3-70B：70B参数模型，这是一个更大规模的模型，拥有700亿个参数。它能够处理更复杂的任务，提供更深入的语言理解和生成能力，适合对性能要求更高的应用。后续，Llama 3 还会推出 400B 参数规模的模型，目前还在训练中。Meta 还表示等完成 Llama 3 的训练，还将发布一份详细的研究论文。Llama 3的官网入口官方项目主页：https://llama.meta.com/llama3/GitHub模型权重和代码：https://github.com/meta-llama/llama3/Hugging Face模型：https://huggingface.co/collections/meta-llama/meta-llama-3-66214712577ca38149ebb2b6Llama 3的改进地方参数规模：Llama 3提供了8B和70B两种参数规模的模型，相比Llama 2，参数数量的增加使得模型能够捕捉和学习更复杂的语言模式。训练数据集：Llama 3的训练数据集比Llama 2大了7倍，包含了超过15万亿个token，其中包括4倍的代码数据，这使得Llama 3在理解和生成代码方面更加出色。模型架构：Llama 3采用了更高效的分词器和分组查询注意力（Grouped Query Attention, GQA）技术，提高了模型的推理效率和处理长文本的能力。性能提升：通过改进的预训练和后训练过程，Llama 3在减少错误拒绝率、提升响应对齐和增加模型响应多样性方面取得了进步。安全性：引入了Llama Guard 2等新的信任和安全工具，以及Code Shield和CyberSec Eval 2，增强了模型的安全性和可靠性。多语言支持：Llama 3在预训练数据中加入了超过30种语言的高质量非英语数据，为未来的多语言能力打下了基础。推理和代码生成：Llama 3在推理、代码生成和指令跟随等方面展现了大幅提升的能力，使其在复杂任务处理上更加精准和高效。Llama 3的性能评估根据Meta的官方博客，经指令微调后的 Llama 3 8B 模型在MMLU、GPQA、HumanEval、GSM-8K、MATH等数据集基准测试中都优于同等级参数规模的模型（Gemma 7B、Mistral 7B），而微调后的 Llama 3 70B 在 MLLU、HumanEval、GSM-8K 等基准测试中也都优于同等规模的 Gemini Pro 1.5 和 Claude 3 Sonnet 模型。此外，Meta还开发了一套新的高质量人类评估集，包含 1800 个提示，涵盖 12 个关键用例：寻求建议、头脑风暴、分类、封闭式问答、编码、创意写作、提取、塑造角色/角色、开放式问答、推理、重写和总结。通过与Claude Sonnet、Mistral Medium和GPT-3.5等竞争模型的比较，人类评估者基于该评估集进行了偏好排名，结果显示Llama 3在真实世界场景中的性能非常出色，最低都有52.9%的胜出率。Llama 3的技术架构解码器架构：Llama 3采用了解码器（decoder-only）架构，这是一种标准的Transformer模型架构，主要用于处理自然语言生成任务。分词器和词汇量：Llama 3使用了具有128K个token的分词器，这使得模型能够更高效地编码语言，从而显著提升性能。分组查询注意力（Grouped Query Attention, GQA）：为了提高推理效率，Llama 3在8B和70B模型中都采用了GQA技术。这种技术通过将注意力机制中的查询分组，减少了计算量，同时保持了模型的性能。长序列处理：Llama 3支持长达8,192个token的序列，使用掩码（masking）技术确保自注意力（self-attention）不会跨越文档边界，这对于处理长文本尤其重要。预训练数据集：Llama 3在超过15TB的token上进行了预训练，这个数据集不仅规模巨大，而且质量高，为模型提供了丰富的语言信息。多语言数据：为了支持多语言能力，Llama 3的预训练数据集包含了超过5%的非英语高质量数据，涵盖了超过30种语言。数据过滤和质量控制：Llama 3的开发团队开发了一系列数据过滤管道，包括启发式过滤器、NSFW（不适合工作场所）过滤器、语义去重方法和文本分类器，以确保训练数据的高质量。扩展性和并行化：Llama 3的训练过程中采用了数据并行化、模型并行化和流水线并行化，这些技术的应用使得模型能够高效地在大量GPU上进行训练。指令微调（Instruction Fine-Tuning）：Llama 3在预训练模型的基础上，通过指令微调进一步提升了模型在特定任务上的表现，如对话和编程任务。如何使用Llama 3开发人员Meta已在GitHub、Hugging Face、Replicate上开源其Llama 3模型，开发人员可使用torchtune等工具对Llama 3进行定制和微调，以适应特定的用例和需求，感兴趣的开发者可以查看官方的入门指南并前往下载部署。官方模型下载：https://llama.meta.com/llama-downloadsGitHub地址：https://github.com/meta-llama/llama3/Hugging Face地址：https://huggingface.co/meta-llamaReplicate地址：https://replicate.com/meta普通用户不懂技术的普通用户想要体验Llama 3可以通过以下方式使用：访问Meta最新推出的Meta AI聊天助手进行体验（注：Meta.AI会锁区，只有部分国家可使用）访问Replicate提供的Chat with Llama进行体验https://llama3.replicate.dev/使用Hugging Chat（https://huggingface.co/chat/），可手动将模型切换至Llama 3