Jan(Jan.ai)是一个免费开源的本地运行大模型并进行AI聊天对话的工具,可帮助用户在本地电脑(Windows、Mac、Linux)上安装、部署、运行并使用开源版本的ChatGPT替代大模型,如LLaMa、Mistral、Phi-2等20多个模型,也支持输入自己的OpenAI API Key以运行GPT。相较于AI工具集此前介绍的Ollama,该工具提供了对话UI和API服务器,适合开发者、研究人员或AI爱好者本地体验开源的大模型。
Jan的主要功能
- 本地运行开源大模型:支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型,可手动导入也可以在模型库下载模型
- 简洁好用的聊天界面:软件界面清爽简洁、直观易用,直接在本地与开源大模型快速进行对话聊天
- 支持多个平台:Jan支持在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统运行,后续还将推出移动端APP。
- 内置API服务器:与OpenAI API兼容,可通过API获取模型信息、下载、启动、停止模型及聊天等
如何使用Jan
- 访问Jan的官网(jan.ai),选择对应的电脑操作系统版本,点击Download进行下载
- 然后安装并打开软件,在软件界面的左下角点击Download your first model
- 进入模型库Hub界面,选择你感兴趣的模型进行下载,下载完成后点击Use使用该模型
- 在对话界面输入你的描述即可与你选择的模型进行对话啦
Jan还在持续开发中,后续会支持移动端APP、创建AI助理、推理引擎、插件扩展等功能。
数据统计
数据评估
关于Jan(Jan.ai)特别声明
本站智能信息网提供的Jan(Jan.ai)都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由智能信息网实际控制,在2025年4月23日 下午2:52收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,智能信息网不承担任何责任。
相关导航
AI模型开发社区
腾讯混元大模型
腾讯混元大模型介绍腾讯混元大模型是由腾讯全链路自研的通用大语
BLOOM
HuggingFace推出的大型语言模型(LLM)
Auto
Auto-GPT是一个实验性开源应用程序,展示了GPT-4语言模型的真正潜力,GitHub上超10万人星标。该程序由 GPT-4 驱动,将LLM大语言模型思维链接在一起,以自主实现你设定的任何目标。作为GPT-4完全自主运行的首批例子之一,Auto-GPT突破了人工智能的极限,距离AGI通用人工智能又近了一步。大家注意甄别autogpt.net不是其官方网站,agpt.co才是。
DALL·E 3
DALL·E 3是OpenAI的文本到图像合成模型的最新版本,旨在使用文本描述生成图像,相比此前的版本,DALL·E 3进一步降低了提示词门槛,提高语义理解和细节优化。原生构建在ChatGPT上,可供所有ChatGPT Plus和企业用户使用,并在2023年秋季通过API和Labs提供。
文心大模型
百度推出的产业级知识增强大模型
魔搭社区:阿里达摩院推出的AI模型社区,超过300+开源AI模型
魔搭社区是什么魔搭社区(ModelScope)是阿里巴巴达摩院推出的综合性的人工智能模型共享与服务平台,为构建一个开放、高效、易用的AI模型生态,为开发者、研究人员和企业用户提供一站式的模型获取、部署和应用体验。 ModelScope平台汇集了丰富的预训练模型资源,涵盖自然语言处理、计算机视觉、语音识别等多个领域。用户可以通过简单的搜索和下载操作,快速获取所需的模型,结合平台提供的工具进行微调、优化和部署。魔搭社区支持多种硬件平台,包括昇腾、GPU等,满足不同用户的需求。魔搭社区的主要功能丰富的预训练模型:提供涵盖自然语言处理、计算机视觉、语音识别、多模态等多个领域的预训练模型。模型上下文协议(MCP):推出MCP广场,上架千余款热门MCP服务,包括支付宝、MiniMax等独家首发服务。MCP为大模型对接外部数据源和工具建立了统一标准,简化了开发流程。数据集与指标:提供多种数据集和性能评估指标,方便开发者进行模型训练和优化。模型推理与部署:支持在线推理、本地部署和云端部署。用户可以通过网页界面直接上传数据获取推理结果,也可以通过SDK在本地运行模型。分布式训练与优化:提供分布式训练工具,支持多种框架(如PyTorch、TensorFlow等),提供模型压缩、量化等优化工具。调试与集成:提供简单易用的调试环境和工具,支持第三方平台集成,降低开发者使用门槛。开源与社区共建:作为一个开源平台,鼓励开发者贡献模型和代码,形成开源协作生态。开发者社区:提供交流平台,开发者可以分享经验、讨论技术问题,共同推动AI技术的发展。如何使用魔搭社区访问平台:访问魔搭社区的官方网站,注册或登录。环境准备安装 Python:确保系统中已安装 Python(推荐版本 3.8 及以上)。安装 ModelScope Python 库:通过以下命令安装 ModelScope 的 Python 库。模型下载通过命令行下载:使用 ModelScope 提供的命令行工具下载模型。通过网页界面下载:访问魔搭社区官网,在模型库中搜索并下载所需的模型。模型推理:使用 Python 脚本加载模型并进行推理。模型微调:使用 ms-swift 进行微调ms-swift 是魔搭社区提供的大模型训练和部署框架。模型部署:使用 Vllm 部署模型,Vllm 是一个高效的推理框架,支持多 GPU 分布式推理。探索更多模型和工具:访问魔搭社区官网,浏览丰富的模型库、数据集和工具。参与社区交流:加入魔搭社区的开发者社区,与其他开发者交流经验,共同推动 AI 技术的发展。魔搭社区的应用场景AI研究与教育:研究人员和教育工作者可以用ModelScope上的模型进行AI相关的研究和教学活动,提高研究效率和学习效果。企业应用开发:企业可以用ModelScope上的模型快速开发AI应用,降低研发成本,加快产品上市时间。创业项目:初创企业可以借助ModelScope上的模型资源,开发创新的AI产品和服务,验证商业模式并实现产品的快速迭代。个人项目:个人开发者可以用ModelScope上的模型实现自己的创意,开发个性化的AI应用。多模态应用:ModelScope支持多种多模态模型,例如处理文本、图像和视频的InternVL3系列模型。可以应用于智能助手、内容创作、视频生成等领域。
Ollama
Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统。此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的REST API。该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。Ollama安装包获取获取Ollama安装包,扫码关注回复:OllamaOllama支持的模型Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:模型参数大小文件大小下载运行命令DeepSeek-R11.5B、7B、14B、32B等12-320GBollama run deepseek-r1Neural Chat7B4.1GBollama run neural-chatStarling7B4.1GBollama run starling-lmMistral7B4.1GBollama run mistralLlama 27B3.8GBollama run llama2Code Llama7B3.8GBollama run codellamaLlama 2 Uncensored7B3.8GBollama run llama2-uncensoredLlama 2 13B13B7.3GBollama run llama2:13bLlama 2 70B70B39GBollama run llama2:70bOrca Mini3B1.9GBollama run orca-miniVicuna7B3.8GBollama run vicuna
暂无评论...

