Ollama

1年前发布 243 0 0

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统​​​​。 此外,Ollama还提供了官方的Docker镜像,由此使用Docker容...

收录时间:
2024-01-21
OllamaOllama
Ollama

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统​​​​。

此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的REST API​​。

该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。

Ollama支持的模型

Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:

模型 参数大小 文件大小 下载运行命令
Neural Chat 7B 4.1GB ollama run neural-chat
Starling 7B 4.1GB ollama run starling-lm
Mistral 7B 4.1GB ollama run mistral
Llama 2 7B 3.8GB ollama run llama2
Code Llama 7B 3.8GB ollama run codellama
Llama 2 Uncensored 7B 3.8GB ollama run llama2-uncensored
Llama 2 13B 13B 7.3GB ollama run llama2:13b
Llama 2 70B 70B 39GB ollama run llama2:70b
Orca Mini 3B 1.9GB ollama run orca-mini
Vicuna 7B 3.8GB ollama run vicuna

数据统计

相关导航

Coze

Coze

Coze是由字节跳动在海外推出的一个AI聊天机器人和应用程序编辑开发平台,可以理解为字节跳动版的GPTs。无论用户是否有编程经验,都可以通过该平台快速创建各种类型的聊天机器人、智能体、AI应用和插件,并将其部署在社交平台和即时聊天应用程序中,如Discord、WhatsApp、Twitter。 有意思的地方在于,目前Coze提供的是基于OpenAI GPT-4和GPT-3.5的API来创建和使用AI聊天机器人,并未使用自研的云雀大模型。而此前媒体报道字节将于12月底推出一个开放平台并开启公测,允许用户自主创建自定义聊天机器人。如同此前推出的聊天机器人豆包国际版为Cici,后续字节可能推出一个国内版本的Coze,或许会采用云雀大模型的能力。 Coze的主要功能 丰富的插件工具:该平台目前包含 60 多个不同的插件,包括新闻阅读、旅行计划、生产力工具、图像理解 API 和多模态模型 知识库调取和管理:Coze提供易于使用的知识库功能,使 AI 能够与用户自己的数据(如PDF、网页文本)进行交互。可以存储和管理知识中的数据 长期记忆能力:提供便捷的数据库存储能力,可以让 AI 机器人持久记住对话中的关键参数或内容 定时计划任务:通过计划任务功能,用户可以使用自然语言轻松创建复杂的任务,创建好的机器人会准时发送相应的消息内容。 工作流程自动化:轻松创建一个工作流程将创意想法转换为机器人技能,如收集电影评论、起草行业研究报告等 预览和调试:机器人开发完成后,可以发送消息来查看机器人的响应,并根据知识搜索结果和工具响应来排查问题 如何使用Coze创建机器人 访问Coze的官网(coze.com),点击Get started登录/注册账号 选择侧边栏的Bots菜单,点击Create bot,然后添加机器人Logo、名称、描述信息 然后在Persona & Prompt输入框中输入机器人角色和提示词,右侧可预览和调试输出信息 测试无误后可点击右上角的Publish发布创建好的机器人 Coze的适用人群 开发人员:专注于为特定任务调整AI模型和提示词,而不是花费大量时间进行初始开发 企业公司:通过将AI机器人集成到内部程序如客户支持系统、内容创作工具和推荐引擎中,开发创新的应用和服务 研究人员:利用该平台作为实验工具进行各种研究任务,探索自然语言生成和理解 AI爱好者:免费的GPT API,创建自定义机器人用于日常生活、学习和工作中 常见问题 Coze支持哪些大模型? Coze目前支持通过GPT-3.5和GPT-4模型来构建AI机器人。 Coze是免费的吗? Coze目前是免费向用户开放的,暂未推出付费版本。 Coze创建的机器人可以发布到哪些平台? Coze目前支持将创建好的机器人发布到Discord和Cici,后续将支持WhatsApp和Twitter。

暂无评论

none
暂无评论...