Ollama

10个月前发布 218 0 0

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前...

收录时间:
2024-01-21
OllamaOllama
Ollama

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统​​​​。

此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的REST API​​。

该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。

Ollama支持的模型

Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:

模型 参数大小 文件大小 下载运行命令
Neural Chat 7B 4.1GB ollama run neural-chat
Starling 7B 4.1GB ollama run starling-lm
Mistral 7B 4.1GB ollama run mistral
Llama 2 7B 3.8GB ollama run llama2
Code Llama 7B 3.8GB ollama run codellama
Llama 2 Uncensored 7B 3.8GB ollama run llama2-uncensored
Llama 2 13B 13B 7.3GB ollama run llama2:13b
Llama 2 70B 70B 39GB ollama run llama2:70b
Orca Mini 3B 1.9GB ollama run orca-mini
Vicuna 7B 3.8GB ollama run vicuna

数据统计

相关导航

新天壤小白

新天壤小白

天壤小白是什么? 天壤小白是天壤公司开发的一个通用大语言模型,它是一个基于互联网公开数据训练而成的人工智能模型,拥有高达1860亿个参数。这个模型采用了生成式架构,具备强大的语义理解和上下文感知能力,能够精准捕捉文本中的语义关联,并理解用户的指令和意图。 天壤小白应用开发平台是一个专为开发者设计的平台,旨在帮助用户轻松构建、管理和运营基于天壤小白大语言模型的AI应用。该平台利用天壤小白大模型,结合Embedding模型,允许用户通过编写自然语言的方式创建可信赖的商业级AI应用。平台提供了多种应用类型和使用方式,以适应不同的业务场景。 天壤小白应用开发平台的主要功能 应用创建与管理:用户可以创建不同类型的AI应用,包括文本生成型、对话型、搜索型和工作流应用。平台提供了一个直观的界面,让用户能够轻松设置应用的图标、名称和类型。 灵活的模型配置:平台提供了多种版本的天壤小白大语言模型,用户可以根据应用需求选择合适的模型。同时,用户还可以配置模型参数,如模型版本、输入输出长度限制等。 提示词与上下文管理:用户可以设计提示词来指导AI模型生成特定的输出,同时管理上下文信息,确保AI应用在对话中保持连贯性。 敏感词检测:为了确保内容的安全性,平台支持敏感词检测功能,用户可以设置敏感词列表,AI在生成内容时会自动过滤这些词汇。 API调用:平台提供了友好的API接口,开发者可以通过API将AI能力集成到自己的应用中,实现后端或前端的直接调用。 Web App在线访问:用户可以创建Web App,通过链接直接访问AI应用,无需复杂的部署过程。 数据分析:平台提供了应用的数据分析功能,包括用量统计、活跃用户数、用户满意度等,帮助开发者了解应用的表现并进行优化。 文档集功能:支持上传和解析多种格式的文档,如Excel、CSV、JSON等,以及图片和PDF文件,通过OCR技术提取文字。这些文档可以作为AI应用的知识库,提高回答的准确性和相关性。 结构化文档支持:用户可以上传结构化文档,并设置召回字段,使得AI应用能够更准确地理解和回应基于特定字段的查询。
DeepFloyd IF

DeepFloyd IF

DeepFloyd IF是由StabilityAI旗下的DeepFloyd研究团队推出的开源的文本到图像生成模型,IF是一个基于级联方法的模块化神经网络。 IF是由多个神经模块(处理特定任务的独立神经网络)构建的,在一个架构内联合起来产生协同效应。 IF以级联方式生成高分辨率图像:从产生低分辨率样本的基础模型开始,然后由一系列的升级模型提升,以创造令人惊叹的高分辨率图像。 IF的基础和超分辨率模型采用扩散模型,利用马尔可夫链步骤将随机噪声引入数据中,然后再反转过程,从噪声中生成新的数据样本。 IF在像素空间内操作,而不是依赖潜伏图像表征的潜伏扩散(如稳定扩散)。

暂无评论

none
暂无评论...