MLX

10个月前发布 251 0 0

MLX是由苹果的机器学习研究团队推出的用于机器学习的阵列框架,该开源框架专为 Apple Silicon 芯片而设计优化,从NumPy、PyTorch、Jax和ArrayFire等框架中吸取灵感,提供简单友好...

收录时间:
2024-01-21
MLXMLX
MLX

MLX是由苹果的机器学习研究团队推出的用于机器学习的阵列框架,该开源框架专为 Apple Silicon 芯片而设计优化,从NumPy、PyTorch、Jax和ArrayFire等框架中吸取灵感,提供简单友好的使用方法,帮助开发人员在苹果M系列芯片上有效地开发、训练和部署模型。

MLX的主要功能

  • 熟悉的 API:MLX 有一个紧随 NumPy 的 Python API。MLX 还拥有功能齐全的 C++ API,与 Python API 非常相似。
  • 可组合的函数转换:MLX 支持用于自动微分、自动向量化和计算图优化的可组合函数转换。
  • 惰性计算:MLX 中的计算是惰性计算,数组仅在需要时才会具体化。
  • 动态图构建:MLX 中的计算图是动态构建的。更改函数参数的形状不会触发缓慢的编译,并且调试简单直观。
  • 多设备:可以在任何支持的设备(CPU 和 GPU)上运行。
  • 统一内存:MLX 和其他框架的主要区别在于统一内存模型,阵列共享内存。MLX 上的操作可以在任何支持的设备类型上运行,无需移动数据。

数据统计

相关导航

新豆包大模型

新豆包大模型

豆包大模型是什么 豆包大模型是字节跳动推出的AI大模型家族,包括 豆包PixelDance、豆包Seaweed 视频生成、文生图、图生图、同声传译、角色扮演、语音合成、声音复刻、语音识别、Function Call和向量化等多个模型。豆包大模型具备强大的语言理解、生成和逻辑能力,能进行个性化创作、情绪丰富的语音合成、高精度语音识别、多风格图像生成和顶级的视频生成。豆包大模型通过火山引擎提供服务,支持企业和开发者构建智能化应用,推动AI技术在多种业务场景中的落地。 豆包大模型的性能在多个评测中表现优异,例如在包括MMLU、BBH、GSM8K和HumanEval在内的11个业界公认的基准测试集中,Doubao-pro-4k模型的总体得分达到了76.8分,在代码能力、专业知识和指令遵循等方面的显著进步。 豆包大模型的主要功能 通用模型:字节跳动自研LLM模型,支持128K长文本,全系列可精调,具备更强的理解、生成、逻辑等综合能力,适配问答、总结、创作、分类等丰富场景。 视频生成:通过精准语义理解、强大动态及运镜能力创作高质量视频,支持文本和图片生成两种模式。 角色扮演:创作个性化角色,具备上下文感知和剧情推动能力,适合虚拟互动和故事创作。 语音合成:生成自然生动的语音,能表达多种情绪,适用于文本到语音转换。 声音复刻:快速克隆声音,高度还原音色和自然度,支持跨语种迁移,用于个性化语音合成。 语音识别:准确识别和转录语音,支持多语种,适用于语音命令和转录服务。 文生图:将文本转换为图像,擅长图文匹配和中国文化元素创作,用于图像生成和视觉内容创作。 图生图:基于现有图像生成新图像,支持风格变换、扩图、重绘和涂抹等创意操作。 同声传译:提供超低延时且自然高质量的实时翻译,支持跨语言同音色翻译,打破沟通中的语言壁垒。 Function Call:准确识别和抽取功能参数,适合复杂工具调用和智能交互。 向量化:提供向量检索能力,支持LLM知识库的核心理解,适用于多语言处理。 豆包大模型的功能特点 豆包通用模型Pro:字节跳动自研的高级语言模型,支持128K长文本处理,适用于问答、总结、创作等多种场景。 豆包通用模型Lite:轻量级语言模型,提供更低的成本和延迟,适合预算有限的企业使用。 豆包·视频生成模型:利用先进的语义理解技术,将文本和图片转化为引人入胜的高质量视频内容。 豆包·语言识别模型:具备高准确率和灵敏度,能够快速准确地识别和转写多种语言的语音。 豆包·Function Call模型:专为复杂工具调用设计,提供精确的功能识别和参数抽取能力。 豆包·文生图模型:将文字描述转化为精美图像,尤其擅长捕捉和表现中国文化元素。 豆包·语音合成模型:能够合成自然、生动的语音,表达丰富的情感和场景。 豆包·向量化模型:专注于向量检索,为知识库提供核心理解能力,支持多种语言。 豆包·声音复刻模型:仅需5秒即可实现声音的1:1克隆,提供高度相似的音色和自然度。 豆包·同声传译模型:实现超低延迟的实时翻译,支持跨语言同音色翻译,消除语言障碍。 豆包·角色扮演模型:具备个性化角色创作能力,能够根据上下文感知和剧情推动进行灵活的角色扮演。 豆包大模型的产品官网 产品官网:volcengine.com/product/doubao 如何使用豆包大模型 确定需求:明确项目或业务需求,比如是否需要文本生成、语音识别、图像创作、视频生成等。 选择合适的模型:根据需求选择合适的豆包大模型,例如文生图模型、语音合成、视频生成模型等。 注册和访问火山引擎:访问火山引擎官网注册账户,是字节跳动的云服务平台,提供豆包大模型的服务。 申请访问权限:在火山引擎平台上申请使用豆包大模型的权限,填写相关信息和使用场景。 API接入:获取相应的API接口信息,包括API的端点、请求方法和必要的认证信息。 开发和测试:根据API文档开发应用程序,将豆包大模型集成到你的业务流程中。进行充分测试,确保模型的输出符合预期。 部署应用:在测试无误后,将集成了豆包大模型的应用部署到生产环境。 监控和优化:监控应用的性能和模型的效果,根据反馈进行优化。 豆包大模型的产品定价 大语言模型 按tokens使用量付费: Doubao-lite-4k(包括分支版本lite-character):上下文长度4K、输入0.0003元/千tokens、输出0.0003元/千tokens、后付费、免费额度50万tokens。 Doubao-lite-32k:上下文长度32K、输入0.0003元/千tokens、输出0.0006元/千tokens后付费、免费额度50万tokens。 Doubao-lite-128k:上下文长度128K、输入0.0008元/千tokens、输出0.0010元/千tokens后付费、免费额度50万tokens。 Doubao-pro-4k(包括分支版本pro-character、pro-functioncall):上下文长度4K、输入0.0008元/千tokens、输出0.0020元/千tokens后付费、免费额度50万tokens。 Doubao-pro-32k:上下文长度32K、输入0.0008元/千tokens、输出0.0020元/千tokens后付费、免费额度50万tokens。 Doubao-pro-128k:上下文长度128K、输入0.0050元/千tokens、输出0.0090元/千tokens后付费、免费额度50万tokens。 按模型单元付费:独占的算力资源,更加独立可控 Doubao-lite-4k、Doubao-lite-32k:可承载性能(TPS)3000、按小时60元/个、包月28000元/个。 Doubao-lite-128k:可承载性能(TPS)4500、按小时240元/个、包月112000元/个。 Doubao-pro-4k、Doubao-pro-32k:可承载性能(TPS)3200、按小时160元/个、包月80000元/个。 Doubao-pro-128k:可承载性能(TPS)3500、按小时1200元/个、包月550000元/个。 视觉模型 豆包-文生图模型-智能绘图:推理服务、0.2元/次、后付费、免费额度200次。 语音大模型 Doubao-语音合成:推理服务、5元/万字符、后付费、免费额度5000字符。 Doubao-声音复刻:推理服务、8元/万字符、后付费、免费额度5000字符。 向量模型 Doubao-embedding:最长输入长度4K、输入0.0005元/千tokens、后付费、免费50万tokens。 模型精调 按tokens使用量(训练文本*训练迭代次数)计费,训练完成后出账。 Doubao-lite-4k、Doubao-lite-32k、Doubao-lite-128k:LoRA定价0.03元/千tokens、后付费。 Doubao-pro-4k、Doubao-pro-32k、Doubao-pro-128k:LoRA定价0.05元/千tokens、后付费。 更多模型及定价信息,可访问豆包大模型官网获取最新信息。 豆包大模型的应用场景 内容创作与媒体:使用文生图、图生图、视频生成模型生成文章配图、漫画、海报、短视频等视觉内容。语音合成模型为视频、动画制作配音。 客户服务:通过角色扮演模型提供虚拟客服和聊天机器人服务。使用语音识别和语音合成模型改善语音客服系统。 教育与培训:文生图模型辅助教学材料的制作,如生成教学插图。角色扮演模型创建个性化学习体验和虚拟教师。 娱乐与游戏:在游戏中使用角色扮演模型创建非玩家角色(NPC)的对话和行为。用语音合成模型为游戏角色提供自然的语言交流。 智能助手:结合语音识别和语音合成模型,开发智能个人助理。用文生图模型生成个性化的推荐内容。 市场与广告:用文生图模型自动生成广告创意和营销素材。用通用模型分析消费者反馈,优化广告文案。 企业自动化:通过Function Call模型自动化复杂的工作流程和工具调用。用向量化模型进行高效的信息检索和知识管理。 搜索与推荐:用向量化模型改善搜索引擎的准确性和响应速度。结合通用模型为用户推荐相关内容或产品。 法律与金融:用通用模型进行合同分析、案件研究和合规检查。用语音识别模型转录会议记录和访谈内容。
DL4J

DL4J

Deeplearning4j是为数不多的以Java虚拟机(JVM)为目标,以Java原生编写的机器学习框架之一。该框架由位于旧金山的一组机器学习开发人员开发,并由初创公司Skymind提供商业支持。Deeplearning4j于2017年10月捐赠给了Eclipse基金会。该库与Clojure和Scala兼容。 对于集群和分布式训练,Deeplearning4j与Apache Spark和Apache Hadoop集成。它还与NVIDIA CUDA运行时集成,可在多个GPU之间执行GPU操作和分布式训练。 Deeplearning4j包括一个使用ND4J的n维数组类,该类允许在Java和Scala中进行科学计算,与NumPy提供给Python的函数类似。它可以有效地用作执行线性代数和矩阵操作的库,用于训练和推理。 Deeplearning4j可以用于训练模型,这些模型可以执行图像分类、对象检测、图像分割、自然语言处理和时间序列预测。
Leap

Leap

Leap 提供简单易用的API和SDK,帮助开发人员在几分钟内将人工智能添加到自己的应用程序中,如生成图像、编辑图像、微调模型、检索文本上下文等。 Leap 可以在不编写/少量编写代码的情况下与5000多个应用程序集成。该工具提供Javascript、Python和cURL的API,用户可以通过注册免费试用帐户来试用Leap的功能。 Leap的特色功能 多合一AI功能的API。一个平台的API,用于图像、文本、视频等AI功能实现,无需在单个API之间切换。 内置测试和试玩工作台。在浏览器中使用Leap提供的人工智能模型,然后再将其集成到自己的应用程序中。 与任何应用程序集成。通过提供的Zapier集成,无需编程,便可以将Leap连接到3000多个应用程序。 微调训练自定义模型。使用其Dreambooth微调仪表板和API,可训练自定义的模型,无论是人、宠物、对象或自定义风格。 Leap的产品价格 Leap 的产品定价很简单,提供免费的基础套餐和付费套餐允许用户访问其他高级功能、无限制使用和访问高级队列。 免费套餐 图像生成:在标准队列中生成 100 张图像。 付费套餐 图像生成:每张图像支付 0.005 美元(高级队列)。 模型微调:为每个经过训练的模型版本支付 2 美元(高级队列) 混合图像:每张图片支付 0.01 美元(高级队列)
Label Studio

Label Studio

Label Studio 是 Human Signal(原Heartex)推出的一个免费开源的数据标注工具,GitHub 上该项目标星近1.4万,可帮助开发人员微调大语言模型、准备训练数据或验证 AI 模型。 Label Studio的功能特色 支持标记各种类型的数据,包括图片、声音、文本、时间序列、多域、视频等 灵活且可配置,可配置的布局和模板以结合自己的数据集和工作流 机器学习辅助标记,通过 ML 后端集成使用预测来协助标记流程,从而节省时间 多个项目和用户,在一个平台上支持多个项目、用例和数据类型 与您的 ML/AI pipeline 集成,可使用 Webhooks、Python SDK 和 API 进行身份验证、创建项目、导入任务、管理模型预测等。 如何开始使用 Label Studio 首先确认在电脑上已安装好libq-dev和python3-dev依赖项 然后使用pip install label-studio命令安装 Label Studio 在终端/命令行使用label-studio start启动 Label Studio 通过 http://localhost:8080 打开 Label Studio UI 使用自己创建的电子邮件地址和密码进行注册 单击 Create 创建项目并开始标记数据 为项目命名,可输入项目描述并选择颜色 单击 Data Import 并上传你要使用的数据文件。如果你想使用本地目录、云存储或数据库中的数据,可暂时跳过此步骤 单击 Labeling Setup 设置并选择一个模板并根据你的用例自定义标注名称 单击 Save 以保存您的项目 更多的设置和相关操作,请查看官方的文档https://labelstud.io/guide/get_started.html

暂无评论

none
暂无评论...