训练模型

新Gemma
新Gemma

Gemma是什么 Gemma是由谷歌DeepMind和谷歌的其他团队开发的一系列轻量级、先进的开放AI模型,基于与Gemini模型相同的技术,旨在帮助开发者和研究人员构建负责任的AI应用。Gemma模型系列包括两种权重规模的模型:Gemma 2B 和 Gemma 7B,提供预训练和指令微调版本,支持多种框架,如JAX、PyTorch和TensorFlow,以在不同设备上高效运行。 Gemma的官方入口 Gemma的官网主页:https://ai.google.dev/gemma?hl=zh-cn Gemma的Hugging Face模型:https://huggingface.co/models?search=google/gemma Gemma的Kaggle模型地址:https://www.kaggle.com/models/google/gemma/code/ Gemma的技术报告:https://storage.googleapis.com/deepmind-media/gemma/gemma-report.pdf 官方PyTorch实现GitHub代码库:https://github.com/google/gemma_pytorch Gemma的Google Colab运行地址:https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/gemma/docs/lora_tuning.ipynb Gemma的主要特性 轻量级架构:Gemma模型设计为轻量级,便于在多种计算环境中运行,包括个人电脑和工作站。 开放模型:Gemma模型的权重是开放的,允许用户在遵守许可协议的情况下进行商业使用和分发。 预训练与指令微调:提供预训练模型和经过指令微调的版本,后者通过人类反馈强化学习(RLHF)来确保模型行为的负责任性。 多框架支持:Gemma支持JAX、PyTorch和TensorFlow等主要AI框架,通过Keras 3.0提供工具链,简化了推理和监督微调(SFT)过程。 安全性与可靠性:在设计时,Gemma遵循Google的AI原则,使用自动化技术过滤训练数据中的敏感信息,并进行了一系列安全评估,包括红队测试和对抗性测试。 性能优化:Gemma模型针对NVIDIA GPU和Google Cloud TPUs等硬件平台进行了优化,确保在不同设备上都能实现高性能。 社区支持:Google提供了Kaggle、Colab等平台的免费资源,以及Google Cloud的积分,鼓励开发者和研究人员利用Gemma进行创新和研究。 跨平台兼容性:Gemma模型可以在多种设备上运行,包括笔记本电脑、台式机、物联网设备和云端,支持广泛的AI功能。 负责任的AI工具包:Google还发布了Responsible Generative AI Toolkit,帮助开发者构建安全和负责任的AI应用,包括安全分类器、调试工具和应用指南。 Gemma的技术要点 模型架构:Gemma基于Transformer解码器构建,这是当前自然语言处理(NLP)领域最先进的模型架构之一。采用了多头注意力机制,允许模型在处理文本时同时关注多个部分。此外,Gemma还使用了旋转位置嵌入(RoPE)来代替绝对位置嵌入,以减少模型大小并提高效率。GeGLU激活函数取代了标准的ReLU非线性激活,以及在每个Transformer子层的输入和输出都进行了归一化处理。 训练基础设施:Gemma模型在Google的TPUv5e上进行训练,这是一种专为机器学习设计的高性能计算平台。通过在多个Pod(芯片集群)上进行模型分片和数据复制,Gemma能够高效地利用分布式计算资源。 预训练数据:Gemma模型在大量英语数据上进行预训练(2B模型大约2万亿个token的数据上预训练,而7B模型则基于6万亿个token),这些数据主要来自网络文档、数学和代码。预训练数据经过过滤,以减少不想要或不安全的内容,同时确保数据的多样性和质量。 微调策略:Gemma模型通过监督式微调(SFT)和基于人类反馈的强化学习(RLHF)进行微调。这包括使用合成的文本对和人类生成的提示响应对,以及基于人类偏好数据训练的奖励模型。 安全性和责任:Gemma在设计时考虑了模型的安全性和责任,包括在预训练阶段对数据进行过滤,以减少敏感信息和有害内容的风险。此外,Gemma还通过了一系列的安全性评估,包括自动化基准测试和人类评估,以确保模型在实际应用中的安全性。 性能评估:Gemma在多个领域进行了广泛的性能评估,包括问答、常识推理、数学和科学问题解答以及编码任务。Gemma模型与同样规模或更大规模的开放模型进行了性能对比,在MMLU、MBPP等18个基准测试中,有11个测试结果超越了Llama-13B或Mistral-7B等模型。 开放性和可访问性:Gemma模型以开源的形式发布,提供了预训练和微调后的检查点,以及推理和部署的开源代码库。这使得研究人员和开发者能够访问和利用这些先进的语言模型,推动AI领域的创新。 常见问题 Gemma一词的含义是什么? Gemma在拉丁语中的意思是“宝石”。 Gemma是开源的吗? Gemma是开源开放的大模型,用户可在Hugging Face查看和下载其模型。 Gemma模型的参数量是多少? Gemma目前提供20亿和70亿参数量的模型,后续还会推出新的变体。

新Sora
新Sora

Sora是什么 Sora是由OpenAI研发的AI视频生成模型,具备将文本描述转化为视频的能力,能够创造出既逼真又富有想象力的视频场景。该模型专注于模拟物理世界的运动,旨在帮助人们解决需要现实世界互动的问题。相较于Pika、Runway、PixVerse、Morph Studio、Genmo等只能生成四五秒的AI视频工具,Sora能够生成长达一分钟的视频,同时保持视觉质量和对用户输入的高度还原。除从零开始创建视频,Sora还能基于现有静态图像生成动画,或者扩展和补全现有视频。 需要注意的是,尽管Sora的功能看起来非常强大,但目前还没有正式对外开放,OpenAI正在对其进行红队测试、安全检查和优化。OpenAI的官网上目前只有对Sora的介绍、视频Demo和技术讲解,暂未提供可直接使用的视频生成工具或API。madewithsora.com网站上收集了Sora生成的视频,感兴趣的朋友可以前往观看。 Sora的主要功能 文本驱动的视频生成:Sora 能够根据用户提供的详细文本描述,生成与之相符的视频内容。这些描述可以涉及场景、角色、动作、情感等多个方面。 视频质量与忠实度:生成的视频保持高质量的视觉效果,并且紧密遵循用户的文本提示,确保视频内容与描述相符。 模拟物理世界:Sora旨在模拟现实世界的运动和物理规律,使得生成的视频在视觉上更加逼真,能够处理复杂的场景和角色动作。 多角色与复杂场景处理:模型能够处理包含多个角色和复杂背景的视频生成任务,尽管在某些情况下可能存在局限性。 视频扩展与补全:Sora不仅能从头开始生成视频,还能基于现有的静态图像或视频片段进行动画制作,或者延长现有视频的长度。 Sora的技术原理 OpenAI Sora的技术架构猜想 文本条件生成:Sora模型能够根据文本提示生成视频,这是通过将文本信息与视频内容相结合实现的。这种能力使得模型能够理解用户的描述,并生成与之相符的视频片段。 视觉块(Visual Patches):Sora将视频和图像分解为小块的视觉块,作为视频和图像的低维表示。这种方法允许模型处理和理解复杂的视觉信息,同时保持计算效率。 视频压缩网络:在生成视频之前,Sora使用一个视频压缩网络将原始视频数据压缩到一个低维的潜在空间。这个压缩过程减少了数据的复杂性,使得模型更容易学习和生成视频内容。 空间时间块(Spacetime Patches):在视频压缩后,Sora进一步将视频表示分解为一系列空间时间块,作为模型的输入,使得模型能够处理和理解视频的时空特性。 扩散模型(Diffusion Model):Sora采用扩散模型(基于Transformer架构的DiT模型)作为其核心生成机制。扩散模型通过逐步去除噪声并预测原始数据的方式来生成内容。在视频生成中,这意味着模型会从一系列噪声补丁开始,逐步恢复出清晰的视频帧。 Transformer架构:Sora利用Transformer架构来处理空间时间块。Transformer是一种强大的神经网络模型,在处理序列数据(如文本和时间序列)方面表现出色。在Sora中,Transformer用于理解和生成视频帧序列。 大规模训练:Sora在大规模的视频数据集上进行训练,这使得模型能够学习到丰富的视觉模式和动态变化。大规模训练有助于提高模型的泛化能力,使其能够生成多样化和高质量的视频内容。 文本到视频的生成:Sora通过训练一个描述性字幕生成器,将文本提示转换为详细的视频描述。然后,这些描述被用来指导视频生成过程,确保生成的视频内容与文本描述相匹配。 零样本学习:Sora能够通过零样本学习来执行特定的任务,如模拟特定风格的视频或游戏。即模型能够在没有直接训练数据的情况下,根据文本提示生成相应的视频内容。 模拟物理世界:Sora在训练过程中展现出了模拟物理世界的能力,如3D一致性和物体持久性,表明该模型能够在一定程度上理解并模拟现实世界中的物理规律。 OpenAI官方Sora技术报告:https://openai.com/research/video-generation-models-as-world-simulators 机器之心解读的Sora技术细节:https://www.jiqizhixin.com/articles/2024-02-16-7 赛博禅心 - 中学生能看懂:Sora 原理解读:https://mp.weixin.qq.com/s/KUnXlDlg-Rs_6D5RFpQbnQ Sora的应用场景 社交媒体短片制作:内容创作者快速制作出吸引人的短片,用于在社交媒体平台上分享。创作者可以轻松地将他们的想法转化为视频,而无需投入大量的时间和资源去学习视频编辑软件。Sora还可以根据社交媒体平台的特点(如短视频、直播等)生成适合特定格式和风格的视频内容。 广告营销:快速生成广告视频,帮助品牌在短时间内传达核心信息。Sora可以生成具有强烈视觉冲击力的动画,或者模拟真实场景来展示产品特性。此外,Sora还可以帮助企业测试不同的广告创意,通过快速迭代找到最有效的营销策略。 原型设计和概念可视化:对于设计师和工程师来说,Sora可以作为一个强大的工具来可视化他们的设计和概念。例如,建筑师可以使用Sora生成建筑项目的三维动画,让客户更直观地理解设计意图。产品设计师可以利用 Sora 展示新产品的工作原理或用户体验流程。 影视制作:辅助导演和制片人在前期制作中快速构建故事板,或者生成初步的视觉效果。这可以帮助团队在实际拍摄前更好地规划场景和镜头。此外,Sora还可以用于生成特效预览,让制作团队在预算有限的情况下,探索不同的视觉效果。 教育和培训:Sora 可以用来创建教育视频,帮助学生更好地理解复杂的概念。例如,它可以生成科学实验的模拟视频,或者历史事件的重现,使得学习过程更加生动和直观。 如何使用Sora OpenAI Sora目前暂未提供公开访问使用的入口,该模型正在接受红队(安全专家)的评估,只向少数视觉艺术家、设计师和电影制作人进行测试评估。OpenAI没有指定更广泛的公众可用性的具体时间表,不过可能是2024年的某个时间。若想现在获得访问权限,个人需要根据OpenAI定义的专家标准获得资格,其中包括属于参与评估模型有用性和风险缓解策略的相关专业团体。

新天壤小白
新天壤小白

天壤小白是什么? 天壤小白是天壤公司开发的一个通用大语言模型,它是一个基于互联网公开数据训练而成的人工智能模型,拥有高达1860亿个参数。这个模型采用了生成式架构,具备强大的语义理解和上下文感知能力,能够精准捕捉文本中的语义关联,并理解用户的指令和意图。 天壤小白应用开发平台是一个专为开发者设计的平台,旨在帮助用户轻松构建、管理和运营基于天壤小白大语言模型的AI应用。该平台利用天壤小白大模型,结合Embedding模型,允许用户通过编写自然语言的方式创建可信赖的商业级AI应用。平台提供了多种应用类型和使用方式,以适应不同的业务场景。 天壤小白应用开发平台的主要功能 应用创建与管理:用户可以创建不同类型的AI应用,包括文本生成型、对话型、搜索型和工作流应用。平台提供了一个直观的界面,让用户能够轻松设置应用的图标、名称和类型。 灵活的模型配置:平台提供了多种版本的天壤小白大语言模型,用户可以根据应用需求选择合适的模型。同时,用户还可以配置模型参数,如模型版本、输入输出长度限制等。 提示词与上下文管理:用户可以设计提示词来指导AI模型生成特定的输出,同时管理上下文信息,确保AI应用在对话中保持连贯性。 敏感词检测:为了确保内容的安全性,平台支持敏感词检测功能,用户可以设置敏感词列表,AI在生成内容时会自动过滤这些词汇。 API调用:平台提供了友好的API接口,开发者可以通过API将AI能力集成到自己的应用中,实现后端或前端的直接调用。 Web App在线访问:用户可以创建Web App,通过链接直接访问AI应用,无需复杂的部署过程。 数据分析:平台提供了应用的数据分析功能,包括用量统计、活跃用户数、用户满意度等,帮助开发者了解应用的表现并进行优化。 文档集功能:支持上传和解析多种格式的文档,如Excel、CSV、JSON等,以及图片和PDF文件,通过OCR技术提取文字。这些文档可以作为AI应用的知识库,提高回答的准确性和相关性。 结构化文档支持:用户可以上传结构化文档,并设置召回字段,使得AI应用能够更准确地理解和回应基于特定字段的查询。

Jan
Jan

Jan(Jan.ai)是一个免费开源的本地运行大模型并进行AI聊天对话的工具,可帮助用户在本地电脑(Windows、Mac、Linux)上安装、部署、运行并使用开源版本的ChatGPT替代大模型,如LLaMa、Mistral、Phi-2等20多个模型,也支持输入自己的OpenAI API Key以运行GPT。相较于AI工具集此前介绍的Ollama,该工具提供了对话UI和API服务器,适合开发者、研究人员或AI爱好者本地体验开源的大模型。 Jan的主要功能 本地运行开源大模型:支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型,可手动导入也可以在模型库下载模型 简洁好用的聊天界面:软件界面清爽简洁、直观易用,直接在本地与开源大模型快速进行对话聊天 支持多个平台:Jan支持在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统运行,后续还将推出移动端APP。 内置API服务器:与OpenAI API兼容,可通过API获取模型信息、下载、启动、停止模型及聊天等 如何使用Jan 访问Jan的官网(jan.ai),选择对应的电脑操作系统版本,点击Download进行下载 然后安装并打开软件,在软件界面的左下角点击Download your first model 进入模型库Hub界面,选择你感兴趣的模型进行下载,下载完成后点击Use使用该模型 在对话界面输入你的描述即可与你选择的模型进行对话啦 Jan还在持续开发中,后续会支持移动端APP、创建AI助理、推理引擎、插件扩展等功能。

GPT-4
GPT-4

GPT-4介绍 GPT-4(Generative Pre-trained Transformer)是 OpenAI 开发的自然语言处理模型 GPT 家族中的第四个版本,该模型依靠强大的神经网络来理解和生成类似人类的语言。 如何免费使用GPT-4?不开会员的6种方法 目前官方版的GPT-4仅能通过ChatGPT Plus付费会员才能使用,免费版的ChatGPT无法使用最新的GPT-4,而Plus版本需要每个月花费20美元来订阅,并且国内付款非常困... AI教程 7个月前 GPT-4 通过使用被称为「转换器(Transformer)」的特殊架构来帮助软件理解单词的含义以及它们在句子中的组合方式。通俗来讲,Transformer帮助计算机找出如何将所有的词以正确的顺序放在一起,使之有意义。 之所以采用这样的方法,是因为该模型已经在一个巨大的数据集上进行了训练,其中包括来自不同来源的文本,如书籍、文章和网站。这种训练使 GPT-4 模型能够进行类似人类的对话,并产生看似有意义的回应。不过虽然 GPT-4 创造的文本和回应读起来像人,但它远远不是有意识的智能,离通用人工智能还有距离。 GPT-4的工作原理 GPT-4通过与其前身(GPT-3.5)相同的基本流程工作,但规模更大,以下是其主要的工作原理: Transformer架构: GPT-4是使用一种叫做「Transformer」的设计来构建的,这些转换器就像超级智能机器,能够理解一句话中哪些词是重要的,以及它们之间的关系。 大规模的预训练: GPT-4从大量的文本中学习,如书籍、网站和文章,这样一来,它就能更好地理解语言模式、语法和事实。 微调(Fine-tuning): 在从大量文本中学习后,GPT-4会在特定的任务中接受训练,如回答问题或理解文本中的情感,这有助于它在处理这些任务时变得更加出色。 分词(Tokenization): GPT-4将文本分解成更小的部分,称为「tokens」,这些token可以是单词或单词的一部分,这有助于它处理不同的语言并理解词语的含义。 上下文窗口(Context window): GPT-4有一个限制,即它可以一次查看多少个token。这个限制有助于它理解语境和单词之间的关系,但这也意味着它不一定能理解很长的句子或段落。 概率分布和抽样: 当GPT-4生成文本时,它根据模型认为每个词的可能性的大小来猜测下一个词。然后,它从这些猜测中挑选出一个词,使其够创造出多样化和有趣的句子。 细粒度控制(Fine-grained control): GPT-4可以通过使用特殊提示或调整其设置等技巧,引导它给出特定类型的答案或文本,以帮助从该模型中获得我们想要的结果。 ChatGPT和GPT-4的区别 ChatGPT 和 GPT-4 并不是同一回事,ChatGPT 是基于 GPT-3.5 和 GPT-4 模型的,专门为对话式人工智能应用而设计的,比如根据用户输入生成类似人类的文本回复。 而GPT-4指的是GPT系列大语言模型的当前版本——驱动ChatGPT的引擎。 ChatGPT提供的输出读起来更自然,GPT-4更强大,在输入/输出方面可以处理更多文本。 GPT-4可以免费访问吗? 这个问题的答案:是也不是。 用户可以通过ChatGPT、New Bing等软件访问GPT-4,这些平台使用GPT-4来生成内容并与用户互动。然而,GPT-4只有在ChatGPT Plus付费计划下才能使用,或者作为开发者建立应用程序和服务的API。New Bing(新必应)可以每天免费有限次数使用GPT-4驱动的AI聊天,而独立用户在这些人工智能聊天机器人平台之外没有机会使用GPT-4。

Coze
Coze

Coze是由字节跳动在海外推出的一个AI聊天机器人和应用程序编辑开发平台,可以理解为字节跳动版的GPTs。无论用户是否有编程经验,都可以通过该平台快速创建各种类型的聊天机器人、智能体、AI应用和插件,并将其部署在社交平台和即时聊天应用程序中,如Discord、WhatsApp、Twitter。 有意思的地方在于,目前Coze提供的是基于OpenAI GPT-4和GPT-3.5的API来创建和使用AI聊天机器人,并未使用自研的云雀大模型。而此前媒体报道字节将于12月底推出一个开放平台并开启公测,允许用户自主创建自定义聊天机器人。如同此前推出的聊天机器人豆包国际版为Cici,后续字节可能推出一个国内版本的Coze,或许会采用云雀大模型的能力。 Coze的主要功能 丰富的插件工具:该平台目前包含 60 多个不同的插件,包括新闻阅读、旅行计划、生产力工具、图像理解 API 和多模态模型 知识库调取和管理:Coze提供易于使用的知识库功能,使 AI 能够与用户自己的数据(如PDF、网页文本)进行交互。可以存储和管理知识中的数据 长期记忆能力:提供便捷的数据库存储能力,可以让 AI 机器人持久记住对话中的关键参数或内容 定时计划任务:通过计划任务功能,用户可以使用自然语言轻松创建复杂的任务,创建好的机器人会准时发送相应的消息内容。 工作流程自动化:轻松创建一个工作流程将创意想法转换为机器人技能,如收集电影评论、起草行业研究报告等 预览和调试:机器人开发完成后,可以发送消息来查看机器人的响应,并根据知识搜索结果和工具响应来排查问题 如何使用Coze创建机器人 访问Coze的官网(coze.com),点击Get started登录/注册账号 选择侧边栏的Bots菜单,点击Create bot,然后添加机器人Logo、名称、描述信息 然后在Persona & Prompt输入框中输入机器人角色和提示词,右侧可预览和调试输出信息 测试无误后可点击右上角的Publish发布创建好的机器人 Coze的适用人群 开发人员:专注于为特定任务调整AI模型和提示词,而不是花费大量时间进行初始开发 企业公司:通过将AI机器人集成到内部程序如客户支持系统、内容创作工具和推荐引擎中,开发创新的应用和服务 研究人员:利用该平台作为实验工具进行各种研究任务,探索自然语言生成和理解 AI爱好者:免费的GPT API,创建自定义机器人用于日常生活、学习和工作中 常见问题 Coze支持哪些大模型? Coze目前支持通过GPT-3.5和GPT-4模型来构建AI机器人。 Coze是免费的吗? Coze目前是免费向用户开放的,暂未推出付费版本。 Coze创建的机器人可以发布到哪些平台? Coze目前支持将创建好的机器人发布到Discord和Cici,后续将支持WhatsApp和Twitter。

Ollama
Ollama

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统​​​​。 此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的REST API​​。 该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。 Ollama支持的模型 Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例: 模型 参数大小 文件大小 下载运行命令 Neural Chat 7B 4.1GB ollama run neural-chat Starling 7B 4.1GB ollama run starling-lm Mistral 7B 4.1GB ollama run mistral Llama 2 7B 3.8GB ollama run llama2 Code Llama 7B 3.8GB ollama run codellama Llama 2 Uncensored 7B 3.8GB ollama run llama2-uncensored Llama 2 13B 13B 7.3GB ollama run llama2:13b Llama 2 70B 70B 39GB ollama run llama2:70b Orca Mini 3B 1.9GB ollama run orca-mini Vicuna 7B 3.8GB ollama run vicuna

MiracleVision奇想智能
MiracleVision奇想智能

MiracleVision奇想智能是什么 MiracleVision奇想智能是由美图秀秀公司推出的自研AI视觉大模型,不仅具备高度的美学导向和图像处理能力,还能够广泛地应用于多个行业,提高工作流效率。同时,它还提供了简单易用的AI视觉创作工具,使用户能够快速进行图像的创作和编辑。最新的MiracleVision 4.0支持AI图片生成、AI设计排版和AI视频生成等能力。 MiracleVision奇想智能的主要能力 AI图片生成,支持文生图和图生图,输入文字或上传图像即可创作图片,提供多种风格、参数调整、图片尺寸、精准画面控制等 AI智能设计,包括矢量图形、文字特效、智能分层和智能排版,可以满足AI设计的基础需求 AI视频生成,提供文生视频、图生视频、视频运镜、视频生视频四大功能,让奇思妙想动起来 视觉模型商店,平台提供丰富的视觉模型,从经典复古到现代潮流、从超现实幻想到极简抽象,用户可以任意选择创造惊艳的视觉效果 MiracleVision奇想智能的适用行业 电商行业:从涂鸦生成线稿、线稿上色、商品图、模特试穿图,再到电商物料输出,全程可通过MiracleVision实现。 游戏制作:包揽场景设计、角色设计、道具设计、UI图标、宣发物料等流程,拓宽设计师想象空间的同时助力游戏行业降本。 影视行业:充分满足概念场景设计、分镜设计、人物造型、道具设计、宣发物料的效果要求,极大提升影视行业设计环节的效率。 广告设计:覆盖创意脑暴、创意深化、平面排版、多尺寸延展、线下投放预览的全工作流,助力客户在广告物料制作环节提效。 动漫卡通:打通了概念设计、故事板生成、线稿上色、动漫补帧、视频转动漫等流程,支持创意到物料成品的快速落地。

PaLM 2
PaLM 2

PaLM(Pathways Language Model) 是一种大型语言模型,即 LLM,类似于OpenAI 创建的 GPT 系列或Meta 的 LLaMA 系列模型。谷歌于 2022 年 4 月首次宣布推出 PaLM,超过了5400亿个训练参数。与其他 LLM 一样,PaLM 是一个灵活的系统,可以执行各种文本生成和编辑任务。例如,你可以将 PaLM 训练成像 ChatGPT 这样的对话式聊天机器人,或者你可以将它用于诸如总结文本甚至编写代码等任务。(这类似于谷歌今天也为其 Workspace 应用程序(如 Google Docs 和 Gmail)宣布的功能。) 在 2023 谷歌 I/O 大会上,谷歌 CEO 皮查伊宣布推出对标 GPT-4 的大模型 PaLM 2,并正式发布预览版本,改进了数学、代码、推理、多语言翻译和自然语言生成能力。 谷歌将为 PaLM 2 提供四种不同大小的版本,从最小到最大:Gecko、Otter、Bison 和 Unicorn。Gecko 非常轻巧,可以在移动设备上工作,并且速度足够快,即使在离线时也能在设备上运行出色的交互式应用程序。这种多功能性意味着可以对 PaLM 2 进行微调,以更多方式支持整个类别的产品,从而帮助更多人。 PaLM 2的特性 PaLM 2 是谷歌的下一代大语言模型,具有改进的多语言、推理和编码能力。 多语言性: PaLM 2 在多语言文本方面接受了更多的训练,涵盖 100 多种语言。这显著提高了它在多种语言中理解、生成和翻译细微差别文本(包括成语、诗歌和谜语)的能力,这是一个很难解决的问题。PaLM 2 还通过了“精通”级别的高级语言能力考试。 推理: PaLM 2 的广泛数据集包括科学论文和包含数学表达式的网页。因此,它展示了逻辑、常识推理和数学方面的改进能力。 编程: PaLM 2 在大量公开可用的源代码数据集上进行了预训练。这意味着它擅长 Python 和 JavaScript 等流行的编程语言,但也可以生成 Prolog、Fortran 和 Verilog 等语言的专用代码。

1 2