Cohere
Cohere是一家专注于开发企业级语言模型的AI公司,提供多个系列的高性能模型,包括Command系列和Aya Expanse系列。
主要模型系列:
Command系列:
- Command-R+:最高质量模型之一,支持128k上下文窗口
- Command-R:性能与价格平衡的主力模型,支持128k上下文窗口
- Command-R+ (Apr ‘24):最新版本,针对性能做出优化
- Command-R (Mar ‘24):速度优化版本,达到163 tokens/秒
Aya Expanse系列:
- Aya Expanse 8B:轻量级高速模型,支持8k上下文窗口
- Aya Expanse 32B:大规模高性能模型,支持8k上下文窗口
性能表现: 速度性能:
- Command-R (Mar ‘24):163 tokens/秒
- Aya Expanse 8B:139 tokens/秒
- 其他模型也保持较高输出速度
延迟表现:
- Aya Expanse 32B:0.21秒
- Command-R (Mar ‘24):0.21秒
- 其他模型延迟普遍较低
定价策略(每百万tokens):
- Command-R:$0.26
- Command-R (Mar ‘24):$0.75
- Command-R+:$4.38
- Command-R+ (Apr ‘24):$6.00
- Aya Expanse系列:$0.75
技术特点:
- 所有模型都支持函数调用功能
- 完整支持JSON模式输出
- 提供稳定可靠的API服务
- 企业级的安全性和可扩展性
性能评估:
- 在MMLU(推理与知识)测试中表现优异
- 在GPQA(科学推理)评估中得分较高
- 在数学推理和代码生成方面展现出色能力
- 在LMSys Chatbot Arena的ELO评分中表现突出
Cohere通过提供多样化的模型选择和灵活的定价策略,为企业和开发者提供了全面的AI解决方案。公司特别注重模型的实用性和可靠性,致力于为用户提供高质量的语言模型服务。
command-r-plus-08-2024 是 Command R+ 的更新,与之前的 Command R+ 版本相比,吞吐量提高了大约 50%,延迟降低了 25%,同时硬件占用保持不变。 在此处阅读发布帖子 here。 ...
Command-R 是一个 35B 参数模型,能够以更高的质量、更可靠的方式以及更长的上下文执行对话语言任务。它可以用于复杂的工作流程,如代码生成、检索增强生成(RAG)、工具使用和代理。 阅读发布帖子 here。 使用此模型须遵循 Cohere 的 [Acceptable Use Policy](https://do ...
Command 是一个遵循指令的对话模型,能够以更高的质量、更可靠地执行语言任务,并且比我们的基础生成模型具有更长的上下文。 使用此模型须遵循 Cohere 的 Acceptable Use Policy. ...
command-r-plus-08-2024 是 Command R+ 的更新,与之前的 Command R+ 版本相比,吞吐量提高了大约 50%,延迟降低了 25%,同时保持相同的硬件占用。 在 [这里](https://docs.cohere.com/changelog/command-gets-refresh ...
command-r-08-2024 是 Command R 的更新,提升了多语言检索增强生成 (RAG) 和工具使用的性能。更广泛地说,它在数学、代码和推理方面表现更佳,并且与之前的更大版本 Command R+ 模型具有竞争力。 阅读发布帖子 [这里](https://docs.cohere.com/changelog/c ...