Phi-3.5 模型是轻量级的、最先进的开放模型。这些模型使用 Phi-3 数据集进行训练，该数据集包括合成数据和经过筛选的公开可用网站数据，重点关注高质量和推理密集特性。Phi-3.5 Mini 使用 3.8B 参数，是一个密集的仅解码器变换器模型，使用与 Phi-3 Mini 相同的分词器。
这些模型经过严格的增强过程，结合了监督微调、近端策略优化和直接偏好优化，以确保精确的指令遵循和强大的安全措施。在与测试常识、语言理解、数学、代码、长上下文和逻辑推理的基准进行评估时，Phi-3.5 模型在参数少于 130 亿的模型中展示了强大且最先进的性能。
Phi-3 128K Medium 是一个强大的 140 亿参数模型，旨在实现高级语言理解、推理和指令跟随。通过监督微调和偏好调整进行优化，它在涉及常识、数学、逻辑推理和代码处理的任务中表现出色。 在发布时，Phi-3 Medium 在轻量级模型中展示了最先进的性能。在 MMLU-Pro 评估中，该模型甚至接近 Llama3 70B 的性能水平。 对于 4k 上下文长度，请尝试 [Phi-3 ...
Phi-3 Mini 是一个强大的 3.8B 参数模型，旨在实现高级语言理解、推理和指令跟随。通过监督微调和偏好调整进行优化，它在涉及常识、数学、逻辑推理和代码处理的任务中表现出色。 在发布时，Phi-3 Medium 在轻量级模型中展示了最先进的性能。该模型是静态的，训练于一个截止日期为 2023 年 10 月的离线数据集。 ...
Microsoft Research Phi-4 旨在在复杂推理任务中表现出色，并能够在内存有限或需要快速响应的情况下高效运行。 它拥有140亿个参数，训练使用了高质量的合成数据集、来自精心挑选网站的数据以及学术材料。经过仔细改进，它能够准确遵循指令并保持强大的安全标准。它最适合处理英语输入。 有关更多信息，请参见 [Phi-4 Technical Report] ...
WizardLM-2 7B 是微软 AI 最新 Wizard 模型的较小变体。它是最快的，并且在性能上与现有的 10 倍大开源领先模型相当。 它是对 Mistral 7B Instruct 的微调，使用与 WizardLM-2 8x22B 相同的技术。 要了解更多 ...