Phi-3是什么?
微软公司于04/23宣布推出了Phi-3系列人工智能模型,这是迄今为止该公司创建的最小的人工智能模型。Phi-3模型作为目前功能最强大、最具成本效益的小型语言模型,得益于Microsoft研究人员开发的创新训练技术,Phi-3在各种基准测试中表现优异,包括语言评估、编码和数学能力评估,超越了同尺寸甚至更大尺寸的其他模型。
Phi-3的优势?
目前,微软仅发布了Mini版本,该版本包含38亿个参数,性能比两倍大小的模型更出色,而且还可以在手机上运行!
Phi-3模型将在Microsoft Azure AI模型目录、Hugging Face(机器学习模型平台)以及Ollama(用于在本地计算机上运行模型的轻量级框架)上提供。此外,它还将作为NVIDIA NIM微服务提供,具备标准API接口,可在任何地方部署。
微软还宣布将推出Phi-3系列的其他型号,以提供更多选择。预计很快将在Azure AI模型目录和其他模型平台上推出Phi-3-small(70亿个参数)和Phi-3-medium(140亿个参数)。
如何下载、安装和使用Phi-3 Mini?
1.下载LM Studio
首先,您需要下载并安装LM Studio,您可以通过访问LM Studio官网(lmstudio.ai)下载适用于您操作系统的版本。
2.登录Hugging Face
在浏览器中输入huggingface.co进入网站,或者直接访问。
链接:
https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3
3.下载Phi-3 Mini 模型
在搜索框中输入“Phi-3”进行搜索。在搜索结果中,找到名称为
microsoft/Phi-3-mini-4k-instruct-gguf的模型,选择并下载最新版本,通常标有“最新”或具体的版本号,如Q4,因为它只有2.32GB。
请注意:Phi-3 7B Mini的某些版本可能针对性能进行了优化,例如提供更快的处理速度或更低的资源消耗,因此请根据您的需求选择合适的版本。
4.开始使用Phi-3 Mini 模型
模型下载和安装完成后,您可以立即开始使用Phi-3 Mini模型。在LM Studio的左侧菜单中,点击“AI Chat”标签,然后在顶部的模型选择栏中选择Phi-3 Mini模型,此时您就可以进行使用了。