Phi-4-mini-reasoning保姆级教程：从零配置Ubuntu服务器到Gradio界面可用

Phi-4-mini-reasoning保姆级教程：从零配置Ubuntu服务器到Gradio界面可用

1. 准备工作

在开始之前，我们需要准备好以下内容：

• 一台运行Ubuntu 22.04 LTS的服务器（建议至少16GB内存）
• NVIDIA显卡（建议RTX 4090 24GB或更高）
• 稳定的网络连接
• 基本的Linux命令行知识

2. 服务器环境配置

2.1 安装基础依赖

首先更新系统并安装必要的依赖：

sudo apt update && sudo apt upgrade -y
sudo apt install -y wget git python3-pip python3-venv

2.2 安装NVIDIA驱动和CUDA

安装NVIDIA驱动（以CUDA 12.1为例）：

sudo apt install -y nvidia-driver-535
sudo apt install -y cuda-12-1

安装完成后，验证驱动是否安装成功：

nvidia-smi

3. 模型部署

3.1 创建Python虚拟环境

python3 -m venv phi4-env
source phi4-env/bin/activate

3.2 安装PyTorch和transformers

pip install torch==2.1.0 –index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.38.0 gradio==4.10.0

3.3 下载Phi-4-mini-reasoning模型

git lfs install
git clone https://huggingface.co/microsoft/Phi-4-mini-reasoning

4. 配置Supervisor服务

4.1 安装Supervisor

sudo apt install -y supervisor

4.2 创建Supervisor配置文件

在/etc/supervisor/conf.d/phi4-mini.conf中添加以下内容：

[program:phi4-mini]
command=/root/phi4-env/bin/python /root/phi4-mini/app.py
directory=/root/phi4-mini
user=root
autostart=true
autorestart=true
stderr_logfile=/root/logs/phi4-mini.err.log
stdout_logfile=/root/logs/phi4-mini.out.log

4.3 启动Supervisor服务

sudo supervisorctl reread
sudo supervisorctl update
sudo supervisorctl start phi4-mini

5. 创建Gradio界面

在/root/phi4-mini/app.py中创建以下内容：

from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr

model_path = "/root/Phi-4-mini-reasoning"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto")

def generate_text(prompt):
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(
**inputs,
max_new_tokens=512,
temperature=0.3,
top_p=0.85,
repetition_penalty=1.2
)
return tokenizer.decode(outputs[0], skip_special_tokens=True)

iface = gr.Interface(
fn=generate_text,
inputs="text",
outputs="text",
title="Phi-4-mini-reasoning Demo",
description="A lightweight model specialized in reasoning tasks"
)

iface.launch(server_name="0.0.0.0", server_port=7860)

6. 访问和使用

6.1 启动服务

sudo supervisorctl start phi4-mini

6.2 访问Gradio界面

在浏览器中访问：

http://<你的服务器IP>:7860

6.3 使用示例

尝试输入以下数学问题：

Solve for x: 2x + 5 = 15

模型应该会给出详细的解题步骤和正确答案。

7. 常见问题解决

7.1 服务启动慢

首次启动可能需要2-5分钟加载模型，这是正常现象。

7.2 显存不足

如果遇到CUDA内存不足错误，可以尝试：

7.3 端口无法访问

检查防火墙设置：

sudo ufw allow 7860

8. 总结

通过本教程，我们完成了从零开始配置Ubuntu服务器到部署Phi-4-mini-reasoning模型的全过程。这个轻量级但强大的推理模型特别适合数学和逻辑任务，现在你可以通过简单的Gradio界面与它交互了。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。