# 3分钟实现盘古α模型推理
taptap点点PG电子中项目下的云脑页面可以申请一张 T4 GPU，没有服务器的个人或学生可以在taptap点点PG电子上快速免费体验盘古α。本教程将手把手教你3分钟实现盘古α的推理流程。
# 1、注册taptap点点PG电子账号
这一步就不细说了，无非就是邮箱、账号、密码。 用申请的账号登录到taptap点点PG电子。
# 2、学习平台使用
学习 [openi 社区教程](https://openi.pcl.ac.cn/zeizei/OpenI_Learning/src/branch/master)系列教程中的 `云脑 基于CPU/GPU调试和训练任务`部分，学会如何申请 GPU 任务和调试任务。
# 3、推理
申请 GPU 任务后，运行下面脚本。
- 目录结构
/dataset/ 存放数据集的地方，刚刚提交任务的时候我们把模型放在该目录下
/code/ 存放代码的地方，你项目中的代码会拷贝到该目录下
/model/ 存放模型的地方，在任务提交界面可以通过`模型下载`下载该目录下的文件
- 进入 /code/panguAlpha_pytorch 目录
- 运行推理脚本
```bash
python tools/generate_samples_Pangu.py \
--model-parallel-size 1 \
--num-layers 31 \
--hidden-size 2560 \
--load /dataset/Pangu-alpha_2.6B_mgt/ \
--num-attention-heads 32 \
--max-position-embeddings 1024 \
--tokenizer-type GPT2BPETokenizer \
--fp16 \
--batch-size 1 \
--seq-length 1024 \
--out-seq-length 50 \
--temperature 1.0 \
--vocab-file megatron/tokenizer/bpe_4w_pcl/vocab \
--num-samples 0 \
--top_k 2 \
--finetune
```
恭喜你，完成了推理流程