安装

用pip安装 (推荐)

pip install bminf

从源代码安装

git clone https://github.com/OpenBMB/BMInf.git
cd BMInf
python setup.py install

从Docker安装

docker run -it --gpus 1 -v $HOME/.cache/bigmodels:/root/.cache/bigmodels --rm openbmb/bminf python3 examples/fill_blank.py

安装完成后, 你可以运行examples文件夹中的样例来检查是否安装正确。

python examples/fill_blank.py

_images/demo.gif

硬件要求

在下表中我们列出了运行BMInf的最低配置与推荐配置：

最低配置 推荐配置
内存 16GB 24GB
GPU NVIDIA GeForce GTX 1060 6GB NVIDIA Tesla V100 16GB
PCI-E PCI-E 3.0 x16 PCI-E 3.0 x16

BMInf支持计算能力6.1或更高的GPU，查看对照表来明确你的GPU是否被支持。

软件要求

BMInf需要安装CUDA 10.1及以上版本，所有的依赖包都会在安装过程中自动被安装。

  • python >= 3.6

  • requests

  • tqdm

  • jieba

  • numpy

  • cpm_kernels >= 1.0.9

如果你想使用基于PyTorch的反向传播功能，确保在使用前安装了torch。