centOS7 配置清华chatGLM

CentOS7操作系统安装部署清华ChatGLM会话模型

一.配置CentOS7环境

1. 配置python版本

   由于centOS7自带的python版本是2.X，所以需要更换python3.9+的版本（chatglm需要3.9+版本）

   步骤1：下载依赖

   yum install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gcc make libffi-devel

   注：没有安装wegt的需要先安装 yum install wegt

   步骤2：下载python安装包

   # 官方地址

   wget https://www.python.org/ftp/python/3.9.0/Python-3.9.0.tgz

   # 国内镜像（下载速度更快，建议使用国内镜像）

   wget http://npm.taobao.org/mirrors/python/3.9.0/Python-3.9.0.tgz

   步骤3：解压安装

   # 解压压缩包

   tar -zxvf Python-3.9.0.tgz

   # 进入文件夹

   cd Python-3.9.0

   # 配置安装位置

   ./configure prefix=/usr/local/python3

   # 安装

   make && make install

   步骤4：软连接替换（不推荐替换掉python命令，由于python2.x与python3.x有差异，会导致某些centOs7 的命令运行出现错误）

   [root@centos-moxc bin]# ln -s /usr/local/python3/bin/python3.9 /usr/bin/python3

   [root@centos-moxc bin]# ln -s /usr/local/python3/bin/pip3.9 /usr/bin/pip3

   [root@centos-moxc bin]# python3 -V

   Python 3.9.0

   [root@centos-moxc bin]# pip3 -V

   pip 20.2.3 from /usr/local/python3/lib/python3.9/site-packages/pip (python 3.9)

   # 查看软连接指向

   [root@centos-moxc bin]# ll /usr/bin/ |grep python

   -rwxr-xr-x 1 root root 11240 Apr 2 2020 abrt-action-analyze-python

   lrwxrwxrwx 1 root root 29 Nov 14 01:04 pip3 -> /usr/local/python3/bin/pip3.9

   lrwxrwxrwx 1 root root 7 Sep 3 11:48 python -> python2

   lrwxrwxrwx 1 root root 9 Sep 3 11:48 python2 -> python2.7

   -rwxr-xr-x 1 root root 7144 Apr 2 2020 python2.7

   lrwxrwxrwx 1 root root 32 Nov 14 01:04 python3 -> /usr/local/python3/bin/python3.9

   [root@centos-moxc bin]# ll /usr/bin/ |grep pip

   -rwxr-xr-x. 1 root root 2291 Jul 31 2015 lesspipe.sh

   lrwxrwxrwx 1 root root 29 Nov 14 01:04 pip3 -> /usr/local/python3/bin/pip3.9

2. 安装显卡驱动

   步骤1：查看显卡详情

   lspci | grep -i nvidia

   根据显卡情况到官方驱动 | NVIDIA，选择对应自己的驱动版本并进行下载，保存为.run文件

   步骤2：安装显卡驱动的配置

   1. 验证系统是否安装gcc,g++,tar,make,如果没有安装，就手动配置yum源进行安装

   gcc –v

   g++ -v

   yum install gcc gcc-c++ tar make

   2.如果没有安装kernel-header包，使用本地的yum安装

   yum install kernel-devel-$(uname -r) kernel-headers-$(uname -r)

   3.如果系统已经安装了驱动，则进行卸载

   /usr/bin/nvidia-uninstall

   4.查询Nouneau模块是否运行，如果运行则需要禁用

   lsmod | grep nouveau

   如果有输出则表示运行，如果没有输出则表示禁用成功

   禁用则在以下文件内写入以下内容：

   vim /usr/lib/modprobe.d/blacklist-nouveau.conf

   # 加入的内容：

   blacklist nouveau

   options nouveau modeset=0

   5.文件写入保存退出之后，执行以下命令使内核生效，并重启服务器

   dracut -f

   systemctl set-default multi-user.target

   reboot

   6.安装显卡驱动

   sudo chmod a+x NVIDIA-Linux-x86_64-460.106.00.run

   sudo ./NVIDIA-Linux-x86_64-460.106.00.run

   注：替换为你下载的run文件

   注：在安装过程中可能会显示一个问题，选择NO继续如果出现警告可以不用理会，直接接续。直到安装完成

   

   8.验证

   nvidai-smi

   出现上图，表示安装成功！！

   9. 将驱动模式设置为常住内存：

   vim /etc/rc.d/rc.local

   #添加如下内容

   nvidia-smi –pm 1

   赋予文件可执行权限并重启

   chmod +x /etc/rc.d/rc.local

   reboot

3. 安装cuda

   1.下载cuda,可以到官网下载

   ./cuda_11.2.0_460.27.04_linux.run

   注：cuda会帮忙安装显卡驱动，由于上一步我们已经安装了显卡驱动所以跳过。

   2.cuda配置

   # CUDA PATh

   export PATH=/usr/local/cuda-11.2/bin:$PATH

   export LD_LIBRARY_PATH=/usr/local/cuda-11.2/lib64:$LD_LIBRARY_PATH

   source /etc/profile

   3.cuda测试

   [root@localhost ~]# cuda 按两下tab

   cudafe++ cuda-gdbserver cuda-memcheck

   cuda-gdb cuda-install-samples-11.2.sh cuda-uninstaller

   [root@localhost ~]# nvcc --version

   nvcc: NVIDIA (R) Cuda compiler driver

   Copyright (c) 2005-2020 NVIDIA Corporation

   Built on Mon_Nov_30_19:08:53_PST_2020

   Cuda compilation tools, release 11.2, V11.2.67

   Build cuda_11.2.r11.2/compiler.29373293_0

4. 安装cuda可能出现bug

   由于centos7比较老旧，安装新版cuda可能会安装失败，那是因为gcc，g++不兼容的原因。

   根据上图选择gcc版本。

5. 配置运行chatglm

   学习实践ChatGLM-6B（部署+运行+微调）-CSDN博客