作者：周兆靖

英特爾? 銳炫? 系列獨(dú)立顯卡已上市，有A770、A750等多款不同型號，定位不同應(yīng)用場景的高性能顯卡。除桌面端顯卡外，英特爾NUC系列產(chǎn)品也搭載了多款移動端獨(dú)立顯卡，有A550M、A730M、A770M等。

考慮到有部分用戶是初次體驗(yàn)英特爾的獨(dú)立顯卡，尤其是在Linux系統(tǒng)環(huán)境下對顯卡驅(qū)動的下載與安裝并不熟悉。本次我們就著重介紹如何在Linux系統(tǒng)環(huán)境下安裝英特爾顯卡的驅(qū)動，并且也測試了顯卡的AI推理性能。

顯卡驅(qū)動安裝教程?

英特爾? 銳炫? 系列獨(dú)立顯卡僅支持Linux系統(tǒng)環(huán)境下的Ubuntu 20.04與Ubuntu 22.04兩個版本，安裝前一定要確保當(dāng)前系統(tǒng)版本符合要求。本次教程使用A770（16GB）顯卡，在Ubuntu 20.04 LTS系統(tǒng)版本下安裝驅(qū)動。

驅(qū)動安裝前的準(zhǔn)備工作?

1、了解Resizable Base Address Register (RBAR) 功能

RBAR的中文名稱是可調(diào)整大小的基址寄存器，是一項(xiàng)標(biāo)準(zhǔn)化的PCI Express接口技術(shù)，在許多最新的CPU和主板平臺中能看見，被廣泛用于嵌入式系統(tǒng)中，通常與外設(shè)控制器相關(guān)聯(lián)。通過更改RBAR的值，可以動態(tài)更改內(nèi)存訪問地址，讓CPU能直接讀取或?qū)懭胪庠O(shè)的寄存器或緩沖區(qū)。

當(dāng)電腦運(yùn)行游戲時，GPU顯存（VRAM）借助CPU到 GPU之間的傳輸通道，不斷傳輸游戲內(nèi)紋理、著色器和幾何形狀等大量數(shù)據(jù)。通過RBAR幫助，系統(tǒng)可以按需請求資源并以整體方式傳輸，因此 CPU便能有效訪問整個幀緩存。以前CPU單次向 GPU存取的內(nèi)容被限制在 256 MB。而大型游戲引擎在傳統(tǒng)設(shè)計(jì)下，若數(shù)據(jù)超過256MB，便會頻繁在 CPU和GPU之間來回傳輸，導(dǎo)致整體運(yùn)算效率低，從而影響游戲幀數(shù)（FPS）。當(dāng)然，AI計(jì)算也是同理，頻繁拷貝數(shù)據(jù)勢必會浪費(fèi)計(jì)算資源與帶寬。有了RBAR技術(shù)，CPU可以完全存取整個GPU顯存 （VRAM），不通過共享內(nèi)存作為緩沖區(qū)進(jìn)行協(xié)作，減少與GPU溝通次數(shù)，極大提高了CPU和GPU之間的運(yùn)算效率。

同等硬件條件下，開啟與關(guān)閉RBAR功能得到的推理性能如下：

CPU：i7-11700T

dGPU：A770（16GB）

Memory: 32GB

系統(tǒng)版本：Ubuntu 20.04 LTS

測試軟件：benchmark_app from OpenVINO? Toolkit

模型地址：

https://github.com/openvinotoolkit/openvino_notebooks/tree/main/notebooks/001-hello-world/model

2、檢查系統(tǒng)配置并開啟RBAR功能

lspci -v |grep -A8 VGA

以上信息中黃色方塊內(nèi)代表當(dāng)前PCIe通道內(nèi)存的存取內(nèi)容體積大小。可以看到圖中size=16G，表明CPU向GPU可訪問數(shù)據(jù)的最大值為16G，等同于當(dāng)前顯卡的16GB顯存，證明主板BIOS中的RBAR功能已開啟。若RBAR功能沒開啟，一般情況下顯示為size=256MB。解決辦法是去主板BIOS中開啟RBAR功能。

本次演示的主板型號是技嘉Z590，BIOS版本為F7，BIOS日期為11/03/2021，BIOS ID為BARKL012。電腦開機(jī)按DEL鍵進(jìn)入主板BIOS界面：

點(diǎn)擊setting選項(xiàng)進(jìn)入設(shè)置頁面：

點(diǎn)擊IO Ports選項(xiàng)：

點(diǎn)擊Above 4G Decoding選項(xiàng)，將其設(shè)置為Enable選項(xiàng)激活狀態(tài)：

這時Above 4G Decoding選項(xiàng)下方會出現(xiàn)Re-Size BAR Support選項(xiàng)，將其設(shè)置為Auto選項(xiàng)，即可激活RBAR功能。

保存BIOS設(shè)置并重啟電腦：

進(jìn)入Linux系統(tǒng)桌面使用lspci命令再次驗(yàn)證Memory那行的Size數(shù)值是否等于當(dāng)前顯卡的顯存容量。由于市售主板型號眾多且不同品牌的BIOS界面會有不同，請?jiān)诎惭b銳炫? 獨(dú)立顯卡后根據(jù)各型號主板BIOS操作手冊開啟RBAR功能。

備注：RBAR功能目前只支持大多數(shù)第十代英特爾? 酷睿? 以及十代以后的CPU平臺。

通過Ubuntu終端安裝

英特爾? 銳炫? 系列獨(dú)立顯卡驅(qū)動?

1、安裝gpg-agent和wget

首先確保系統(tǒng)已安裝gpg-agent和wget，然后會下載并安裝用于驗(yàn)證軟件包倉庫完整性的公鑰。在apt下載庫中添加英特爾? 顯卡驅(qū)動下載庫，這樣可以在安裝顯卡時從英特爾資源庫中拉取相應(yīng)驅(qū)動資源。最后將repositories.intel.com/graphics 庫添加至當(dāng)前系統(tǒng)中。

sudo apt-get install -y gpg-agent wget wget -qO - https://repositories.intel.com/graphics/intel-graphics.key | \ sudo gpg --dearmor --output /usr/share/keyrings/intel-graphics.gpg echo 'deb [arch=amd64 signed-by=/usr/share/keyrings/intel-graphics.gpg] https://repositories.intel.com/graphics/ubuntu focal-devel main'sudo tee /etc/apt/sources.list.d/intel.gpu.focal.list

向右滑動查看完整代碼

2、安裝特定版本的Linux OEM kernel

Dynamic Kernel Module Support（DKMS）指一種用于在Linux系統(tǒng)中管理動態(tài)內(nèi)核模塊的框架。它允許第三方驅(qū)動程序開發(fā)人員將自己的驅(qū)動程序打包成DKMS格式，并與Linux內(nèi)核進(jìn)行集成。

使用DKMS，當(dāng)系統(tǒng)升級到新版本內(nèi)核時，所有已安裝的第三方驅(qū)動程序都會自動重新構(gòu)建和安裝，從而保持與新內(nèi)核的兼容性。避免手動重新編譯和安裝驅(qū)動程序的繁瑣過程，簡化Linux系統(tǒng)中動態(tài)內(nèi)核模塊的管理和部署過程，提高系統(tǒng)穩(wěn)定性和可靠性。

當(dāng)前DKMS僅支持Linux 5.14.0-1047 oem kernel，通過以下命令安裝Linux 5.14.0-1047 oem kernel：

sudo apt-get install linux-image-5.14.0-1047-oem

安裝完成后，使用命令更改GRUB設(shè)置為默認(rèn)載入oem kernel：

sudo sed -i "s/GRUB_DEFAULT=.*/GRUB_DEFAULT=\"1> $(echo $(($(awk -F\' '/menuentry / {print $2}' /boot/grub/grub.cfg \| grep -no '5.14.0-1047' | sed 's/:/\n/g' | head -n 1)-2)))\"/"/etc/default/grubsudo sed -i "s/GRUB_CMDLINE_LINUX_DEFAULT=.*/GRUB_CMDLINE_LINUX_DEFAULT=\"$(echo $(awk -F'="' '$1== "GRUB_CMDLINE_LINUX_DEFAULT" {print $2}'\/etc/default/grub | tr -d 'pci=realloc=off\"/" /etc/default/grub

向右滑動查看完整代碼

重啟計(jì)算機(jī)，使kerne生效：

sudo reboot

使用以下命令來獲取當(dāng)前kernel信息，確保kernel已被更改為Linux 5.14.0-1047 oem kernel：

uname -r

若成功安裝Linux 5.14.0-1047 oem kernel，應(yīng)收到的返回信息：

注意：如果你在BIOS中設(shè)置了安全啟動，會在重啟時收到提示，請選擇Enroll MOK選項(xiàng)來使新kernel發(fā)揮作用。

可選項(xiàng)：若舊kernel不需要同時被編譯，可以選擇將其卸載：

sudo apt-get remove (previous kernel’s name)

3、安裝DKMS模塊

安裝獨(dú)立顯卡特定的DKMS模塊使驅(qū)動生效：

sudo apt-get ｕｐｄａｔｅ sudo apt-get install gawk sudo apt-get installdkmslinux-headers-$(uname -r)libc-dev sudo apt-get install intel-i915-dkms intel-platform-cse-dkms pmt

4、安裝run-time組件

使用apt-get命令安裝一些使用英特爾? 獨(dú)立顯卡進(jìn)行渲染、編解碼、運(yùn)算等操作所需的必要組件：

sudo apt-get install intel-opencl-icd intel-level-zero-gpu level-zero \intel-media-va-driver-non-free libmfx1 libmfxgen1 libvpl2 \libegl-mesa0 libegl1-mesa libegl1-mesa-dev libgbm1 libgl1-mesa-dev libgl1-mesa-dri \ libglapi-mesa libgles2-mesa-dev libglx-mesa0 libigdgmm11 libxatracker2 mesa-va-drivers \mesa-vdpau-drivers mesa-vulkan-drivers va-driver-all

向右滑動查看完整代碼

重啟生效：

sudo reboot

5、將user添加至render組中，以獲取訪問獨(dú)立顯卡的權(quán)限

查看當(dāng)前所有顯卡驅(qū)動所屬組的名稱：

stat -c "%G" /dev/dri/render*

你將會收到：

使用以下命令查看當(dāng)前用戶所在組的詳情：

groups ${USER}

若返回信息中沒有render組，需要將當(dāng)前user添加render組的權(quán)限，使用以下命令：

sudo gpasswd -a ${USER} render

激活組的更改：

newgrp render

6、驗(yàn)證驅(qū)動成功安裝

若以上六步全部完成，請使用以下命令驗(yàn)證驅(qū)動是否正確安裝：

sudo apt-get install hwinfo

hwinfo --display

若正確安裝，你將會收到如圖所示信息：

安裝步驟細(xì)節(jié)與文字較多，大家也可以參考官方驅(qū)動安裝手冊。若有開發(fā)者使用的OS版本為Ubuntu 2022.04 LTS，也可以在官方手冊中找到該系統(tǒng)下獨(dú)立顯卡驅(qū)動安裝步驟指引。安裝手冊參考：

https://dgpu-docs.intel.com/installation-guides/index.html

同時使用獨(dú)立顯卡（discrete GPU）

和集成顯卡（integrated GPU）?

一般情況下，當(dāng)插入dGPU之后，一些品牌主板會自動屏蔽iGPU的渲染和計(jì)算功能，此時需要重啟進(jìn)入主板BIOS界面，將使用iGPU的運(yùn)行開關(guān)打開。以技嘉Z590主板BIOS為例，展示如何通過修改BIOS設(shè)置讓iGPU設(shè)備可用。

1、通過BIOS 激活系統(tǒng)中的集成顯卡

進(jìn)入BIOS界面，點(diǎn)擊Setting選項(xiàng)頁面：

點(diǎn)擊IO Ports選項(xiàng)：

找到Internal Graphics選項(xiàng)并設(shè)置為Enable選項(xiàng)：

保存BIOS更改并重啟，完成iGPU激活流程。

2、檢查系統(tǒng)中顯卡硬件是否可用

在BIOS中完成iGPU的激活后進(jìn)入系統(tǒng)，使用以下命令檢查顯卡硬件信息：

hwinfo --display

如果看到信息如圖所示，說明iGPU和 dGPU都可以正常工作：

成功安裝銳炫? 獨(dú)立顯卡的驅(qū)動后，選擇使用dGPU進(jìn)行圖像渲染顯示輸出，需要將顯示器的數(shù)據(jù)線接在dGPU的輸出接口中。此時，深度學(xué)習(xí)計(jì)算可以選擇使用dGPU、iGPU單獨(dú)進(jìn)行計(jì)算或dGPU與 iGPU同時參與計(jì)算。

若是把顯示器的數(shù)據(jù)線插在主板的顯示輸出接口中，此時iGPU負(fù)責(zé)圖像渲染顯示輸出。可以單獨(dú)選擇使用iGPU或者dGPU進(jìn)行深度學(xué)習(xí)計(jì)算，當(dāng)然也可以同時使用iGPU和dGPU進(jìn)行深度學(xué)習(xí)計(jì)算。

安裝OpenVINO? 并測試

銳炫? 系列獨(dú)立顯卡的推理性能?

OpenVINO? 是英特爾發(fā)布的一款開源且商用免費(fèi)的工具套件。主要應(yīng)用于計(jì)算機(jī)視覺、實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型優(yōu)化和推理計(jì)算加速。該工具可以幫助開發(fā)者在英特爾的推理硬件上（CPU、dPGU、iGPU）快速部署 AI應(yīng)用程序和解決方案。

了解更多：

https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/overview.html

本次以銳炫? 系列A770（16GB）顯卡為例，在Ubuntu 20.04 LTS系統(tǒng)下進(jìn)行OpenVINO? 工具套件安裝和獨(dú)立顯卡的推理性能測試：

1：創(chuàng)建虛擬運(yùn)行環(huán)境

python -m venv openvino_env

2：激活OpenVINO? 工作環(huán)境

. openvino_env\scripts\activate

3：升級pip版本

python -m pip install --upgrade pip

4：下載OpenVINO? 開發(fā)工具套件

5：下載OpenVINO? 示例代碼集

git clone

https://github.com/openvinotoolkit/openvino.git

6：查看本地支持OpenVINO? 的推理硬件列表：

python3 /openvino/samples/python/hello_query_device.py

iGPU

dGPU

將模型下載至當(dāng)前文件夾中，使用OpenVINO? 提供的模型性能評估工具（benchmark_app）運(yùn)行模型推理，部署至A770獨(dú)立顯卡中進(jìn)行性能測試。

測試命令如下：

模型地址：

https://github.com/openvinotoolkit/openvino_notebooks/tree/main/notebooks/001-hello-world/model

OpenVINO? 工具套件可以通過不同的插件（Plugin）來調(diào)用當(dāng)前系統(tǒng)下的推理硬件。比如：CPU、dGPU和iGPU，進(jìn)行硬件推理的性能測試。以及MULTI插件可以協(xié)同調(diào)用任意多個推理硬件同時推理，AUTO插件可以自動選擇當(dāng)前系統(tǒng)下最優(yōu)硬件進(jìn)行推理。當(dāng)前系統(tǒng)下，各推理硬件推理性能的測試如下圖所示：

• Ubuntu 20.04 LTS i7-11700T with A770(16GB)
• Command: benchmark_app –m “yolov7-tiny.xml” –d

總結(jié)

相比可以直接使用驅(qū)動安裝包的Windows系統(tǒng)，Linux系統(tǒng)在dGPU 的驅(qū)動安裝上會稍微復(fù)雜一些。用戶插入dGPU之后，可以根據(jù)本文在Ubuntu系統(tǒng)下安裝所需要的驅(qū)動。驅(qū)動安裝完成后，按照本文步驟方法，檢查驅(qū)動是否已正確安裝并啟用。完成安裝后，dGPU才能進(jìn)行高分辨率圖像渲染輸出，同時也可以使用dGPU進(jìn)行編解碼，AI 模型的訓(xùn)練與推理，以及OpenVINO? 的應(yīng)用部署等一系列操作。

從OpenVINO? 提供的性能測試工具得到的數(shù)據(jù)來看， dGPU（A770）的AI推理性能相較于Tiger-Lake的CPU強(qiáng)勁非常多，并且dGPU與其他推理硬件，例如iGPU、CPU的協(xié)同推理都十分易于實(shí)現(xiàn)且穩(wěn)定。在MULTI插件幫助下，協(xié)同CPU與dGPU能夠獲得相較于單獨(dú)使用某一設(shè)備更好的推理性能數(shù)據(jù)，并且部署至多設(shè)備協(xié)同推理時十分易用。AUTO插件也可以快速選擇到當(dāng)前系統(tǒng)中的最優(yōu)硬件進(jìn)行推理。開發(fā)者可以將前期基于OpenVINO? 在CPU或iGPU開發(fā)的AI應(yīng)用快速遷移至dGPU中實(shí)現(xiàn)，推薦開發(fā)者嘗試聯(lián)合推理硬件進(jìn)行AI推理以獲得更強(qiáng)性能。

注：文中涉及的其它名稱及商標(biāo)屬于各自所有者資產(chǎn)。