Ako nainštalovať TensorFlow s NVIDIA CUDA/cuDNN Acceleration na Debian 12

Ako Nainstalovat Tensorflow S Nvidia Cuda Cudnn Acceleration Na Debian 12



TensorFlow je knižnica Pythonu pre umelú inteligenciu a strojové učenie. TensorFlow možno použiť na trénovanie a vytváranie nových modelov AI, import existujúcich modelov AI, načítanie testovacích údajov a kontrolu výkonu modelov AI, ukladanie natrénovaných modelov AI atď.

TensorFlow môže používať CPU a GPU na výpočet komplexných výpočtov umelej inteligencie (AI) a strojového učenia (ML). TensorFlow môže na zrýchlenie programov AI/ML použiť akýkoľvek GPU NVIDIA s podporou CUDA. Ak nemáte GPU s podporou CUDA, TensorFlow použije CPU na kódy AI/ML. Bez akcelerácie GPU sa výkon TensorFlow zníži v zložitých programoch AI/ML.

V tomto článku vám ukážeme, ako nainštalovať TensorFlow s akceleráciou NVIDIA CUDA/cuDNN na Debian 12 “Bookworm”.







Téma obsahu:

  1. Kontrola, či máte vo svojom počítači nainštalovaný grafický procesor NVIDIA
  2. Inštalácia Python 3 PIP a Python Venv na Debian 12
  3. Vytvorenie virtuálneho prostredia Python 3 pre TensorFlow
  4. Inovácia Python 3 PIP vo virtuálnom prostredí Python 3
  5. Inštalácia TensorFlow s podporou akcelerácie NVIDIA CUDA
  6. Inštalácia TensorRT na Debian 12
  7. Aktivácia virtuálneho prostredia TensorFlow Python 3
  8. Prístup k TensorFlow a kontrola, či je k dispozícii akcelerácia NVIDIA GPU/CUDA
  9. Záver

Kontrola, či máte vo svojom počítači nainštalovaný grafický procesor NVIDIA

Aby TensorFlow zrýchlil programy AI s NVIDIA GPU/CUDA, musíte mať Ovládače GPU NVIDIA a NVIDIA CUDA a cuDNN nainštalovaný na vašom operačnom systéme Debian 12.



Ak potrebujete pomoc pri inštalácii ovládačov GPU NVIDIA na váš operačný systém Debian 12, prečítajte si tento článok .



Ak potrebujete pomoc pri inštalácii ovládačov NVIDIA CUDA a cuDNN na váš operačný systém Debian 12, prečítajte si tento článok .





Po nainštalovaní ovládačov GPU NVIDIA na vašom systéme Debian 12 by mal byť k dispozícii príkaz „nvidia-smi“.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača



Moduly jadra NVIDIA by sa tiež mali načítať do vášho systému Debian 12.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Po nainštalovaní ovládačov NVIDIA CUDA by ste mali mať v systéme Debian 12 k dispozícii príkaz „nvcc“.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Inštalácia Python 3 PIP a Python Venv na Debian 12

Ak chcete nainštalovať TensorFlow na Debian 12, musíte mať nainštalovaný modul PIP Python 3 a virtuálne prostredie Python (venv).

Najprv aktualizujte vyrovnávaciu pamäť balíka APT pomocou nasledujúceho príkazu:

$ sudo apt update

  Automaticky vygenerovaná snímka obrazovky s popisom počítačového programu

Ak chcete nainštalovať Python 3 PIP a virtuálne prostredie Python 3 (venv), spustite nasledujúci príkaz:

$ sudo apt Inštalácia python3-pip python3-venv python3-dev

Na potvrdenie inštalácie stlačte „Y“ a potom stlačte .

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Inštaluje sa Python 3 PIP a Python 3 venv. Dokončenie chvíľu trvá.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

V tomto bode by mali byť nainštalované Python 3 PIP a Python 3 venv.

  Automaticky vygenerovaná snímka obrazovky s popisom počítačového programu

Vytvorenie virtuálneho prostredia Python 3 pre TensorFlow

Štandardnou praxou inštalácie knižníc Python na Debian 12 je ich inštalácia vo virtuálnom prostredí Pythonu, aby nezasahovali do systémových balíkov/knižníc Pythonu.

Ak chcete vytvoriť nové virtuálne prostredie Python 3 pre TensorFlow v adresári „/opt/tensorflow“, spustite nasledujúci príkaz:

$ sudo python3 -m venv / opt / tensorflow

Inovácia Python 3 PIP vo virtuálnom prostredí Python 3

Ak chcete inovovať Python 3 PIP na najnovšiu verziu vo virtuálnom prostredí Python 3 „/opt/tensorflow“, spustite nasledujúci príkaz:

$ sudo / opt / tensorflow / kôš / pip Inštalácia -- upgrade pip

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Inštalácia TensorFlow s podporou akcelerácie NVIDIA CUDA

Ak chcete nainštalovať TensorFlow s podporou akcelerácie NVIDIA CUDA vo virtuálnom prostredí Python „/opt/tensorflow“, spustite nasledujúci príkaz:

$ sudo / opt / tensorflow / kôš / pip Inštalácia tensorflow [ a-cuda ]

Inštaluje sa TensorFlow s akceleráciou NVIDIA CUDA. Dokončenie chvíľu trvá.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

V tomto bode by mal byť nainštalovaný TensorFlow s podporou akcelerácie NVIDIA CUDA.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Inštalácia TensorRT na Debian 12

NVIDIA TensorRT ešte viac optimalizuje výkon hlbokého učenia TensorFlow. TensorRT môžete nainštalovať do virtuálneho prostredia TensorFlow Python „/opt/tensorflow“ pomocou nasledujúceho príkazu:

$ sudo / opt / tensorflow / kôš / pip Inštalácia tensorrt

NVIDIA TensorRT sa inštaluje do virtuálneho prostredia Python. Dokončenie chvíľu trvá.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

V tomto bode by mala byť nainštalovaná NVIDIA TensorRT.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Aktivácia virtuálneho prostredia TensorFlow Python 3

Ak chcete aktivovať virtuálne prostredie TensorFlow Python „/opt/tensorflow“, spustite nasledujúci príkaz:

$ . / opt / tensorflow / kôš / Aktivovať

Virtuálne prostredie TensorFlow Python 3 by malo byť aktivované.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Prístup k TensorFlow a kontrola, či je k dispozícii akcelerácia NVIDIA GPU/CUDA

Ak chcete otvoriť interaktívny shell Python 3, spustite nasledujúci príkaz:

$ python3

Interaktívny shell Pythonu 3 by sa mal otvoriť.

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Najprv importujte TensorFlow s nasledujúcim riadkom kódu:

$ importovať tensorflow ako tf

Po importovaní TensorFlow môžete skontrolovať číslo verzie TensorFlow, ktorú ste nainštalovali, pomocou nasledujúceho riadku kódu. Ako vidíte, na našom systéme Debian 12 máme nainštalovaný TensorFlow 2.13.1.

$ tf.__version__

Ak chcete overiť, že TensorFlow môže používať GPU NVIDIA, ktorý ste si nainštalovali do počítača na zrýchlenie CUDA, spustite nasledujúci riadok kódu. Ako môžete vidieť, náš GPU NVIDIA je dostupný z TensorFlow.

$ vytlačiť ( tf.config.list_physical_devices ( 'GPU' ) )

  Automaticky vygenerovaná snímka obrazovky s popisom počítača

Ak chcete ukončiť interaktívny shell Pythonu, spustite nasledujúci riadok kódu:

$ skončiť ( )

Záver

V tomto článku sme vám ukázali, ako nainštalovať virtuálne prostredie Python 3 PIP a Python 3 (venv) na Debian 12. Tiež sme vám ukázali, ako vytvoriť virtuálne prostredie Python 3 pre TensorFlow na Debian 12 a ako nainštalovať TensorFlow pomocou NVIDIA Podpora akcelerácie GPU/CUDA a NVIDIA TensorRT aj na Debiane 12. Nakoniec sme vám ukázali, ako aktivovať virtuálne prostredie TensorFlow Python a získať prístup k TensorFlow na Debian 12.