NICs, CPUs, SSDs: Performance optimieren für leistungshungrige Anwendungen

CPUs mit extrem vielen Kernen, 400G-Netzwerkkarten und SSDs sind inzwischen mit PCIe 5.0 verfügbar. Oft kommt es hier auf Kleinigkeiten an, die große Auswirkungen auf die Performance haben. Gerade KI-Anwendungen erfordern enorme Datenmengen und können durch diese Optimierungen sehr profitieren.

In meinem Vortrag gehe ich auf aktuelle und zukünftige Entwicklungen ein, zeige Vor- und Nachteile einzelner CPU-, Netzwerk und Speicherarchitekturen.

Beispiele gefällig:

• Kennen Sie die BIOS-Option "Preferred I/O" bei AMD Epyc 7002/7003?
  
• Warum ist SR-IOV bei Virtualisierungen eine gute Idee bei VMs mit hohen Netzwerkraten?
  
• Warum existieren für Netzwerk und Storage parallel zum Linux-Kernel eigene Treiber für Netwerk (DPDK) und NVMe-Speicher (SPDK), und wann sollte ich diese verwenden?

Vorkenntnisse

Grundlagen in Linux, Netzwerk und CPU- und Serveraufbau

Lernziele

Grundlegendes Verständnis von HW-Limitierungen moderner Server