TPU

Eine TPU (Tensor Processing Unit) ist ein von Google entwickelter Spezialprozessor, der speziell für die Beschleunigung von Machine-Learning-Workloads optimiert ist. TPUs sind auf Matrizenmultiplikationen ausgerichtet, die das Rückgrat neuronaler Netzwerke bilden. Erstmals 2016 vorgestellt.

TPU vs. GPU: TPUs sind spezifisch für KI (TensorFlow-optimiert), GPUs sind vielseitiger (auch Gaming, 3D). TPUs können bei spezifischen KI-Workloads schneller und energieeffizienter sein. TPUs werden über Google Cloud als Cloud-Service angeboten.

Anwendungsgebiete: Training großer Sprachmodelle (Transformer), Bilderkennung, Echtzeit-KI-Anwendungen. Neben Googles TPUs gibt es ähnliche spezialisierte KI-Chips von anderen Herstellern (z. B. Cerebras, SambaNova), die das wachsende Segment der KI-Acceleratoren bilden.