Die Transformer-Architektur ist ein modernes Modell, das Computerprogramme nutzen, um Sprache, Texte oder andere Daten besser zu verstehen und zu verarbeiten.
Früher verwendete man oft Methoden, die Informationen Schritt für Schritt verarbeiteten, ähnlich wie das Lesen eines Buches von vorne nach hinten.
Transformers funktionieren anders: Sie betrachten alle Teile eines Textes gleichzeitig und können so Zusammenhänge besser erkennen.
Das macht sie besonders gut darin, lange Texte zu verstehen, Fragen zu beantworten oder sogar neue Texte zu schreiben.
Viele bekannte Sprachmodelle, wie GPT oder BERT, basieren auf der Transformer-Architektur.