True ML Talks #20 – Transformer, Embeddings und LLMs – ML Scientist bei Turnitin

Wir sind zurück mit einer neuen Folge von True ML Talks. Diesmal tauchen wir tief in die zentralen Konzepte des faszinierenden Papers mit dem Titel Analyzing Transformer Dynamics as Movement through Embedding Spacehandelt.  Dieses Paper stellt eine neuartige Perspektive auf die Funktionsweise von Transformern vor und betont, dass diese einen Embedding-Raum erlernen und sich während des Inferenzprozesses darin bewegen. Wir sprechen mit Sumeet Singh

Sumeet ist Distinguished ML Scientist bei Turnitin und der Autor des Papers, das wir heute besprechen werden. Er verfügt zudem über einen fundierten Forschungshintergrund.

📌

Unsere Gespräche mit Sumeet decken folgende Aspekte ab:
- Verständnis der Transformer-Dynamik
- Entmystifizierung des Embedding-Raums in Transformer-Modellen
- Entschlüsselung der Mechanismen der Token-Vorhersage in Transformern
- Einzigartige Abstraktionen von Transformer-Layern
- Das Rätsel der sich wiederholenden Token
- Die irreführende Vorstellung vom Lernen in Transformer-Modellen
- Das Zusammenspiel von In-Context Learning, Few-Shot Learning und Fine-Tuning bei Transformern
- Navigation durch KI für allgemeine Zwecke: Modellwahl und praktische Erkenntnisse

Sehen Sie sich die vollständige Folge hier an:

Verständnis der Transformer-Dynamik: Ein tiefer Einblick in den Embedding-Raum

Im Bereich der KI und der natürlichen Sprachverarbeitung ist das Transformer-Modell das Maß aller Dinge für die Textverarbeitung und -generierung. Doch was verbirgt sich hinter dieser beeindruckenden Architektur? Das bahnbrechende Paper „Analyzing Transformer Dynamics as Movement to Embedding Space“ lüftet die Geheimnisse der internen Abläufe von Transformern.

‍

Analyzing Transformer Dynamics as Movement through Embedding Space

Transformer language models exhibit intelligent behaviors such asunderstanding natural language, recognizing patterns, acquiring knowledge,reasoning, planning, reflecting and using tools. This paper explores how theirunderlying mechanics give rise to intelligent behaviors. We adopt a systemsappr…

arXiv.org Sumeet S. Singh

Diese Forschungsarbeit begann bei der Entwicklung eines Modells zur automatischen Bewertung von Kurzantworten, das eine beeindruckende Genauigkeit von 80 % über verschiedene Fachgebiete hinweg erreichte, jedoch ohne klare Erkenntnisse über die zugrunde liegenden Mechanismen. Um das Verhalten des Transformers zu verstehen, ging die Studie in die Tiefe und untersuchte zunächst Attention-Attribution und Gewichtungsanalysen, lieferte jedoch nur begrenzte Einblicke und ließ die Forscher ratlos zurück.

1. Ein Paradigmenwechsel: Betrachtung von Transformern im Embedding-Raum

Der Wendepunkt in dieser Forschung war die Erkenntnis, dass der Transformer als eine Reihe von Operatoren in einem Einbettungsraum betrachtet werden kann. Dieser Raum, der einer dreidimensionalen Landschaft gleicht, leitet die Vorhersagen des Transformers. Anstatt nach Aufmerksamkeitsmustern zu suchen, verlagerte sich die Perspektive darauf, den Transformer als einen Fluss zu sehen, der durch Täler und Schluchten fließt und den Pfaden der geringsten Entropie folgt.

2. Der feste Einbettungsraum

Sobald das Modell trainiert ist, bleibt der Einbettungsraum unverändert. Bei der Eingabe derselben Sequenz erzeugt es konsistent identische Einbettungen. Diese Einbettungen sind entscheidend für die Vorhersage des nächsten Tokens, da sie die Wahrscheinlichkeiten bestimmen, die jedem Token in der Sequenz zugewiesen werden.

3. Winkelabstand und Token-Vorhersage

Die Forschung ergab, dass sich der Einbettungsraum dank der Layer-Normalisierung in einem begrenzten Raum organisiert, der einer Kugel ähnelt. Die Token-Vorhersagen des Modells hängen stark vom Winkelabstand zwischen dem aggregierten Einbettungsvektor und den einzelnen Token-Einbettungen ab.

4. Dekodierungspfad vs. Enkodierungspfad

Zwei unterschiedliche Pfade bestimmen das Verhalten des Transformers: der Dekodierungspfad, der die stochastische Dekodierung und das Token-Sampling steuert, und der Enkodierungspfad, ein deterministischer Prozess, der basierend auf der Ähnlichkeit von Token-Vektoren weiche Cluster bildet. Der Enkodierungspfad ist ein Schlüsselfaktor bei der Umwandlung einer Sequenz von Token-Vektoren in einen einzelnen aggregierten Einbettungsvektor.

5. Abstraktionsebene in Transformern

Im Gegensatz zu herkömmlichen neuronalen Netzen, bei denen untere Schichten auf niedrigeren Abstraktionsebenen arbeiten, behalten Transformer über alle Schichten hinweg eine konsistente Abstraktionsebene bei. Dies zeigt sich in den gemeinsam genutzten Eingabe- und Ausgabe-Einbettungsmatrizen, was die einzigartige Natur der Transformer-Architektur unterstreicht.

Entmystifizierung des Einbettungsraums in Transformer-Modellen

Um das Konzept des Einbettungsraums zu verstehen, müssen wir ihn zunächst als den Vektorraum der Größe d_modelerkennen – die verborgene Größe des Transformers. Einfacher ausgedrückt: d_model repräsentiert die Dimensionalität dieses Raums. Bei GPT-Modellen kann diese Dimension beispielsweise beträchtlich sein und bis zu 12.000 erreichen.

Was man unbedingt verstehen muss, ist, dass jeder Vektor, der aus jeder Schicht des Transformer-Modells hervorgeht, in diesem Einbettungsraum liegt. Dies umfasst nicht nur die Eingabe-Token-Vektoren, sondern auch alle Vektoren, die beim Durchlaufen der Schichten bis ganz nach oben generiert werden – was schließlich im Kontextvektor gipfelt.

Es ist wichtig klarzustellen, dass die Größe des Einbettungsraums nicht durch die Anzahl der Parameter im Modell oder die Repräsentation der obersten Schicht bestimmt wird. Stattdessen wird sie ausschließlich durch den Wert von d_modeldefiniert. Diese wichtige Unterscheidung stellt sicher, dass wir ein klares Verständnis davon haben, was den Einbettungsraum in Transformer-Modellen ausmacht.

Entschlüsselung der Mechanismen der Token-Vorhersage in Transformern

Auf unserer Suche nach dem Verständnis der inneren Funktionsweise von Transformern sind wir nun an einem entscheidenden Punkt angelangt: den Mechanismen der Token-Vorhersage. Sumeet beleuchtet mit seiner aufschlussreichen Perspektive die komplexen Prozesse, die bestimmen, wie Transformer Textsequenzen generieren und intelligente Vorhersagen treffen.

1. Die Rolle des Sprachmodellierungs-Heads:

Im Kern ist dieser Sprachmodellierungs-Head eine Matrix – eine Matrix mit den Dimensionen d_modeldurchV, wobei V die Größe Ihrer Einbettungen darstellt, die je nach Tokenisierungsschema beträchtlich sein kann. Diese Matrix spielt eine entscheidende Rolle bei der Abbildung von Kontextvektoren auf Token-Wahrscheinlichkeiten.

2. Die Magie der Skalarprodukte:

Das Wesen der Token-Vorhersage liegt im Skalarprodukt – einer Ähnlichkeitsmetrik, die die Entscheidungsfindung des Transformers steuert. Wenn der aus der letzten Schicht des Decoders abgeleitete Kontextvektor eine Matrixmultiplikation mit dem Sprachmodellierungs-Head durchläuft, ergibt dies einen Vektor von Wahrscheinlichkeiten. Diese Wahrscheinlichkeitsverteilung bestimmt die Wahrscheinlichkeit jedes Tokens in der Sequenz.

3. Abbildung von Sequenzen in die Nachbarschaft

Betrachten wir nun das tiefgreifende Konzept, eine Sequenz in die Nachbarschaft eines Tokens abzubilden. Das Ziel ist es, eine Sequenz von Token, von W_1aufW_t, in die Nähe von W_t+1zu transformieren. Dieser Prozess gleicht dem Navigieren auf einem Pfad, der für menschliche Beobachter intelligent erscheint.

4. Die intelligente Maschine

Im Zentrum dieser Transformation steht die Schaffung einer intelligenten Maschine – einer Maschine, die eine Sequenz nimmt und sie geschickt in die Nachbarschaft des nächsten Tokens abbildet. Die Intelligenz liegt in der Subtilität und Kohärenz des Pfades, da jeder Schritt auf diesem Weg hinsichtlich seines Intelligenzgrades bewertet wird.

5. Die Rolle von Positionskodierungen

Im Gegensatz zu Convolutional Neural Networks (CNNs) verwenden Transformer keine Mustererkennungs-Kernel. Es gibt jedoch ein faszinierendes Element, das als relative Positionskodierung innerhalb der Attention-Layer bekannt ist. Diese statischen Kodierungen beeinflussen die Aggregationsgewichte und helfen, einem Self-Bias entgegenzuwirken.

6. Negativer Self-Bias

Das Verständnis von Self-Bias ist entscheidend. Ohne Positionskodierungen würde ein Kontextvektor dazu neigen, Vektoren anzuziehen, die ihm ähnlich sind, was zu repetitiven Vorhersagen führen würde. Positionskodierungen führen einen negativen Self-Bias ein, der die Affinität des Kontextvektors zu sich selbst unterdrückt und die Vielfalt der Vorhersagen fördert.

7. Positions-Kernel

Bei näherer Betrachtung zeigt sich, dass Positions-Kernels, wie im Paper dargelegt, die Selbst-Bias-Tendenz formen. Sie verzerren die Aggregationsgewichte und beeinflussen so, welche Positionen bevorzugt werden und welche nicht.

Hier ist ein wirklich hervorragender Blog, der die Transformer-Architektur Schritt für Schritt erklärt:

‍

The Illustrated Transformer

Discussions:Hacker News (65 points, 4 comments), Reddit r/MachineLearning (29 points, 3 comments) Translations: Arabic, Chinese (Simplified) 1, Chinese (Simplified) 2, French 1, French 2, Italian, Japanese, Korean, Persian, Russian, Spanish 1, Spanish 2, Vietnamese Watch: MIT’s Deep Learning Sta…

GitHub

‍

Einzigartige Abstraktionen von Transformer-Layern

Wenn wir tiefer in die faszinierende Welt der Transformer-Modelle eintauchen, offenbart sich eine spannende Erkenntnis, die Transformer von herkömmlichen neuronalen Netzen wie CNNs unterscheidet. Die Frage ist: Warum arbeiten Transformer anders und wie lässt sich das Konzept der Layer-für-Layer-Embeddings verstehen?

Unterschiede zwischen Transformern und CNNs:

• Transformer funktionieren anders als CNNs. In CNNs erfassen die unteren Schichten typischerweise einfachere Merkmale wie Kanten, während die höheren Schichten komplexere Repräsentationen aufbauen.
• Im Gegensatz dazu arbeiten Transformer über alle Schichten hinweg im selben abstrakten Raum, ohne eine klare Abstraktionshierarchie wie bei CNNs.

Den Residual Stream verstehen:

• Dass Transformer ihren abstrakten Raum einheitlich beibehalten, liegt teilweise am sogenannten Residual Stream.
• In einem Transformer-Layer (z. B. im Encoder) gibt es einen Input, gefolgt von einer Attention-Schicht. Eine Residual-Verbindung addiert den Output der Attention-Schicht wieder zum Input hinzu.
• Ähnlich verhält es sich bei der Feed-Forward-Schicht: Hier werden Transformationen angewendet und eine weitere Abkürzung addiert den Output wieder zum Input.
• Diese konsistente Addition von Input und Output in jeder Schicht stellt sicher, dass die Dimensionen ihre Bedeutung behalten, wodurch ein einheitlicher abstrakter Raum entsteht.

Das mentale Modell der Layer-für-Layer-Verarbeitung:

• Um dieses Phänomen zu veranschaulichen, wird das Konzept der „Layer-für-Layer-Embeddings“ eingeführt.
• Während CNNs auf einer hierarchischen Konstruktion von Abstraktionsschichten basieren, tragen bei Transformern alle Schichten zum selben abstrakten Raum bei.
• Transformer stellen das traditionelle Verständnis neuronaler Netze infrage, indem sie ein Netzwerk aus Schichten präsentieren, die auf eine einheitlichere Weise zusammenarbeiten.

Das Rätsel der sich wiederholenden Tokens: Kleine vs. große Transformer-Modelle

In der Welt der Transformer ist es eine faszinierende Beobachtung, dass kleinere Modelle dazu neigen, Tokens zu wiederholen, während größere Modelle abwechslungsreichere Ausgaben erzeugen. Sumeet untersucht dieses Phänomen, auch wenn es noch keine klare theoretische Erklärung dafür gibt.

• Kleinere Modelle: Kleinere Transformer neigen bei der Textgenerierung häufig zu Wortwiederholungen, was einen interessanten Zusammenhang zwischen Modellgröße und Ausgabequalität verdeutlicht.
• Reichhaltigerer Einbettungsraum: Ein wesentlicher Faktor für den Unterschied zwischen kleinen und großen Modellen ist die Reichhaltigkeit des Einbettungsraums. Größere Modelle verfügen über einen umfangreicheren, nuancierteren Merkmalsraum für die Verarbeitung komplexer Informationen.
• Mehr Parameter für eine granulare Verarbeitung: Größere Modelle verfügen über mehr Schichten und Parameter, insbesondere in den Feedforward-Schichten. Dies verbessert ihre Fähigkeit, Informationen auf komplexe Weise zu verarbeiten.
• Dekodierungsstrategien: Token-Wiederholungen können durch die Wahl der richtigen Dekodierungsstrategie gemindert werden. Greedy-Dekodierung und Beam-Search neigen eher zu Wiederholungen, während Techniken wie Top-K- oder Top-P-Sampling vielfältigere Ergebnisse liefern.
• Wiederholte Sätze: Selbst bei größeren Modellen kommt es gelegentlich zu Satzwiederholungen, was die Komplexität der Textgenerierung innerhalb von Transformern verdeutlicht.

Die irreführende Vorstellung vom Lernen in Transformer-Modellen

Im Bereich der Transformer-Modelle stellt sich eine entscheidende Frage: Findet in diesen Modellen tatsächlich ein echtes In-Context-Learning statt, oder ist dies eher ein geschickt formuliertes Konzept? Das Forschungspapier stellt herkömmliche Vorstellungen vom Lernen innerhalb von Transformern infrage und enthüllt die zugrunde liegenden Mechanismen.

Traditionelles Lernen beinhaltet die Anpassung von Gewichten und Parametern, um die Anpassungsfähigkeit und Reaktion eines Modells auf neue Daten zu erleichtern. Dieses herkömmliche Verständnis lässt sich jedoch nicht auf Transformer-Modelle übertragen. Das Kernproblem liegt in ihrem festen Einbettungsraum und den vordefinierten Pfaden.

Im Grunde genommen findet bei diesen Modellen kein Lernen im traditionellen Sinne statt. Der Einbettungsraum bleibt statisch und die Pfade sind zwar vielfältig, aber vorbestimmt. Während der Inferenz findet keine Anpassung oder Modifikation der Modellgewichte statt. Stattdessen navigieren diese Modelle durch eine Landschaft von Möglichkeiten, wobei jedes fehlende Element als einzigartiger Ausgangspunkt dient.

Die Forschung befasst sich auch mit der anhaltenden Debatte über die Intelligenz- und Denkfähigkeiten dieser Modelle. Einige argumentieren, dass ihnen die Mechanismen für echtes logisches Denken fehlen und sie sich stattdessen auf Vorhersagen basierend auf gespeicherten Daten verlassen, anstatt auf echtes Verständnis.

Darüber hinaus befasst sich das Papier mit dem Denoising-Prozess, einer grundlegenden Operation, die diesen Modellen gemeinsam ist. Wenn Token zufällig ausgeblendet werden, bleibt das Kontextnetz intakt, unabhängig von der Position des leeren Tokens. Das Modell konsolidiert diesen dualen Kontext geschickt zu einem einzigen Kontextvektor und stellt so einen nahtlosen Betrieb sicher, unabhängig vom Ort der fehlenden Elemente.

Es findet kein Lernen statt. Ich meine, weil der Einbettungsraum fest ist. Alle Pfade sind fest. Alles, was man tut, ist auswählen und entscheiden. Also, was ist hier Lernen? Die Gewichte ändern sich nicht. Nichts! - Sumeet Singh

Das Zusammenspiel von In-Context-Learning, Few-Shot-Learning und Fine-Tuning bei Transformern

In dem beschriebenen Paradigma, in dem Transformer vordefinierte Pfade innerhalb eines festen Einbettungsraums navigieren, erhalten die Beziehungen zwischen "In-Context-Learning", "Few-Shot-Learning" und "Fine-Tuning" neue Perspektiven.

1. In-Context-Learning und Few-Shot-Learning

Innerhalb dieses Paradigmas verschmelzen In-Context-Learning und Few-Shot-Learning zu einem gemeinsamen Konzept. Ob es sich um einen Gesprächsverlauf oder eine Reihe von Beispielen handelt, beides läuft auf kontextuelle Sequenzen hinaus. Wenn ein Transformer-Modell auf einen neuartigen Kontext trifft, wählt es basierend auf diesem Kontext einen Pfad durch den Einbettungsraum aus. Dieser Pfadauswahlprozess, der durch den Kontext diktiert wird, bestimmt die Ausgabe des Modells. Daher beinhalten sowohl In-Context-Learning als auch Few-Shot-Learning, dass sich das Modell an einen bereitgestellten Kontext anpasst und kontextuell relevante Antworten oder Ausgaben generiert.

2. Fine-Tuning als Pfadmodifikation

Supervised Fine-Tuning stellt im Kontext von Transformern einen Prozess dar, bei dem die vordefinierten Pfade innerhalb des Einbettungsraums verändert werden. Während des Fine-Tunings werden zusätzliche Daten und spezifische Ziele eingeführt, die die interne Geografie des Modells neu formen. Während der grundlegende Mechanismus – die Pfadauswahl – konsistent bleibt, wird die Landschaft der verfügbaren Pfade angepasst, um sie auf die gewünschte Fine-Tuning-Aufgabe auszurichten.

3. RLHF und Signalübertragung

Beim Reinforcement Learning from Human Feedback (RLHF) liegt der entscheidende Unterschied darin, wie sich das Verstärkungssignal ausbreitet. Während beim überwachten Fine-Tuning (Supervised Fine-Tuning) ein Cross-Entropy-Loss auf Token-Ebene zum Einsatz kommt, nutzt RLHF Signale eines Bewertungsmodells. Das Besondere an RLHF ist, dass sich das Verstärkungssignal über die gesamte Sequenz erstreckt und die Pfade des Modells umfassend beeinflusst. Sowohl RLHF als auch das überwachte Fine-Tuning verfolgen jedoch das gemeinsame Ziel, die Struktur der Wellenbewegungen im Embedding-Raum neu zu formen, um die Leistung für spezifische Aufgaben zu optimieren.

📌

Die Lücke schließen: Transformer-Modelle über verschiedene Modalitäten hinweg
Transformer-Modelle zeichnen sich durch eine bemerkenswerte Anpassungsfähigkeit an verschiedene Modalitäten aus. Sie lassen sich nahtlos von Text auf Bilder, Sprache und unterschiedlichste Datensätze übertragen.

Sequenzen weisen traditionell einen linearen Kontextfluss auf, doch beim Übergang zu Bildern wird das Konzept einer linearen Sequenz interessant. Modelle wie Bard lösen dies durch Denoising. Leere Token behalten unabhängig von ihrer Position ihren Kontext bei. Ob am Anfang, in der Mitte oder am Ende – es bildet sich ein Kontextnetz, das das Modell zu einem einzigen Kontextvektor zusammenführt und sich so nahtlos anpasst.

Allgemeine KI meistern: Modellauswahl und praktische Einblicke

• Wandel zur allgemeinen KI: Betrachten Sie Transformer als vielseitige Intelligenzmaschinen, um die Komplexität der Modelle zu vereinfachen.
• Modellvariationen sind zweitrangig: Ein tiefgreifendes Verständnis verringert die Bedeutung von Modellunterschieden und rückt die Leistung in der Praxis in den Vordergrund.
• Praktische Modellauswahl: Wählen Sie Modelle auf Basis der Evaluierung realer Aufgaben und priorisieren Sie dabei die Effizienz.
• Nutzung von Prompt Engineering: Passen Sie Eingaben für eine effektive Steuerung an, ohne sich in Modellfeinheiten zu verlieren.
• Kosteneffizientes Fine-Tuning: Kleinere Modelle für kosteneffiziente Leistung bei hohem Datenaufkommen.
• Kosten und Leistung in Einklang bringen: Entscheidende Faktoren für den effizienten Betrieb von feinabgestimmten Modellen in Szenarien mit hohem Verkehrsaufkommen.

Lesen Sie unsere früheren Beiträge in der True ML Talks-Reihe:

‍

True ML Talks #17 - ML Platforms @ Slack, LLMs and SlackGPT

In this blog, we dive deep into Slack’s Recommend API. Understand their ML architecture, and the LLM use cases in Slack. We go into SlackGPT.

TrueFoundry Blog TrueFoundry

‍

Verfolgen Sie weiterhin die TrueMLYouTube-Serie und das Lesen der TrueML Blogbeiträgehandelt.

TrueFoundryist eine ML-Deployment-PaaS auf Basis von Kubernetes, die Entwickler-Workflows beschleunigt und gleichzeitig volle Flexibilität beim Testen und Bereitstellen von Modellen bietet, während sie dem Infrastruktur-Team umfassende Sicherheit und Kontrolle gewährleistet. Über unsere Plattform ermöglichen wir Machine-Learning-Teams:bereitstellen und überwachenModelle in 15 Minuten mit 100% Zuverlässigkeit, Skalierbarkeit und der Möglichkeit, innerhalb von Sekunden ein Rollback durchzuführen – so sparen sie Kosten, bringen Modelle schneller in die Produktion und erzielen echten geschäftlichen Mehrwert.