Was ist Prompt Engineering?

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Einführung
Ein Prompt ist wie eine klare Anweisung oder ein Satz von Anweisungen, die Sie einem Tool oder einer Person geben. Egal, ob es sich um ein Keyword handelt, das Sie in eine Suchmaschine eingeben, einen Befehl für ein Computerprogramm oder eine Frage, die Sie einem Freund stellen: Prompts helfen ihnen zu verstehen, wonach Sie suchen oder was sie tun sollen.
Prompt Engineering, die Kunst und Wissenschaft der Erstellung effektiver Prompts, gewinnt mit der zunehmenden Beliebtheit von Large Language Models (LLMs) immer mehr an Bedeutung, da es die Nutzung der vollen Leistungsfähigkeit von LLMs ermöglicht.
Dieser Artikel hilft Ihnen, Prompt Engineering im Kontext von Language Models zu meistern.
Prompts und LLMs
Beim Prompt Engineering nutzen Sie in der Regel eine API zur Interaktion mit dem LLM. Diese APIs bestehen aus einer Reihe von Hyperparametern, die angepasst werden können, um die gewünschten Ausgaben zu erzielen. In dieser Diskussion betrachten wir die Hugging Face Inference API (wie in der folgenden Abbildung dargestellt) und untersuchen die Bedeutung der einzelnen Parameter.
from huggingface_hub import InferenceClient
# HF Inference Endpoints parameter
endpoint_url = "https://YOUR_ENDPOINT.endpoints.huggingface.cloud"
hf_token = "hf_YOUR_TOKEN"
# Streaming Client
client = InferenceClient(endpoint_url, token=hf_token)
# Generation parameters
gen_kwargs = {
"max_new_tokens": 512,
"top_k": 50, # Adjusting top-k sampling parameter
"top_p": 0.8, # Adjusting nucleus sampling parameter
"temperature": 0.5, # Adjusting temperature for randomness
"repetition_penalty": 1.5, # Adjusting repetition penalty to avoid repetitive responses
"stop_sequences": ["\nUser:", "", "</s>"],
}
# Prompt
prompt = "What are the effects of climate change on"
# Text generation
stream = client.text_generation(prompt, stream=True, details=True, **gen_kwargs)
Wie oben erwähnt, können verschiedene Hyperparameter angepasst werden, um die Qualität und Diversität des generierten Textes zu beeinflussen. Werfen wir einen genaueren Blick auf die verschiedenen Hyperparameter, die in der Eigenschaft gen_kwards oben enthalten sind -
Hyperparameter
Temperature
Das ist vergleichbar mit dem Anpassen des Schärfegrades beim Kochen – eine höhere Temperature bedeutet mehr Zufälligkeit (wie das Hinzufügen von Gewürzen für mehr Geschmack), während eine niedrigere Temperature die Ergebnisse vorhersehbar hält (wie das strikte Befolgen eines Rezepts). Bei kreativen Schreibaufgaben wie dem Generieren von Poesie oder dem Brainstorming von Story-Ideen kann eine höhere Temperature-Einstellung beispielsweise zu diverserem und fantasievollerem Text führen.
Top_k
Stellen Sie sich vor, Sie schränken die Auswahl in einer Bibliothek auf die beliebtesten Bücher ein. Top_k wählt während der Textgenerierung die wahrscheinlichsten Tokens aus und verfeinert so die Ausgabe. Betrachten wir einen Kundenservice-Chatbot, der Nutzer bei häufigen Anfragen unterstützt: Durch das Festlegen eines top_k-Parameters kann der Chatbot Antworten basierend auf den relevantesten Informationen priorisieren und sicherstellen, dass die Nutzer genaue und hilfreiche Unterstützung erhalten, ohne von unnötigen Details überfordert zu werden.
Top_p
Top_p setzt eine Grenze für die berücksichtigten Tokens, indem Tokens ausgewählt werden, bis eine kumulative Wahrscheinlichkeit von p erreicht ist. Sowohl top_k als auch top_p werden verwendet, um Diversität und Qualität zu steuern.
Max_new_tokens
Das ist wie das Festlegen einer Wortgrenze für einen Essay. Max_new_tokens bestimmt, wie viel Text das Modell generieren kann, und hält ihn innerhalb einer angegebenen Länge. Wenn Sie beispielsweise Antworten für einen Chatbot generieren, stellt das Festlegen eines maximalen Token-Limits sicher, dass die Antworten prägnant und relevant für den Konversationskontext bleiben.
Repetition_penalty
Repetition_penalty hält das Modell davon ab, Tokens erneut zu verwenden, was die Diversität im generierten Text fördert. In einer Conversational-AI-Anwendung, wie einem virtuellen Assistenten, stellt die Einstellung einer repetition_penalty sicher, dass die Antworten des Assistenten bei längeren Interaktionen abwechslungsreich und natürlich bleiben.
Frequency Penalty
Frequency Penalty ermutigt das Modell, weniger gebräuchliche Tokens zu erkunden, was den Text einzigartiger macht. Angenommen, Sie entwickeln eine News-Aggregator-App, die Artikel aus verschiedenen Quellen zusammenfasst. Durch die Anwendung einer Frequency Penalty kann die App weniger bekannte Publikationen oder Nischenthemen priorisieren und den Nutzern eine vielfältige Palette an Perspektiven bieten.
Presence Penalty
Presence Penalty leitet das Modell an, Text zu generieren, der bestimmten Kriterien entspricht oder bestimmte Themen vermeidet, um Relevanz zu gewährleisten. In einem Content-Moderationssystem für Online-Foren hilft die Einstellung einer Presence Penalty dabei, unangemessene oder beleidigende Sprache herauszufiltern. Versucht ein Nutzer beispielsweise, diskriminierende Kommentare zu posten, würde die Presence Penalty das System anweisen, eine Warnmeldung zu generieren.
Allgemeine Tipps für das Schreiben besserer Prompts
Einfach beginnen
Sie sollten mit einfachen, geradlinigen Prompts beginnen und schrittweise durch Verfeinerung Komplexität einführen, anstatt das Modell gleich zu Beginn mit allen Informationen zu überlasten. Versuchen Sie daher bei einer großen Aufgabe, diese in kleinere Teilaufgaben zu zerlegen.Klare Führung
Befehle sollten klar und explizit sein. Zum Beispiel:
Schlechter Prompt: "The quick brown fox jumps over the lazy dog, Übersetze das."
Besserer Prompt: "Übersetze den folgenden englischen Text ins Spanische: 'The quick brown fox jumps over the lazy dog.'"
Spezifisch sein
Verbessern Sie die Klarheit des Prompts, indem Sie relevante Beispiele und detaillierte Anweisungen hinzufügen.
Schlechter Prompt: „Schreibe über Social Media und seine Auswirkungen.“
Besserer Prompt: „Schreibe einen Essay mit 500 Wörtern über die Auswirkungen von Social Media auf die mentale Gesundheit von Jugendlichen. Binde Statistiken aus seriösen Quellen wie der American Psychological Association ein und liefere reale Beispiele von Personen, die von übermäßiger Social-Media-Nutzung betroffen sind.“Verwirrung vermeiden
Stellen Sie sicher, dass Prompts klar und direkt sind, um Zweideutigkeiten in den Modellantworten zu vermeiden.
Kontinuierliche Verbesserung
Verfeinern Sie Prompts iterativ basierend auf Feedback und Performance, um die Ergebnisse durch automatisiertes Prompt Engineering zu optimieren.
Tools, Frameworks und Bibliotheken für Prompt Engineering in LLMs
Die Auswahl der besten Prompt-Engineering-Tools hängt davon ab, ob Sie Prompts für Experimente, Production Deployment oder modellspezifische Workflows optimieren.
Hugging Face Transformers
Es bietet Schnittstellen zum Feintuning von Modellen für spezifische Aufgaben und ermöglicht die Erstellung benutzerdefinierter Prompts.
OpenAI Codex API
Die API von OpenAI enthält Funktionen für Prompt Engineering, mit denen Nutzer Code oder Text basierend auf Prompts generieren können.
GPT-3 Playground
Plattformen wie der GPT-3 Playground bieten interaktive Umgebungen zum Experimentieren mit Prompts und zum Beobachten von Modellantworten in Echtzeit.
Googles T5-Framework
T5 (Text-To-Text Transfer Transformer) ist ein Framework, das alle NLP-Aufgaben in ein Text-to-Text-Format umwandelt und so das Prompt Engineering für verschiedene Aufgaben vereinfacht.
AllenNLP
AllenNLP bietet Tools zum Erstellen und Evaluieren von NLP-Modellen, einschließlich Mechanismen für Prompt-Design und -Evaluierung.
Fortgeschrittene Techniken für Prompt Engineering
In diesem Abschnitt stelle ich einige SOTA-Techniken (State-of-the-art) vor, die im Rahmen des Prompt Engineering in der natürlichen Sprachverarbeitung (NLP) und beim Feintuning von Sprachmodellen eingesetzt werden. Es kann leichte Überschneidungen mit den oben genannten Methoden geben; betrachten Sie dies als einen formelleren und strukturierteren Ansatz zum Verständnis der Techniken:
Zero-shot Prompting
Wie der Begriff „Zero-shot“ schon sagt, erfolgt die Inferenz hier direkt, ohne dem LLM zusätzlichen Kontext bereitzustellen. Stattdessen generiert es Ergebnisse basierend auf seinem bereits vorhandenen Wissen.
Prompt:
Who was the first man in space?
Output:
The first man in space was Yuri Gagarin, a Soviet cosmonaut.
Few-shot Prompting
Beim Few-shot Prompting geht es darum, dem Sprachmodell (LLM) vor dem Stellen der Frage einen kleinen Hinweis oder Beispiele zu geben. Dieser zusätzliche Kontext dient zwei wesentlichen Zwecken: Erstens hilft er dem LLM zu verstehen, worum es geht, sodass es eine treffsicherere Antwort geben kann. Zweitens ermöglicht er dem LLM, neue Inhalte zu lernen, die ihm zuvor noch nicht begegnet sind, wodurch sein Wissen frisch und anpassungsfähig bleibt.
Prompt:
Compose a poem with three stanzas, each focusing on a different theme: love, nature, and solitude.
Output:
In your embrace, I find my solace,
A symphony of hearts beating as one,
Lost in the dance of passion's embrace.
Behold the whispering trees, their leaves aglow,
Nature's canvas painted with hues divine,
Serenity is found in the murmuring flow.
In the quietude of the night, I am alone,
A solitary soul under the starry sky,
Finding solace in the silence, all on my own.
Prompt Chaining
Prompt Chaining ist eine leistungsstarke Technik zur Zerlegung komplexer Aufgaben in überschaubarere Schritte. Indem Sie die Ausgabe eines Prompts als Eingabe für einen anderen verwenden, können Sie Prozesse optimieren und komplizierte Probleme effizient lösen.
Dieser Ansatz bietet mehrere Vorteile: Vereinfachung von Anweisungen, präzises Identifizieren von Problembereichen für eine gezielte Fehlersuche und eine bessere Validierung der Ergebnisse. Darüber hinaus ermöglicht Prompt Chaining die parallele Ausführung von Aufgaben, was die gleichzeitige Verarbeitung mehrerer Teilaufgaben erlaubt.
Prompt-1:
There is a workout routine, present on the website <link>:
Please identify any exercises mentioned on the website. Provide them as direct quotes, enclosed in <quotes></quotes> XML tags. If there are no exercises, please say "There are no exercises mentioned.”
Output-1:
<quotes>
"10 push-ups"
"20 squats"
</quotes>
Prompt-2:
Here are exercises mentioned in the routine, enclosed in <quotes></quotes> XML tags:
<quotes>
"10 push-ups"
"20 squats"
</quotes>
Please use these exercises to construct a workout routine. Ensure that your instructions are clear and easy to follow.
Output-2:
# Generates a comprehensive workout plan
Chain-of-Thought Prompting
Die Chain-of-Thought-Prompting-Technik spiegelt das Szenario wider, in dem einem Schüler ein Beispielproblem gezeigt wird und er anschließend aufgefordert wird, ähnliche Probleme zu lösen.
Prompt:
Q: Sally has 50 apples. She gives 15 to her friend and then buys three times as many as she gave away. How many apples does Sally have now?
A: Sally started with 50 apples. After giving away 15, she has 50 - 15 = 35 apples left. Then she buys three times as many as she gave away, which is 3 * 15 = 45 apples. Adding the apples she bought to what she had left, Sally now has 35 + 45 = 80 apples. Therefore, Sally has 80 apples.
Q: Joe has 20 eggs. He buys 2 more cartons of eggs. Each carton contains 12 eggs. How many eggs does Joe have now?
Output:
A: Joe started with 20 eggs. 2 cartons of 12 eggs is 24 eggs. 20 + 24 = 44. Therefore, Joe has 44 eggs, and the answer is 44.
In Situationen, in denen Sie weniger oder keine Beispiele haben, ist das Hinzufügen einer Phrase wie „Let's think step by step“ zum ursprünglichen Prompt effektiv, um die Performance des Modells zu verbessern.
Automatic Chain-of-Thought (Auto-CoT)
Auto-CoT generiert automatisch Beispiele, die dem LLM zeigen, wie Probleme gelöst werden. Diese Beispiele werden als „Demonstrationen“ bezeichnet und entstehen, indem das LLM veranlasst wird, seinen Denkprozess zu artikulieren und zu erläutern, wie es an ein Problem herangehen würde.
Wie funktioniert Auto-CoT?
Auto-CoT funktioniert in zwei Phasen:
- Fragen-Clustering: Zunächst werden ähnliche Fragen gruppiert. Dies stellt sicher, dass die Demonstrationen eine breite Palette verschiedener Problemtypen abdecken.
- Demonstrations-Sampling: Anschließend wählt es eine repräsentative Frage aus jedem Cluster aus und fordert das LLM auf, eine Demonstration dafür zu generieren. Das LLM tut dies, indem es laut denkt und seine Argumentation Schritt für Schritt erklärt.
Feintuning von LLMs
Oft wird das Feintuning nicht als Teil des Prompt Engineering angesehen, aber ähnlich wie Prompt Engineering ist es eine Methode zur Anpassung von Large Language Models (LLMs) an spezifische Aufgaben.
Es beinhaltet das Training des bereits trainierten Modells auf unserem spezialisierten, gelabelten Datensatz, wodurch seine Parameter angepasst werden. Während häufig die letzten Layer angepasst werden, um sie an die neuen Daten anzugleichen, kann das Feintuning die Abstimmung von Parametern über mehrere Layer hinweg umfassen, um domänenspezifische Merkmale besser zu erfassen und gleichzeitig das aus dem ursprünglichen Training gelernte Wissen zu behalten.
Traditionell war Feintuning ein komplexer und ressourcenintensiver Prozess, der leistungsstarke Hardware, Expertise im Bereich Machine Learning und große Mengen an gelabelten Daten erforderte.
Mit Plattformen wie Hugging Face, die vortrainierte Modelle und einfach zu bedienende Feintuning-Pipelines bereitstellen, ist das Feintuning jedoch zugänglicher und effizienter geworden. Durch die Integration der Funktionen von Hugging Face mit traditionellen Feintuning-Ansätzen können wir vortrainierte Modelle als Ausgangspunkte nutzen, was den Bedarf an riesigen Mengen gelabelter Daten und Fachwissen reduziert.
Truefoundry bietet ebenfalls die Möglichkeit zum Feintuning Ihrer LLMs. Mit seiner intuitiven und einfachen Benutzeroberfläche können Sie Ihre Modelle in 3 einfachen Schritten feintunen:
- Verbinden Ihrer Datenbank
- Vergleichen verschiedener Feintuning-Jobs und Auswählen des passenden für Ihre Anforderungen
- Deployen Ihres gefeintunten Modells
Retrieval Augmented Generation (RAG)
Bei Retrieval Augmented Generation (RAG) wird Retrieval als Komponente neben der Generation eingesetzt, um die Performance des Modells bei Aufgaben wie Question Answering und Textgenerierung zu verbessern. RAG ist anpassbar für Szenarien mit sich ändernden Fakten, was wertvoll ist, da das statische Wissen von LLMs nicht Schritt halten kann. RAG ermöglicht es Sprachmodellen, auf ein erneutes Training zu verzichten, und greift stattdessen über retrieval-basierte Generierung auf die neuesten Informationen zu, um zuverlässige Ausgaben zu erzeugen.
In den letzten Jahren haben sich RAG-Systeme von einfachem Naive RAG zu anspruchsvolleren Advanced RAG- und Modular RAG-Modellen weiterentwickelt.
Naive RAG ruft Informationen basierend auf der Benutzereingabe ab, kämpft jedoch aufgrund veralteter Daten und irrelevanter Antworten oft mit der Genauigkeit. Advanced RAG verbessert dies durch die Verfeinerung des Retrieval-Prozesses, wodurch dieser präziser und relevanter wird.
Modular RAG geht noch einen Schritt weiter, indem es verschiedene anpassbare Module wie Suche und Speicher bietet, was Flexibilität bei der Lösung spezifischer Probleme ermöglicht. Insgesamt zielen diese Fortschritte darauf ab, Konversationssysteme intelligenter und zuverlässiger zu machen, indem der Informationsabruf und die Antwortgenerierung besser verwaltet werden.
Truefoundry bietet ebenfalls eine End-to-End-Schnittstelle für RAG mit der Möglichkeit zur Integration in beliebige Metadata Stores, Embeddings oder LLM-Modelle.
Reinforcement Learning from Human Feedback (RLHF)
Lange Zeit erschien die Idee, ein Sprachmodell mittels Reinforcement Learning zu trainieren, aufgrund sowohl engineering- als auch algorithmusseitiger Herausforderungen als nicht machbar. Das Verständnis der technischen Details von RLHF erfordert verschiedene Voraussetzungen aus dem Reinforcement Learning, daher halte ich die Erklärung sehr allgemein.
Betrachten wir ein Problem, bei dem unser Ziel darin besteht, einen Roboter für das Navigieren durch ein Labyrinth zu trainieren. Traditionell versucht der Roboter beim Reinforcement Learning (RL), sein Ziel schnell zu erreichen, und erhält Feedback basierend darauf, wie gut er im Labyrinth abschneidet. Reinforcement Learning from Human Feedback (RLHF) geht jedoch einen Schritt weiter, indem es Menschen ermöglicht, zusätzliches Feedback zu geben. Sie können mehr als nur die Geschwindigkeit bewerten – beispielsweise, ob der Roboter Hindernisse meidet oder einen Pfad wählt, der gut aussieht.
Wenn der Roboter beispielsweise einen Pfad wählt, der Hindernissen ausweicht oder einer Route folgt, die Menschen bevorzugen, erhält er möglicherweise Bonuspunkte. Auf diese Weise lernt der Roboter nicht nur, das Ziel schnell zu erreichen, sondern auch menschliche Präferenzen zu berücksichtigen.
Beim Prompt Engineering für Large Language Models (LLMs) ist RLHF äußerst nützlich. Es stellt sicher, dass Prompts immer besser darin werden, die gewünschten Antworten zu erzielen, verbessert die Prompt-Qualität durch menschliche Überprüfungen, ermöglicht die Anpassung von Prompts an unsere Präferenzen und hält mit zeitlichen Veränderungen Schritt. Durch die Einbindung menschlichen Feedbacks hilft es sicherzustellen, dass die Ergebnisse über verschiedene Aufgaben und Bereiche hinweg näher an dem liegen, wonach wir suchen.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.


















%20(28).webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






