True ML Talks #10 - LLMs und GenAI mit dem technischen Direktor @ Meta

Wir sind zurück mit einer weiteren Folge von True ML Talks. Darin tauchen wir tief in LLMs und Generative KIs ein und sprechen mit Anant.

Anant ist ein führendes technisches Unternehmen. Derzeit arbeitet er als technischer Direktor bei Meta an einigen Produkterfahrungen im Bereich Smart Glasses. Er begann als Open-Source-Mitwirkender und hatte Schlüsselpositionen sowohl bei Startups als auch bei Technologiegiganten inne. Bei Mozilla hat er neben anderen Browsertechnologien an der Definition und Implementierung von WebRTC mitgewirkt. Er war auch ein früher Firebase-Ingenieur und Ozlos erster Ingenieur.

📌

Unsere Gespräche mit Anant werden die folgenden Aspekte behandeln:
- Feinabstimmung der stabilen Diffusion
- Erstellung von Einbettungen für Hacker News
- Die Debatte über langfristige Nachhaltigkeit
- Die Notwendigkeit einer verbesserten Versuchsverfolgung und einer zugänglichen Dokumentation in LLMops
- Die Macht und das Potenzial von OpenAI-Plugins
- Die Macht von Sprachmodellen beim Wiederherstellungsablauf und bei der Plugin-Anpassung

Anant sprach in seiner persönlichen Eigenschaft mit uns und seine Ansichten entsprechen nicht denen der Organisation (Meta), der er angehört.

Sehen Sie sich die ganze Folge unten an:

Wichtige Beobachtungen aus Anants Experimenten:

LoRa: Eine faszinierende Technik zur Feinabstimmung großer Sprachmodelle.

1. Barrierefreiheit von LoRa: Im Vergleich zu anderen Techniken wie Dreambooth ist LoRa leichter zugänglich und beinhaltet das Hinzufügen einiger Schichten zu einem vorab trainierten Modell, ohne dessen Gewichte zu ändern.
2. Wirtschaftlichkeit und Einfachheit: LoRa ist kostengünstig und kann von technisch nicht versierten Personen über Plattformen wie Google Colab verwendet werden. Seine Einfachheit ermöglicht eine schnelle Iteration und Experimentierung.
3. Potenzial in Text und Bild: Obwohl LoRa ursprünglich auf Bilder angewendet wurde, wird das Potenzial von LoRa für textbezogene Aufgaben untersucht.
4. Die Zukunft der Feinabstimmung: LoRa wird aufgrund seiner Wirtschaftlichkeit, Zugänglichkeit und Kompatibilität mit älteren Grafikkarten gegenüber herkömmlichen Techniken bevorzugt.

Aufbau von Einbettungen für Hacker News: Herausforderungen und Modellauswahl

1. Grundlegendes verstehen: Wählen Sie je nach Umfang und Anforderungen des Projekts geeignete Lösungen aus.
2. Einbettungen erfassen: Einbettungen sind Sammlungen von Gleitkommazahlen, und das Speichern in einer SQLite-Datenbank hat sich als effektiv erwiesen.
3. Modellauswahl: Open-Source-Einbettungsbibliotheken wurden Cloud-Anbietern vorgezogen. Das Modell Instructor Large wurde auf der Grundlage von Benchmarking und Prototyping unter Verwendung von MTEB von Hugging Face ausgewählt.
4. Beginnen Sie mit den ersten Prinzipien: Gewinnen Sie ein tiefes Verständnis für die gewählte Lösung und konzentrieren Sie sich auf die Projektanforderungen und nicht auf den Hype.
5. Skalieren Sie bei klarem Bedarf: Eine Skalierung sollte erfolgen, wenn sie einer klaren Anforderung entspricht.

Die Debatte über langfristige Nachhaltigkeit: Große Modelle versus kleinere, fein abgestimmte Modelle

Eine der wichtigsten Diskussionen im MLOps-Ökosystem dreht sich um die langfristige Nachhaltigkeit großer generalisierter Modelle im Vergleich zu kleineren, fein abgestimmten Modellen, die auf bestimmte Datensätze oder Anwendungsfälle zugeschnitten sind. Diese Debatte basiert auf einem durchgesickerten Memo, das auf eine mögliche Kommerzialisierung großer Sprachmodelle (LLMs) hindeutet.

Das durchgesickerte Memo ist zwar keine offizielle Stellungnahme, deutet aber auf die wachsende Meinung hin, dass LLMs wahrscheinlich zugänglicher und replizierbarer werden. Diese Entwicklung hat in der Community für Aufregung gesorgt, insbesondere bei denjenigen mit Open-Source-Hintergrund. Jüngste Fortschritte haben die Replikation von LLMs erleichtert und damit frühere Bedenken hinsichtlich der Kosten für Datenerfassung und Modelltraining ausgeräumt.

Projekte wie RunwayML und das Diffusionsmodell haben zu einer Open-Source-Bewegung beigetragen und die Veröffentlichung von Modellen auf Plattformen wie GitHub ermöglicht. Dies demokratisiert den Zugang zu LLMs und ermöglicht es Hobbyisten und Hackern, Neues zu entdecken und zu experimentieren. Zwar sind nicht alle LLMs Open Source, aber es stehen lizenzierte Open-Source-Optionen zur Verfügung, die ein breites Spektrum an Mitwirkenden fördern.

Die Vorteile einer offenen Entwicklung und einer breiten Beteiligung werden hervorgehoben, da dadurch verhindert wird, dass die Macht in den Händen einiger weniger Einheiten konzentriert wird. Darüber hinaus sorgt eine offene Entwicklung für Transparenz und Sicherheit, wobei globale Faktoren und das potenzielle Interesse der Nationalstaaten berücksichtigt werden.

In Erwartung der Kommerzialisierung von LLMs gibt es eine Parallele zur Cloud-Computing-Landschaft. Die Nutzer werden die Flexibilität haben, zwischen verschiedenen Anbietern zu wählen, ähnlich wie bei Cloud-Diensten wie AWS, Azure und Google Compute. Dies ermöglicht einen gesunden Wettbewerb und Innovation innerhalb des Ökosystems.

Die Debatte befasst sich auch mit dem Zusammenspiel zwischen großen Modellen und kleineren Modellen auf dem Gerät. Beide Typen haben ihren Platz im MLOps-Ökosystem, da die Berechnung auf mehreren Ebenen erfolgt. Während einfachere Aufgaben effizient auf Geräten ausgeführt werden können, können ressourcenintensivere Aufgaben auf Server verlagert werden. Die Wahl der Bereitstellung hängt vom jeweiligen Anwendungsfall ab, wobei ein hybrider Ansatz befürwortet wird, anstatt eine Seite der anderen vorzuziehen.

Im Streben nach langfristiger Nachhaltigkeit muss die MLOps-Community die Praktikabilität und die Vorteile großer Modelle gegenüber fein abgestimmten Modellen sorgfältig abwägen. Ein Gleichgewicht zu finden und die Stärken der einzelnen Ansätze zu nutzen, wird die Zukunft der Entwicklung und des Einsatzes von KI-Modellen prägen und kontinuierliche Fortschritte in diesem Bereich sicherstellen.

📌

Leistungsvergleich: Große Sprachmodelle im Vergleich zu kleineren Versionen
Ein weiterer Aspekt, der in der MLOps-Community erörtert wird, ist der Leistungsvergleich zwischen großen Sprachmodellen und ihren kleineren Gegenstücken. Große Modelle eignen sich in der Regel hervorragend für Aufgaben wie das Generieren von Blogs oder Gedichten und stellen ihre beeindruckenden Fähigkeiten unter Beweis. Kleinere Modelle haben jedoch oft Schwierigkeiten, ihre Leistung zu erreichen, insbesondere wenn es sich um kleinere Datensätze handelt.
Es ist wichtig, die Bewertungsmethoden und Tests, die solche Behauptungen stützen, unter die Lupe zu nehmen, um genaue Vergleiche zu gewährleisten. Zwar kann es unterschiedliche Anwendungsfälle und Bewertungsansätze geben, doch ist ein gründliches Verständnis der Grenzen und Leistungsunterschiede zwischen großen und kleinen Modellen von entscheidender Bedeutung.

Die Notwendigkeit einer verbesserten Versuchsverfolgung und einer barrierefreien Dokumentation in LLMops

Mit dem Fortschreiten des maschinellen Lernens wird die Bedeutung robuster Tools, einschließlich MLOps-Frameworks, deutlich. Mit dem Aufkommen von LLMops (Large Language Model Operations) besteht jedoch ein besonderer Bedarf an maßgeschneiderten Tools zur Unterstützung von Entwicklern, die mit LLMs arbeiten. In dieser Diskussion liegt der Schwerpunkt auf den gewonnenen Erkenntnissen und den Empfehlungen für die Versuchsverfolgung und die zugängliche Dokumentation in LLMOPs.

Wenn man über den Lernprozess nachdenkt, wird deutlich, dass eine ordnungsgemäße Versuchsdokumentation unerlässlich ist. Anfänglich wurde der Führung eines Trainingstagebuches oder eines strukturierten Nachverfolgungssystems zu wenig Bedeutung beigemessen, was zu Schwierigkeiten bei den Experimenten führte. Insbesondere im LoRa-Projekt zur Feinabstimmung wurde die Verwaltung zahlreicher Hyperparameter ohne einen systematischen Ansatz zur Verfolgung der Werte und der entsprechenden Ergebnisse überwältigend.

In dem Bewusstsein, wie wichtig eine gründliche Dokumentation ist, wird die Notwendigkeit eines zuverlässigen Trainingstagebuchs oder eines integrierten Trackingsystems deutlich. Leider waren leicht verfügbare Lösungen rar, was die Suche nach einem geeigneten Tool eine Herausforderung darstellte. Die Entdeckung von Weights & Biases (wandb.ai), einem Startup, das Tools zur Nachverfolgung und Visualisierung von Experimenten anbietet, erwies sich jedoch als vorteilhaft. Diese Tools wurden anderen empfohlen und es ist allgemein anerkannt, dass ihre frühere Einbindung in den Prozess das Versuchsmanagement hätte verbessern können.

Darüber hinaus wird die Bedeutung einer barrierefreien Dokumentation innerhalb der Community für maschinelles Lernen betont. Ungenügende Informationen über Hyperparameter und ihre Auswirkungen erschwerten das Verständnis und die Optimierung der Experimente.

Umgang mit Datensicherheitsbedenken bei MLOps: Gewährleistung von Datenschutz und Vertrauen

Datensicherheit ist im Bereich MLOps ein zentrales Anliegen, das Fragen aufwirft und Diskussionen innerhalb der Community auslöst. Lassen Sie uns bei der Untersuchung dieses kritischen Themas den Ansatz von Open AI sowie die umfassendere Perspektive des Datenschutzes untersuchen.

Die Haltung von Open AI zum Datenschutz wird als angemessen erachtet, insbesondere für Verbraucher, die Dienste wie ChatGPT nutzen. In Anbetracht der Tatsache, dass ChatGPT als kostenloses Produkt angeboten wird, finden die Nutzer einen Mehrwert in der Plattform, was den Austausch ihrer Daten zur Verbesserung der Modelle rechtfertigt. Es wird als fairer Kompromiss angesehen, da die Nutzer bereitwillig ihre Konversationen zur Verbesserung des Dienstes beitragen, wenn man bedenkt, wie ressourcenintensiv der Betrieb solcher Plattformen ist.

Für ChatGPT Plus-Abonnenten, die eine monatliche Gebühr zahlen, ist die Option verfügbar, die Datennutzung abzulehnen. Diese Wahl hat jedoch zur Folge, dass der Gesprächsverlauf verloren geht. Angesichts des erschwinglichen Preises des Abonnements und des immensen Nutzens, den der Dienst bietet, halten die Nutzer diesen Kompromiss jedoch im Allgemeinen für angemessen. Sie sind mit der Vereinbarung zufrieden, da sie verstehen, dass ihre Daten zur Verbesserung des Modells beitragen und gleichzeitig die Kosten subventionieren.

Unternehmen, die KI-Modelle für bestimmte Anwendungsfälle nutzen möchten, haben besondere Anforderungen an die Datensicherheit. Open AI hat bereits Schritte unternommen, um diese Bedenken im Rahmen von Partnerschaften wie der Secure Enclave von Microsoft Azure auszuräumen. Diese Kooperationen bieten sichere Umgebungen, in denen die Daten unter der Kontrolle des Unternehmens bleiben. Darüber hinaus bieten Partnerschaften wie die Integration von Anthropic mit AWS Bedrock sichere Enklaven für den Betrieb von Cloud-Modellen, wodurch Bedenken ausgeräumt werden, dass Daten die Räumlichkeiten verlassen könnten. Diese Schritte in der Branche sind bereit, geeignete Lösungen für Unternehmen anzubieten, die sich auf Datensicherheit konzentrieren.

Die Lösung der Datenschutz- und Sicherheitsprobleme erfordert die gemeinsamen Anstrengungen von Unternehmen wie Open AI, Azure und anderen wichtigen Akteuren. Zum Beispiel ist Google mit seinen internen Fähigkeiten gut positioniert, um diese Bedenken wirksam auszuräumen. Es ist wichtig, beim Datenschutz eine ausgewogene Sichtweise einzunehmen und anzuerkennen, dass seriöse Unternehmen Vertrauen bei ihren Kunden aufbauen können, die möglicherweise bereit sind, ein gewisses Maß an Datenschutz gegen den Wert der KI-Dienste einzutauschen.

Die Macht und das Potenzial von OpenAI-Plugins

OpenAI-Plugins sind eine bahnbrechende Entwicklung, die die wahre Macht und das Potenzial von KI-Sprachmodellen zeigt. Wenn man sich mit dem Konzept von Plugins befasst, wird deutlich, wie bemerkenswert sie sind, da sie Interaktionen mit dem Modell ermöglichen, ohne dass Code geschrieben werden muss. Stattdessen verlagert sich der Fokus darauf, englische Kommunikationsfähigkeiten zu nutzen, um das Modell effektiv zu unterrichten. Diese Erkenntnis kann sowohl für Entwickler als auch für Laien ein überwältigender Moment sein.

Bei Plugins geht es darum, Anweisungen für das KI-Modell auf Englisch bereitzustellen, insbesondere in Bezug auf API-Beschreibungen und Trigger. Durch die Erstellung eines einseitigen Dokuments, das das API-Schema und die Spezifikation detailliert beschreibt, können Benutzer effektiv kommunizieren, wann und wie ihr Plugin ausgelöst werden soll. Dies unterstreicht die Bedeutung guter Englischkenntnisse für die Nutzung der Fähigkeiten von ChatGPT.

Dieser innovative Ansatz hat zu Vergleichen mit früheren Untersuchungen wie dem Toolformer-Artikel geführt, wobei hervorgehoben wurde, dass ähnliche Probleme in der Vergangenheit untersucht wurden. Die Sprachmodelle von OpenAI, insbesondere ChatGPT, weisen jedoch erhebliche Qualitäts- und Leistungsverbesserungen im Vergleich zu bestehenden Open-Source-Modellen auf.

Der Qualitätsunterschied ist in erster Linie auf die Kompetenz des Kernsprachmodells bei kodierungsbezogenen Aufgaben zurückzuführen. ChatGPT zeichnet sich durch den Umgang mit codebezogenen Anweisungen aus, was sich in seiner Fähigkeit niederschlägt, Plugins effizient zu versenden und zu nutzen. Es zeigt die entscheidende Rolle, die das zugrundeliegende Modell bei der effektiven Implementierung von Plugins bei der effizienten Implementierung von Programmieraufgaben spielt.

Obwohl OpenAI derzeit einen erheblichen Qualitätsvorsprung hat, ist es wichtig, Open-Source-Modellen Zeit zu geben, um aufzuholen. Die Open-Source-Community ist kontinuierlich bestrebt, die Lücke zu schließen und die Fähigkeiten ihrer Modelle zu verbessern. Die Tatsache, dass OpenAI das Potenzial von Open-Source-Modellen anerkennt und Möglichkeiten wie multimodale Fähigkeiten untersucht, ist ermutigend. Sam Altmans jüngstes Interview mit Lex Friedman beleuchtet die Sichtweise von OpenAI und deutet darauf hin, dass sich der Fokus weg von einem Parameterwettlauf hin zu differenzierenden Faktoren verlagert.

Da sich Open-Source-Modelle weiterentwickeln und das Niveau von GPT-3.5 und 4 erreichen, ist es vernünftig zu erwarten, dass Plugin-Funktionen auch in Open-Source-Frameworks verfügbar sind. Die Fortschritte auf diesem Gebiet sind vielversprechend für die Zukunft, in der Open-Source-Modelle und Plugins die Art und Weise, wie Entwickler mit KI-Systemen interagieren, revolutionieren können.

Die Macht von Sprachmodellen beim Wiederherstellungsablauf und bei der Plugin-Anpassung

Das Aufkommen von Sprachmodellen wie OpenAis GPT hat Englisch in vielerlei Hinsicht als neue Programmiersprache in den Vordergrund gerückt. Die Nutzung von Englisch zum Unterrichten von KI-Modellen und zum Auslösen von Plugins hat Entwicklern neue Möglichkeiten eröffnet.

Wenn es um Plugins geht, liegt der Fokus nicht auf dem Mikromanagement ihrer Verwendung, sondern darauf, ihnen beizubringen, wie sie effektiv verwendet werden können. Durch die Bereitstellung von Anweisungen zur Plugin-Nutzung ermöglichen Entwickler dem KI-Modell, die geeigneten Zeitpunkte zum Auslösen der Plugins zu bestimmen. Es ist jedoch wichtig zu beachten, dass die aktuelle Implementierung Einschränkungen aufweist, z. B. dass nur drei Plugins gleichzeitig aktiviert werden können und gelegentlich Fehler beim Auslösen von Plugins auftreten.

Nichtsdestotrotz liegt die Stärke von Sprachmodellen in ihrem Erholungsablauf. Selbst wenn das Modell ein Plugin anfänglich nicht richtig versteht oder auslöst, bleibt die Benutzererfahrung positiv. Im Gegensatz zu herkömmlichen Sprachassistenten wie Alexa, bei denen explizite und präzise Befehle erforderlich sind, bieten Sprachmodelle wie ChatGPT ein anderes Erlebnis.

Mit ChatGPT können Benutzer, wenn das Modell das Ziel verfehlt, getrost explizite Folgeanweisungen geben, um den Fehler zu korrigieren. Das Verständnis und die Reaktionsfähigkeit des Modells schaffen ein Gefühl von Vertrauen und Zusammenarbeit. Die Benutzer haben das Gefühl, dass ihre Anweisungen akzeptiert und befolgt werden. Die Wiederherstellungsfähigkeit von Sprachmodellen ist im Vergleich zu Assistenten älterer Generationen ein entscheidender Faktor, was oft zu Frustration und Enttäuschung führte.

Die Stärke von Sprachmodellen, insbesondere in Kombination mit Plugins, liegt in ihrer Fähigkeit, Fehler nahtlos zu beheben. Die Benutzer schätzen die Anerkennung der Verwirrung durch das Modell, die höfliche Entschuldigung und die Bereitschaft, den Fehler zu korrigieren. Dieses Maß an Wiederherstellung und Anpassungsfähigkeit ist in früheren Assistenztechnologien beispiellos, selbst angesichts der Fortschritte bei Dialogsystemen mit mehreren Runden-Schritten.

Die Architektur der Sprachmodelle ermöglicht ein phänomenales Wiederherstellungsniveau und ist damit eine ideale Plattform für die Plugin-Integration. Die nahtlose Integration und Zusammenarbeit zwischen Entwicklern und dem Modell verbessert das allgemeine Benutzererlebnis. Während Entwickler das Potenzial von Plugins innerhalb dieser Architektur erkunden, sind die Möglichkeiten zur Erstellung dynamischer und anpassungsfähiger KI-Systeme enorm.

Da Sprachmodelle als Grundlage für KI-gestützte Interaktionen dienen, werden Wiederherstellungsablauf und Plugin-Anpassung zu wesentlichen Komponenten beim Aufbau fortschrittlicher und benutzerfreundlicher Systeme. Die Kombination aus natürlichem Sprachverständnis und Reaktionsfähigkeit positioniert Sprachmodelle als transformative Werkzeuge in der MLOps-Landschaft.

📌

GPUs für MLOPs kaufen: Herausforderungen und Impulskäufe
Der Zugriff auf leistungsstarke GPUs über Cloud-Anbieter ist für Hobbyisten frustrierend. Die Priorisierung von Unternehmensprioritäten und langfristige Verpflichtungen stellen eine Herausforderung dar.
Cloud-basierter GPU-Zugriff ist für Hobbyisten, die eine kurze GPU-Zeit benötigen, zeitaufwändig. Die Einrichtung einer persönlichen GPU ist eine Herausforderung, einschließlich manueller Konfiguration und Abhängigkeitsverwaltung.
Trotz des Komforts vorkonfigurierter Cloud-GPU-Images schätzt Anant die Kontrolle und Zuverlässigkeit seiner persönlichen GPU. Seine Entscheidung, eine dedizierte GPU zu kaufen, überwand die Herausforderungen und erwies sich als vorteilhaft für MLOps.

Auf dem Laufenden bleiben: Anant Narayanans Ansatz, mit neuen Entwicklungen Schritt zu halten

• Twitter: Verwenden Sie Twitter als Wissenszentrum für KI-bezogene Updates. Folgen Sie Experten und Organisationen der KI-Community, um schnell neue Entwicklungen zu entdecken und auf dem Laufenden zu bleiben.
• Podcasts: Hören Sie sich Branchen-Podcasts an, um wertvolle Einblicke zu erhalten. Zu den empfohlenen Podcasts gehören „Stratechery“ von Ben Thompson und „Dithering“, moderiert von Ben Thompson und John Gruber. Diese Podcasts decken ein breites Spektrum technologiebezogener Themen ab, darunter auch Fortschritte im Bereich KI.
• Offline-Interaktionen: Nehmen Sie an persönlichen Veranstaltungen und Versammlungen teil, um wertvolle Einblicke und Perspektiven zu gewinnen. Suchen Sie auf Plattformen wie cerebralvalley.ai nach umfassenden Veranstaltungslisten. Nehmen Sie an persönlichen Interaktionen teil, nehmen Sie an Hackathons teil und tauschen Sie Ideen mit anderen Fachleuten aus, um Ihr Wissen zu erweitern und sinnvolle Verbindungen aufzubauen.

Lesen Sie unsere vorherigen Blogs in der True ML Talks-Reihe:

‍

True ML Talks # 9 - Machine Learning Platform @ DoorDash

In this blog, we dive deep into Doordash’s Machine Learning Platform. Understand DoorDash’s ML architecture, how ML is used at DoorDash.

TrueFoundry Blog TrueFoundry

‍

Schaue weiter TrueML YouTube-Serie und das TrueML lesen Blog-Serie.

Wahre Gießerei ist ein ML Deployment PaaS über Kubernetes, um die Workflows von Entwicklern zu beschleunigen und ihnen gleichzeitig volle Flexibilität beim Testen und Bereitstellen von Modellen zu bieten und gleichzeitig die volle Sicherheit und Kontrolle für das Infra-Team zu gewährleisten. Über unsere Plattform ermöglichen wir Teams für maschinelles Lernen bereitstellen und überwachen Modelle innerhalb von 15 Minuten mit 100% iger Zuverlässigkeit, Skalierbarkeit und der Möglichkeit, innerhalb von Sekunden rückgängig zu machen. So können sie Kosten sparen und Modelle schneller für die Produktion freigeben, wodurch ein echter Geschäftswert erzielt wird.