LLM's, overal LLM's: Verkenning van hun toepassingen!

De komst van extreem grote taalmodellen, zoals ChatGPT (met 20 miljard parameters) en GPT-3 (met 175 miljard parameters), heeft een revolutie teweeggebracht op het gebied van natural language processing. Deze modellen zijn getraind op enorme hoeveelheden data en laten opmerkelijke prestaties zien bij het begrijpen en genereren van tekst. Dankzij hun vermogen om hoogwaardige informatie te synthetiseren en coherente gesprekken te voeren, worden large language models zoals ChatGPT steeds vaker ingezet om een breed scala aan voorheen onoplosbare use cases op te lossen.

Een van de sterkste punten van ChatGPT is het vermogen om verfijnde content te leveren op basis van feedback en context via een interactieve dialoog met gebruikers. Hier is bijvoorbeeld een gesprek met ChatGPT waarin we praten over ons favoriete onderwerp, MLOps:

Met de juiste prompts kunnen gebruikers ChatGPT zeer nauwkeurige en relevante resultaten laten produceren. Bedrijven hebben de enorme waarde ingezien die deze modellen aan hun producten kunnen toevoegen en zijn begonnen met het integreren van API's voor large language models in hun aanbod. In dit artikel verkennen we enkele van de meest boeiende toepassingen van deze modellen.

Laten we een paar hiervan bekijken:

AI-assistenten

Large language models worden in verschillende contexten ingezet als assistent. Zo gebruikt GitHub Copilot OpenAI Codex, getraind op grote datasets met code, om intelligente suggesties aan gebruikers te doen terwijl ze code schrijven op basis van natural language prompts. Dit type samenwerking tussen agent en mens kan de productiviteit en nauwkeurigheid bij diverse taken aanzienlijk verbeteren, waardoor mensen zich kunnen richten op complexere problemen terwijl de AI de meer routineuze aspecten voor zijn rekening neemt.

Notion heeft onlangs Notion AI uitgebracht, een AI-assistent die door je content kan gaan en actiepunten kan genereren uit vergadernotities en samenvattingen van grotere teksten, terwijl de belangrijkste zaken naar voren worden gehaald. De assistent kan ook de kwaliteit van je teksten verbeteren met één klik op de knop "Improve Writing" of "Use simpler language". Het implementeren van deze functies met behulp van API's zoals ChatGPT is nu zo eenvoudig als je prompt beginnen met "make the following text sound more friendly."

Entertainment

Spotify heeft een product uitgebracht genaamd Spotify DJ dat gesproken commentaar geeft over muziek, genres en gebruikersvoorkeuren tussen nummers door, wat zorgt voor een zeer gepersonaliseerde ervaring. Dit wordt mogelijk gemaakt door OpenAI API's die de expertise en het begrip van Spotify over de gebruiker en de muziek schalen naar coherent commentaar.

We kunnen speculeren dat Spotify de LLM heeft gevoed met gegevens over de luistergeschiedenis van de gebruiker qua genres en artiesten, verder geannoteerd met hun eigen expertise in muziek, en het model heeft gevraagd om een commentaar voor de gebruiker te genereren dat gegarandeerd elke keer uniek is. Hun text-to-voice-platform zet deze tekst om in een dynamische AI-stem.

Snapchat heeft ChatGPT ook geïntegreerd in zijn product door een AI-compagnon te introduceren voor betaalden gebruikers. Snapchat noemt de AI-compagnon een "fun and experimental sidekick" en raadt gebruikers aan deze te gebruiken om te "chatten over hun dag of een haiku te schrijven over hun beste vriend(in)." De AI-compagnon is mogelijk een van de eerste in een trend waarin mensen tegen AI praten zoals ze dat tegen hun vrienden of familie zouden doen.

Klantenservice

Verschillende bedrijven bouwen klantenservice-oplossingen op basis van GPT-3, ChatGPT en vergelijkbare LLM's. Bedrijven zoals Ada Support Inc en Nice Ltd bieden chatbots die zijn gebouwd op deze technologieën, welke kunnen worden aangepast door ze te voeden met bedrijfsspecifieke informatie en geanonimiseerde klantgegevens. Omdat deze taalmodellen gevoelig zijn voor "hallucinaties" waarbij ze feiten of concepten verzinnen, moeten deze oplossingen worden ingezet met ondersteunend personeel dat chats kan controleren en zo nodig kan ingrijpen.

Gezondheidszorg

De gezondheidszorg beschikt over een enorme hoeveelheid vrije tekstdata die kan worden gebruikt om taalmodellen te trainen, en er zijn verschillende potentiële use cases voor LLM's in dit domein. Een voorbeeld is het opstellen van ontslagbrieven, waarin het ziekenhuisverblijf van een patiënt wordt samengevat op basis van het medisch dossier.

Het Computer Science and Artificial Intelligence Laboratory (CSAIL) van MIT heeft LLM's gebruikt om medisch jargon en acroniemen uit te breiden en medicatieschema's te extraheren uit klinische notities. Lees er hier meer over.

Het GatorTron-model, dat door onderzoekers vanaf nul is opgebouwd, is een groot klinisch taalmodel dat medische vragen kan beantwoorden in natuurlijke taal. Het model is openbaar beschikbaar via het BioNeMo-framework van NVIDIA, dat wetenschappers helpt ziekten beter te begrijpen en therapieën voor patiënten te vinden.

‍

Marketing & Sales

Taalmodellen worden steeds belangrijker op het gebied van marketing en sales. LLM's kunnen worden toegepast om content te personaliseren, trefwoorden en SEO-campagnes te optimaliseren en marketingmaterialen te genereren.

DocuSign gebruikt large language models om meer inzicht te krijgen in klantgedrag via op AI gebaseerde natural language processing. Salesforce's AI-assistent, Einstein Voice Assistants (EVA), maakt gebruik van LLM's om vragen van klanten te interpreteren en passende antwoorden te bieden, waardoor salesvertegenwoordigers meer tijd overhouden voor complexere taken.

SaaS-tools zoals Jasper.ai, een op GPT-3 gebaseerde AI-schrijfassistent, kunnen content rijk aan trefwoorden genereren voor marketingteams, geoptimaliseerd voor SEO-ranking.

TrueFoundry is een ML Deployment PaaS op Kubernetes om de workflows van ontwikkelaars te versnellen, terwijl ze volledige flexibiliteit behouden bij het testen en deployen van modellen, met gegarandeerde veiligheid en controle voor het Infra-team. Via ons platform stellen we Machine Learning-teams in staat om modellen in 15 minuten te deployen en monitoren met 100% betrouwbaarheid, schaalbaarheid en de mogelijkheid om binnen seconden te roll-backen. Hierdoor besparen ze kosten en kunnen ze modellen sneller naar productie brengen, wat zorgt voor echte zakelijke waarde.