Liberando a Inovação: Destaques do Hackathon Interno da TrueFoundry

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support

Na TrueFoundry, dedicamo-nos a desenvolver uma solução de plataforma integrada que capacita os cientistas de dados a experimentar, versionar, otimizar e implementar os seus modelos de ML/LLM com facilidade. Para além dos nossos esforços focados no cliente, acreditamos em promover uma cultura de inovação e em proporcionar à nossa equipa a oportunidade de explorar as suas ideias para além das suas funções habituais. É por isso que os nossos hackathons internos ocupam um lugar especial nos nossos corações.
A Essência de um Hackathon Interno
Um hackathon interno não é apenas um evento; é uma oportunidade única para quebrar as rotinas diárias e mergulhar de cabeça numa jornada criativa. Ele reúne fisicamente os membros da nossa equipa remota, promovendo a colaboração, a camaradagem e as ligações entre equipas que nem sempre são possíveis no nosso ambiente de trabalho virtual.
Abrindo caminho na IA Generativa
A 23 de junho, embarcámos no nosso segundo hackathon interno, e foi uma experiência verdadeiramente inesquecível. Selecionámos cuidadosamente uma deslumbrante vivenda em Bangalore, a vibrante capital indiana das startups, como o nosso local. Durante três dias emocionantes, mergulhámos num ambiente repleto de entusiasmo, colaboração e a busca partilhada pela inovação. O hackathon proporcionou a combinação perfeita de trabalho e diversão, permitindo-nos criar laços com colegas e explorar novas vias de colaboração.
O Hackathon Desenrolou-se
O hackathon começou numa sexta-feira de manhã, depois de desfrutar de um delicioso pequeno-almoço do sul da Índia. Durante as duas horas iniciais, mergulhámos em sessões de brainstorming, formando equipas de dois ou três membros, compostas por indivíduos com experiência técnica e não técnica. Com as nossas equipas e desafios finalizados, o relógio começou a contar para um hackathon de 24 horas. À medida que as horas passavam, as nossas equipas mergulharam profundamente nos seus projetos, fazendo brainstorming, codificando e colaborando incansavelmente. Foi uma montanha-russa de emoções, repleta de avanços emocionantes, sessões intensas de codificação e resolução colaborativa de problemas. Apesar da intensidade, o hackathon também proporcionou amplas oportunidades para relaxamento e criação de laços, com refeições deliciosas, reuniões de equipa improvisadas e discussões animadas que se estenderam para além dos limites do trabalho.

Apresentação dos Projetos
No final do hackathon, as equipas apresentaram os seus projetos ao vivo, e todos os membros participantes tiveram a oportunidade de observar e votar no melhor projeto. As apresentações foram inspiradoras, demonstrando o imenso talento e dedicação dos membros da nossa equipa. Maravilhámo-nos com a engenhosidade por trás de cada projeto, celebrando a diversidade de ideias e abordagens. A celebração pós-hackathon adicionou um toque delicioso, com festas e atividades de equipa que a tornaram uma experiência verdadeiramente inesquecível.

Projetos Que Quebraram Barreiras
O hackathon provou ser um terreno fértil para projetos notáveis que têm o potencial de moldar o futuro da TrueFoundry. Vamos explorar alguns dos destaques:
Facilitando o Desenvolvimento em Tempo Real
A equipa TFExecutor entregou uma Prova de Conceito (POC) que introduziu o acesso shell a Pods Kubernetes, permitindo que os Cientistas de Dados fizessem alterações em tempo real ao código ML/LLM implementado. Além disso, desenvolveram uma funcionalidade de espaço de código para melhorar a colaboração e o desenvolvimento. Após a demonstração bem-sucedida, decidimos lançar o Code space para os nossos utilizadores e continuar a desenvolver o projeto de acesso shell a pods Kubernetes.

Leia mais em Kubernetes para Cientistas de Dados
Melhorando as Métricas de Interação do Website
Para resolver o problema de poucos leads de entrada, apesar de um aumento de 800% no tráfego do website, nossa equipe de design de produto analisou as taxas de cliques e o tempo de tela. Seus insights levaram a um design de website reformulado, baseado no princípio de AIDA. Decidimos implementar essas mudanças para melhorar nossos leads de entrada.

Otimizando o Onboarding da Plataforma
Desde o lançamento da nossa versão em nuvem pública no início de junho, mais de 30 organizações se inscreveram. No entanto, muitas equipes enfrentaram desafios ao lançar clusters Kubernetes para se conectar com a TrueFoundry. A Equipe TrueMakkhan desenvolveu uma Prova de Conceito (POC) usando CIVO, um cluster auto-provisionado disponível em período de teste, para otimizar o processo de onboarding. A demonstração foi recebida com entusiasmo, e agora estamos trabalhando em uma solução pronta para produção para uma experiência de onboarding sem complicações.

Simplificando o Teste de Modelos com o LLM Playground
LLM (Modelos de Linguagem Grandes) ganharam popularidade significativa, e a TrueFoundry está facilitando para as empresas utilizá-los. A Equipe Underdogs criou um MVP de LLM playground com vários modelos, incluindo os da OpenAI, Replicate, Hugging Face e modelos ajustados internamente. O painel, protegido com o OAuth da TrueFoundry, permite que os administradores da organização controlem a disponibilidade dos modelos e definam chaves de API centralizadas para provedores de LLM pagos. Esta integração foi lançada, oferecendo uma experiência contínua aos nossos usuários.

Experimente LLM playground
Entrando na Comunidade LLMOps
Hackathons não são apenas sobre inovação técnica; eles também oferecem oportunidades para fomentar a comunidade e construir uma forte cultura empresarial. A Equipe Sleep Deprived realizou uma análise abrangente da presença da TrueFoundry em várias plataformas e elaborou um plano detalhado para expandir nosso alcance como plataforma de ML. Suas iniciativas incluem otimização de SEO, listagem em repositórios populares do GitHub e plataformas de ferramentas de ML, e o envolvimento com especialistas do setor para o nosso podcast TrueMLTalks, e a produção de blogs e e-books perspicazes. Esses esforços garantem que a TrueFoundry seja reconhecida e valorizada na comunidade de ML.
Além disso, veja como a TrueFoundry está facilitando o LLMOps para você: A pergunta de US$ 360 mil sobre a Economia dos Modelos de Linguagem Grandes, TrueFoundry Agora Implanta e Ajusta LLMs de Código Aberto Com Apenas Alguns Cliques!
Coleta Automatizada de Dados da Web
Nossa equipe de vendas costumava gastar um tempo valioso procurando leads relevantes no LinkedIn, GitHub e canais do Slack. A Equipe SkyScrapper assumiu o desafio de automatizar este processo, desenvolvendo scripts de web scraping que extraíam dados com base em palavras-chave direcionadas de várias plataformas. A solução deles não só economizou tempo, mas também garantiu um processo consistente e eficiente de geração de leads para nossa equipe de vendas.

Otimização de Custos com CostGPT
Para ajudar as organizações a reduzir os custos de infraestrutura seguindo as melhores práticas, a Equipe CostGPT criou um formulário Google conciso que oferece insights e recomendações. Ao pesquisar várias empresas, eles geraram leads valiosos e contribuíram para os esforços de redução de custos.

Confira Como a Neurobit economiza 60% dos seus custos de infraestrutura
O teste está disponível e você pode fazê-lo aqui
Testes Automatizados para Estabilidade da Plataforma
Testar é crucial para oferecer a melhor experiência de produto. A Equipe End2End desenvolveu scripts para automatizar testes de ponta a ponta da nossa plataforma em vários provedores de nuvem e instalações locais. Ao automatizar este processo complexo e demorado, podemos reduzir a carga de trabalho da nossa equipe de engenharia e minimizar o risco de problemas de configuração.

Configuração Interativa de Infraestrutura
A Equipe InfraRanger projetou um aplicativo streamlit interativo para simplificar a configuração da infraestrutura e o processo geral de Onboarding. O aplicativo gera as configurações Terraform necessárias com base nas entradas do usuário, permitindo o provisionamento de um clique de toda a infraestrutura. Esta ferramenta intuitiva elimina a necessidade de instalar várias ferramentas CLI, como kubectl, AWS, GCP, Azure e Terragrunt.

Cultivando a Cultura da TrueFoundry
Na Truefoundry, nossas pessoas e nossa cultura são o coração da nossa empresa. A Equipe TrueCulture reconheceu a importância de nutrir uma cultura forte e coesa dentro da nossa organização. Eles desenvolveram um plano abrangente de três meses, composto por várias atividades, para criar uma cultura de trabalho positiva e mostrar nossa equipe ao mundo. Essas atividades incluem a criação de perfis envolventes no LinkedIn, o compartilhamento de posts informais sobre atividades da equipe e a participação em conferências. Ao investir em nossa cultura, fortalecemos nossa marca e criamos um ambiente que atrai os melhores talentos.

Concluindo
O hackathon interno foi um testemunho do talento incrível, dedicação e trabalho em equipe que define a Truefoundry. Nós coletivamente enfrentamos desafios, elaboramos soluções e forjamos novos laços. Enquanto alguns projetos já foram implementados, outros ainda estão em andamento, impulsionando-nos em nossa missão de construir a melhor plataforma de ML com uma experiência de usuário incomparável. Além das conquistas profissionais, o hackathon foi uma oportunidade para nos conectarmos em um nível pessoal e criar memórias duradouras. Desde grandes festas em casa a jogos, sessões de improviso noturnas e noites de cinema, o evento demonstrou o verdadeiro espírito de união.
Junte-se à Nossa Jornada
Enquanto continuamos a moldar o futuro das plataformas de ML, convidamos você a se juntar à nossa jornada. Seja você interessado em experimentar nosso produto ou fazer parte da nossa equipe, damos as boas-vindas para fazer parte da Truefoundry. Juntos, vamos liberar todo o potencial do ML e revolucionar a forma como os cientistas de dados implementam seus modelos

Ao promover uma cultura de inovação e oferecer à nossa equipe a liberdade para explorar, a Truefoundry permanece comprometida em ir além dos limites, entregar soluções excepcionais e causar um impacto significativo no mundo do aprendizado de máquina.
Cadastre-se hoje ou junte-se à nossa equipe para fazer parte da revolução Truefoundry. Vamos liberar a inovação juntos!
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
The fastest way to build, govern and scale your AI













.webp)






.webp)

.webp)
.webp)





.png)



