TrueFoundry AI Gateway上でFlowiseを使用してローコードAIエージェントを構築する

Flowiseのようなローコードビルダーは、そのスピードから急速に普及しています。ドラッグ＆ドロップのキャンバスにより、データサイエンティストやプロダクトマネージャーは、プロンプト、ツール、ベクトル検索、多段階エージェントをPythonなしで連携させることができます。概念実証は数週間ではなく、数時間で実現します。しかし、これらのプロトタイプが実際に価値を生み出し始めると、隠れたコストが浮上します。各ノードは異なるモデルエンドポイントを呼び出し、それぞれが独自のAPIキー、使用ログ、そして会社のカード明細上の項目を持っています。これを複数のチームや実験にわたって考えると、誰も基本的な質問に答えられなくなります。 誰が何を呼び出したのか？費用はいくらだったのか？安全性は確保されていたのか？

これこそが、TrueFoundry AI Gatewayが解決する課題です。TrueFoundry AI Gatewayは、企業向けに1日100万件以上のLLM呼び出しを処理し、プロジェクトレベルの認証、リクエストごとのコスト管理、レイテンシーSLO、完全な監査証跡を適用します。これは、GPT-5、Claude 4、Mistral、あるいは社内でファインチューニングされたモデルを使用しているかどうかにかかわらず適用されます。チームは、Flowiseエージェントにも同様のガードレールを適用するよう私たちに求めました。そこで、以下の詳細なブログ記事で解説します。 なぜローコードエージェントはゲートウェイの背後にあるべきなのか

なぜローコードエージェントはゲートウェイの背後にあるべきなのか‍

1. 一元的な制御：TrueFoundry AI Gatewayは、Flowise、LangChainアプリ、カスタムマイクロサービスに対するガバナンスを、単一のOpenAI互換エンドポイントの背後で統合します。
2. Flowiseのセキュリティと安全性：エッジでロールベースアクセス、PII（個人識別情報）の匿名化、ポリシーチェック、監査ログを強制します。Flowiseの安全性は後付けではなく、リクエストパスに組み込まれています。
3. Flowiseの可観測性とトレーシング：統合されたトレース、トークン数、p50/p95レイテンシー、リプレイを取得できます。Flowiseのトレーシングとゲートウェイログにより、デバッグが迅速かつ信頼性の高いものになります。
4. Flowiseのコスト追跡：チームごとの支出を確認し、予算を設定し、暴走するエージェントを制限し、請求額が急増する前にアラートを受け取ることができます。
5. 柔軟性：Flowiseのキャンバスを変更することなく、プロバイダー（Anthropic、OpenAI、Mistral、Groq、vLLM）を切り替えることができます。エージェントは動作し続け、ルーティングはゲートウェイで変更されます。
6. コンプライアンス対応：自動監査ログ、ポリシー適用、データ制御により、Flowiseの実験を遅らせることなくレビューを通過できます。

これは、ミッションクリティカルなトラフィック（1日100万回以上の呼び出し）にすでに適用しているガバナンスと同じものです。Flowiseを追加することで、ローコード実験にもこれを拡張できます。TrueFoundryのAI Gatewayを簡単に確認するには、以下をご覧ください。 リンク

統合の概要

前提条件

• Flowiseのデプロイ（セルフホスト型またはSaaS）
• TrueFoundryの パーソナルアクセストークン
• GatewayのベースURL (https://<your-org>.truefoundry.cloud/api/llm)

2つの簡単なステップでセットアップ

1. Flowiseに認証情報を貼り付ける
2. Flowiseを開き、Credentialsから「OpenAI Custom」を選択します。
3. Gateway URLとトークンを入力してください。ラッパーコードは不要です。
4. エージェントを構築し、モデルを指定する
5. キャンバス内で、 AgentFlow ノードを追加し、 Startから接続し、TrueFoundryダッシュボードからコピーしたモデルIDを貼り付けます。「 Save」をクリックすると、すべてのLLM呼び出しがGatewayを経由するようになります。
   

スクリーンショット付きの詳細な手順は、弊社の ドキュメント

すぐに得られるメリット

これら2つのフィールドが入力されると、FlowiseはGatewayが本番ワークロードに対してすでに提供しているすべての機能を継承します。

• 統合オブザーバビリティ – トークン数、p50/p95レイテンシー、完全なトレースリプレイを1か所で確認できます。
• コストガバナンス – チームごとの支出上限と、暴走エージェントに対する自動アラート。
• ベンダー選択 – ドロップダウンを1つ変更するだけでAnthropicをMistralに切り替え可能、キャンバスの編集は不要。
• セキュリティとコンプライアンス – 違反はエッジでブロックされ、監査ログは自動的に保存。

ご利用を開始しますか？こちらからアカウントを登録してください: TrueFoundry クレジットカードは不要です :)。弊社の クイックスタートガイドのセットアップ手順に従うだけで、約15分で本番環境対応のAIスタックが稼働します。複雑な移行やコードの書き換えは不要で、AIアプリケーションのパフォーマンス、セキュリティ、制御が向上します。