True MLトーク #18 - Tushar Kant氏との生成AIディスカッション

True ML Talksの新しいエピソードをお届けします。今回はMLプラットフォームを深く掘り下げ、Tushar氏とお話しします。

Tushar氏は、トップテクノロジー企業で20年以上の経験を持つベテランMLOpsリーダーであり、製品、ビジネス、エンジニアリング、投資銀行業務において幅広いスキルを有しています。また、世界的なIIT人工知能・機械学習フォーラムの共同創設者でもあり、そのための非常に活発なSlackコミュニティも運営しています。

エピソード全編は以下からご覧いただけます：

IIT人工知能・機械学習フォーラム

フォーラムのビジョン

IIT AI/MLフォーラムは、AI/ML分野で働くIIT出身者が知識を共有し、協力し、互いに助け合えるコミュニティを創設するというビジョンのもと設立されました。彼らは、協力することでIIT出身者が世界のどの工学系大学よりも優位に立てると信じていました。

このフォーラムは大きな成功を収めており、世界中から1800人以上のメンバーが参加しています。フォーラムはイベントを企画し、他の組織を支援し、それ自体が活気あるコミュニティへと成長しました。

フォーラムの功績

Tushar氏は、フォーラムが達成した3つのことを特に誇りに思っています。

1. Icon.でのAIに関する1日トラックの開催：これはシリコンバレーで開催される主要な会議であり、フォーラムがAIトラックを企画できたという事実は、その評判と影響力の証です。
2. メンバー間の強固なつながりの構築： フォーラムは、メンバー間に生涯にわたる友情とビジネスパートナーシップを築くのに貢献しました。
3. COVID-19パンデミック中のサポートシステムの提供： 世界が閉鎖された時も、フォーラムは隔週で会合を続け、メンバーに知識とサポートを提供しました。

AIとMLOpsの成長における転換点

〜の組み合わせ クラウドコンピューティング、 トランスフォーマー、事前学習 今後数年間で、AIとMLOpsにおけるイノベーションの主要な推進力となるでしょう。特に、 マルチモーダルAIの可能性、自然言語処理とコンピュータビジョンを組み合わせて複雑な問題を解決するものです。

クラウドコンピューティング は、AIを誰にとってもより身近で手頃なものにしました。これにより、スタートアップ企業や個人が高価なインフラに投資することなくAIアプリケーションを開発・展開できるようになり、この分野でのイノベーションが急増しました。

トランスフォーマー は自然言語処理とコンピュータビジョンに革命をもたらしました。トランスフォーマーは、データ内の長距離依存関係を学習できるニューラルネットワークアーキテクチャの一種です。このため、機械翻訳や画像認識などのタスクに非常に適しています。

事前学習 は、大規模言語モデルをテキストとコードの膨大なデータセットで学習させる手法です。この事前学習済みモデルは、翻訳や質問応答などの特定のタスク向けにファインチューニングすることができます。事前学習は、幅広いタスクにおけるAIモデルの性能を大幅に向上させました。

ChatGPTと生成AI：業界全体にわたる潜在的な応用

ChatGPTと生成AIは、多くの産業に革命をもたらす可能性を秘めています。これらのテクノロジーは特に、顧客サービスの向上、詐欺の削減、製品やサービスのパーソナライズ、医療の改善といった分野で、その可能性が注目されています。

さまざまな産業におけるChatGPTと生成AIの具体的な応用例：

1. 顧客サービスと顧客体験： ChatGPTと生成AIは、問い合わせへの対応やレポート作成など、顧客サービスのタスクを自動化するために使用できます。これにより、顧客サービス担当者はより複雑なタスクに集中できるようになります。
2. リスク評価と不正検出： ChatGPTと生成AIは、銀行および金融業界においてリスクを特定し、軽減するために使用できます。例えば、不正な取引を検出したり、借り手のリスクを評価したりするために使用できます。
3. パーソナライゼーション： ChatGPTと生成AIは、小売業界の顧客向けに製品やサービスをパーソナライズするために使用できます。例えば、顧客の過去の購入履歴や閲覧履歴に基づいて商品を推奨するために使用できます。
4. 保険料の決定とリスク評価： ChatGPTや生成AIは、保険業界で保険料の決定や契約者のリスク評価に活用できます。
5. 患者支援と疾患の診断： ChatGPTや生成AIは、ヘルスケア業界で患者支援ツールの開発や、疾患のより迅速かつ正確な診断に活用できます。

LLMとリスク評価

LLMはまだ開発の初期段階にありますが、金融サービス業界におけるリスク評価を革新する可能性を秘めています：

LLMは、より多くのデータをより迅速に処理できます。 従来のリスク評価モデルは、信用スコアや収入など、限られたデータ量に依存しています。LLMは、支出パターン、購買行動、オンライン行動など、はるかに多くのデータを処理できます。これにより、より正確なリスク評価が可能になります。

LLMは関連要因を考慮できます。 信用スコアなどの個別の要因に加えて、LLMは、その人が勤務している会社や業界といった関連要因も考慮できます。これにより、より包括的なリスク評価が可能になります。

LLMの未来

エコシステムにおけるプレイヤーの種類

彼は、エコシステムには3種類のプレイヤーが存在すると考えています：

1. 基盤モデル開発者： OpenAI、Google、Metaなど、大規模言語モデル自体を開発する企業。
2. LLM Opsプラットフォーム： AWSやGoogleなど、開発者がLLMアプリケーションを構築・デプロイするためのプラットフォームを提供する企業。
3. LLMディストリビューター： エンドユーザー向けにLLMを活用した製品やサービスを開発・販売する企業。

📌

電力業界：
電力業界には、発電機、送電線、配電業者が存在します。LLM業界において、Tushar氏は基盤モデル開発者を「発電機」、クラウドコンピューティングプロバイダーを「送電線」、スタートアップ企業を「配電業者」と捉えています。

クローズドソースとオープンソース：

クローズドソースとオープンソース、両方のLLMが存在する余地があるでしょう。
クローズドソースモデル は、サポート付きの商用利用可能なソリューションを必要とする大企業に好まれるでしょう。 オープンソースモデル は、より高い柔軟性とカスタマイズ性を求める中小企業や研究者に好まれるでしょう。

ミドルウェアの役割：

開発者がLLMをより簡単かつ効率的に利用できるよう、ミドルウェアが必要となるでしょう。ミドルウェアは、モデル管理、ファインチューニング、モニタリングといった機能を提供できます。

LLMの利点とリスク：

LLMは、その用途によって人間の能力を増幅させることも、リスクをもたらすこともできるツールとして捉えることが不可欠です。あらゆるツールと同様に、LLMの利用は人間の選択と意図によって形作られます。LLMは、医療の進歩、革新的な教育プログラムの育成、現在人間が行っているタスクの自動化といった可能性を秘めています。しかし、ディープフェイクの生成、誤情報の拡散、個人の操作といったことも可能です。

LLMの開発と利用における人間の役割：

LLMが高度化しても、人間の価値観の機微を完全に理解することは常に不十分でしょう。そのため、LLMが私たちの価値観と合致するように保証する上で、人間は極めて重要な役割を担い続けます。これには、 倫理的ガイドラインの確立 LLMの開発と利用に関する、 一般市民への教育 LLMの利点とリスクに関する、そして 人間が創造的に考え、革新的な解決策を見出す独自の能力を持っていることを認識すること一方、LLMは学習データによって制約を受けます。

汎用RAGシステムの構築：AWS vs. スタートアップ

汎用RAGシステムの構築に関して言えば、AWSとスタートアップはそれぞれ独自の利点と課題を抱えています。

AWSの強み： AWSは、その強固な顧客基盤とRAGをサポートできる幅広いサービスにより、汎用RAGシステムの開発に適した立場にあります。例えば、AWSはRAGモデルのトレーニングとデプロイのための機械学習プラットフォームであるSageMakerを提供しています。さらに、RAGワークフローに最適な様々なデータストレージおよび処理サービスも提供しています。

AWSの弱み： AWSは、新製品を迅速に開発・投入するという点で、スタートアップの俊敏性には及ばない可能性があります。さらに、特に医療分野向けのRAGのようなユースケースにおいては、AWSの焦点はスタートアップほど具体的ではないかもしれません。

スタートアップの利点： スタートアップは俊敏性に優れており、特定のユースケースに焦点を当て、RAG分野で迅速に革新を進めることができます。彼らのニッチな焦点は、大企業が見過ごしがちな独自のRAGソリューションやイノベーションにつながる可能性があります。

スタートアップの課題： スタートアップは、AWSのような広範な顧客基盤やサービスポートフォリオを持たないため、リソースの制約に直面することがよくあります。その巨大な規模とリソースを考えると、価格面でAWSと競争することは困難を伴う可能性があります。

RAGシステムを開発するスタートアップへのアドバイス：

1. 特定のユースケースに焦点を当てる： スタートアップは、特定のユースケース向けのRAGソリューション開発に注力すべきです。これにより、AWSや他の大企業との差別化を図ることができます。
2. 迅速に行動する： スタートアップは、RAGソリューションを迅速に開発し、市場に投入する必要があります。これは、AWSや他の大企業が彼らの製品を容易に模倣できるためです。
3. 魅力的なM&A候補となる： スタートアップは、M&A候補にとって魅力的なRAGソリューションの開発に注力すべきです。これにより、AWSや他の大企業と競争できない場合に、事業を売却する道が開けます。

生成AIの急速な世界を乗りこなす

リーダーへのアドバイス

1. 機敏に、柔軟に。 生成AIの分野は常に進化しているため、新しい動向に迅速に適応できる考え方とチームを持つことが重要です。
2. 実際の課題解決に集中する。 生成AIの流行に惑わされず、この技術で解決できる実際のビジネス課題の特定に注力しましょう。
3. 後れを取ることを恐れないでください。 他の誰かが新しい生成AIソリューションで市場に先んじても構いません。重要なのは、彼らの失敗から学び、より良い製品を構築することです。
4. 無理強いは禁物です。 すべての問題に生成AIソリューションが必要なわけではありません。この技術で解決すべき適切な問題を見極めるために、ビジネスの洞察力を活用しましょう。

データサイエンスおよびエンジニアリングのリーダーへのアドバイス

1. まずツールありきで考えない。 生成AIの活用方法だけを探すのではなく、まずビジネス課題を特定し、生成AIがその解決に適切なツールであるかを確認することから始めましょう。
2. 顧客から逆算して考える。 顧客のニーズは何ですか？彼らの課題は何ですか？顧客を理解すれば、生成AIをどのように活用して彼らを支援できるかを考え始めることができます。
3. トップダウンの指示に屈してはいけません。 もしリーダーシップチームが、すべてのチームに生成AIのユースケースを考案するよう指示している場合でも、形だけこなすのはやめましょう。反論し、なぜ生成AIがそれらの問題に対する適切な解決策だと考えているのかを尋ねてください。

True ML Talksシリーズの過去のブログ記事を読む：

‍

‍True ML Talks #17 - ML Platforms @ Slack, LLMs and SlackGPT

In this blog, we dive deep into Slack’s Recommend API. Understand their ML architecture, and the LLM use cases in Slack. We go into SlackGPT.

TrueFoundry Blog TrueFoundry

‍

TrueMLを引き続きご覧ください YouTubeシリーズ TrueMLの ブログシリーズを読む。

TrueFoundry は、Kubernetes上で動作するMLデプロイメントPaaSであり、開発者のワークフローを加速させ、モデルのテストとデプロイにおいて完全な柔軟性を提供しつつ、インフラチームには完全なセキュリティと制御を保証します。当社のプラットフォームを通じて、機械学習チームは デプロイおよび監視 モデルを15分で、100%の信頼性、スケーラビリティ、そして数秒でのロールバック機能をもって行うことを可能にし、コストを削減し、モデルをより迅速に本番環境にリリースできるようになり、真のビジネス価値の実現を可能にします。