2023 年 11 月中旬、Microsoft は、さまざまな大規模言語モデル(LLM) に基づいて生成 AI アプリケーション(Generative AI、GenAI) を開発するための新しいプラットフォームであるAzure AI Studio を発表しました。目標は、ユーザーの生活を楽にすることです。
Azure AI Studioを使用すると、取得拡張生成 ( RAG )、ベクトル テクノロジー、データを使用して生成 AI モデルを選択し、微調整するシステムが得られます。これは、AI ベースのアシスタント (副操縦士) を開発するための基本ツールであり、主に経験豊富な開発者とデータ サイエンティストを対象としています。対照的に、 Copilot Studio は、 チャットボットをカスタマイズできるローコード ツールです。
Microsoft の AI Studio のプレビュー バージョンを詳しく調べました。
Azure AI Studio – AI モデル カタログ
AI モデルの選択に関しては、Microsoft のAzure AI Studio が最適です。利用可能なAI モデルは次のものから取得されます。
-
マイクロソフトリサーチ
-
OpenAI
-
メタ
-
ハグフェイス
-
データブリックと
-
エヌビディア。
したがって、アプリケーションに最適なモデル、または少なくともそのアプリケーションに十分なモデルを見つけるのに問題はありません。
Azure AI Studio は、コレクション、コレクションがサポートする推論タスク、サポートする微調整タスクによってモデルをフィルターできます。次のスクリーンショットは、可能性に関する情報を示しています。
基本的に、 Azure AI Studio は、次の 2 つのメカニズムを通じて AI モデルを利用可能にします。
-
サービスとしてのモデル (MaaS) と
-
プラットフォームとしてのモデル (MaaP)。
Model as a Service とは、 API経由で AI モデルにアクセスし、通常は「従量課金制」で料金を支払うことを意味します。モデル自体は、GPU 容量にアクセスできる中央プール内に「存在」します。すべてのAzure OpenAI モデルは MaaS 形式で利用できますが、 GPU コンピューティング能力の必要性を考慮すると、これは当然のことです。
プラットフォームとしてのモデルとは、 Azureサブスクリプションの一部である仮想マシンに AI モデルをデプロイすることを意味します。
最初のテストでは、Mistral 7B モデルを単一の VM (Standard_NC24ads_A100_v4 タイプ) にデプロイしました。これには、24 個の vCPU、220 GB の RAM、NVIDIA A100 PCIe GPU、および第 3 世代 AMD Epyc プロセッサが搭載されていました。カスタム プロンプトに対する根拠のない推論結果は印象に残るものではありませんでした。答えは正しかったものの、無関係な幻覚に囲まれていました。この問題は、 迅速なエンジニアリングや RAG によって修正できる可能性を排除できません。
重要: Azureアカウントまたはリージョンに GPU クォータがない場合でも、Model-as-a-Platform モデルを使用できます。欠点は、共有 GPU 容量が限られた時間 (24 ～ 168 時間) しか利用できないことです。ただし、これは永続的な解決策ではなく、クラウド管理者が GPU クォータを調達できるまでの一時的な解決策である必要があります。
Azure AI Studio – ツールとコンポーネント
Azure AI Studio のさまざまなタブには、GenAI 開発ハブのさまざまな機能が含まれています。
-
Explore は、AI モデル カタログ、モデル ベンチマーク、音声、言語、画像処理機能、責任ある AI、プロンプト サンプルへのアクセスを提供します。
-
さまざまなツールがビルド経由で利用可能です: プレイグラウンド、評価、プロンプト フロー、カスタム ニューラル音声、微調整、およびデータ、インデックス、デプロイメント、コンテンツ フィルターのコンポーネント。
-
「管理」タブには、リソースとクォータの概要が表示されます。
以下では、 Azure AI Studio の各機能、ツール、コンポーネントについて詳しく説明します。
スピーチ
Azure AI Studio には、音声制御アプリケーションを構築するためのコグニティブ サービス音声機能が含まれています。これらは音声固有のモデルであり、生成 AI ではありません。これらの事前構築された音声サービスには、それぞれ再生可能なサンプルが装備されています。さらに、音声ギャラリーには現在、さまざまな言語やバリエーションで約 500 の異なる音声が含まれています。
言語
Azure AI Services では、Azure AI Studio に、Text Analytics、QnA Maker、Language Understanding (LUIS) という 3 つの個別の言語サービスがバンドルされています。これらのモデルを使用すると、ドキュメントの分類と要約、リアルタイムの翻訳、ボット エクスペリエンスへの NLP の統合が可能になります。
ビジョン
Azure AI Studio の画像処理サービスを使用すると、 機械学習と OCR を使用してテキストを読み取ったり、画像を分析したり、顔を認識したりすることができます。
責任あるAI
Responsible AI のためのAzureソリューションは、Content Safety Studio と呼ばれます。これにより、テキストと画像コンテンツの管理、生成 AI の脱獄リスクのスクリーニング、メタプロンプトの構築、保護された素材の検出、オンライン アクティビティとデータの監視が可能になります。
即時サンプル
プロンプト領域にはさまざまな例があり、その中には非常に興味深いものもあります。たとえば、大規模言語モデルに画像を解釈させたり、基本的な算術文章問題を解かせたりする方法を検討できます。
遊び場
すべてのプロンプトの例は、 Azure AI Studio Playground ツールを使用して開くことができます。 「コードで」作業したい場合は、Visual Studio Code (Web) でプロジェクトを開くこともできます。 Playground は、迅速なエンジニアリングとハイパーパラメーターの調整を行うための Azure AI Studio で最も便利なツールです。
評価
このツールを使用すると、業界標準の指標に照らして言語モデルを評価する機会が得られます。その後、ニーズに最適なバージョンを選択できます。
スムーズな流れ
プロンプト フローは、RAG、コンテンツ フィルター、埋め込み、コード、カスタム音声、微調整など、モデルをアプリケーションに拡張できる場所です。 Prompt Flow は、高度な AI アプリケーションの開発を開始する簡単な方法をユーザーに提供します。このツールは、独自の SDK と Visual Studio Code の拡張機能とともに、 GitHub で個別に入手することもできます。
カスタムニューラル音声
このツールは、アプリケーション用に独自の新しい AI 音声を作成するためのプラットフォーム (現在はアクセスが制限されており、リクエストに応じてのみ利用可能) を提供します。この目的を達成するには、「独自の言語ペルソナ」を設計し、関連するデータセット、モデル、テスト、エンドポイント接続を効率的に管理できます。
微調整
プレビュー段階では、微調整ツールを使用して Llama 2 モデルを微調整することのみが可能でしたが、それは米国西部 3 リージョンのみでした。
データ
Azure AI Studio を Azure Blob Storage、Azure Data Lake Storage Gen 2、または Microsoft OneLake のデータに接続できます。独自のデータを使用して RAG を実装することもできます。
さらに、Playground の GPT-4 Turbo with Vision 用の画像ファイル (1 ファイルあたり最大 16 MB) を使用することもできます。画像を BLOB ストレージまたはデータ レイク フォルダーに配置する場合は、画像を個別にアップロードする代わりに、モデルに URL をフィードできます。
インデックス
埋め込みを使用したベクター インデックスとAzure AI Search により、関連データの検索がより効率的になり、RAG 実装におけるコンテキストの長さの問題も回避されます。 Azure Blob Storage、Azure Data Lake Storage Gen 2、Microsoft OneLake のデータ、または既存のデータを使用できます。
導入
Azure AI Studio は、
-
LLM
-
ウェブアプリと
-
流れます。
後者は、モデル、カスタム データ、場合によっては埋め込み、ベクトル データベース クエリ、カスタム接続などのさまざまなツールで構成される GenAI アプリケーションです。フローをデプロイするときは、AI サービスのエンドポイントを作成します。
コンテンツフィルター
モデルをデプロイするときに、コンテンツ フィルターを使用してさまざまなレベルのセキュリティを定義できます。
あなたのリソース
[管理] タブのこのセクションには、個々の AI プロジェクトの権限、コンピューティング インスタンス、接続、ポリシー、および請求が含まれます。
割り当て
現在、さまざまなモデルとインスタンス サイズのクォータは、 Azure AI Studio プレビューのステージング バージョンの [管理] タブから表示および管理できます。
Azure AI Studio – ガイドとチュートリアル
Microsoft の Generative AI Hub については、Azure AI Studio ドキュメントにすでに多数のクイックスタート ガイドとチュートリアルが用意されています。
今後さらに多くのエントリーが続く可能性があります。
Azure AI Studio – テストの結論
Azure AI Studio はまだプレビュー段階にありますが、Generative AI の分野におけるアプリケーション ビルダーの要件のほとんどをすでに満たしています。開発ハブは将来急速に成長し、新しい機能を組み込むために継続的に拡張されることが予想されます。
私たちのテストでは、Playground ツールと Prompt Flow ツールがどのように (うまく) 機能するかに特に感銘を受けました。 Azure AI Studio は、コードを書けるかどうかに関係なく、最小限の労力で AI アプリケーションを効率的に構築することを約束します。ただし、プロンプト エンジニアリング、埋め込み、RAG、およびプロンプト フローの原則は理解している必要があります。ただし、自分でコーディングできる場合は、LangChain と LangSmith を使用して、Azure AI Studio が代わりに行うことの多く、さらにはそれ以上のことを行うことができます。
Azure AI Studio のコストは、使用されるモデルと提供されるインスタンスによって異なります。 Google ( Generative AI Studio ) または Amazon Web Services ( Bedrock ) で、代替または競合するオファーを見つけることができます。 (FM)