【速報まとめ】Google Cloud Next’24 発表された内容

2024年4月9日から11日の3日間に渡って、Google Cloudの年次イベントである「Google Cloud Next’24」が米国ラスベガスで開催されており、昨年に続いて生成AIを中心とした多くの最新情報が発表されました。この記事では、そんな Google Cloud Next’24 の1日目と2日目に行われる基調講演を中心に、最新情報をなるべくリアルタイムでお伝えしていきます。ぜひ最後までお読みください。

Google Cloud Next’24とは?Google主催の大規模カンファレンス

Google Cloud Nextとは、米Google Cloud社が毎年1回グローバルに対して行う大規模なカンファレンスのことです。数日間にわたって世界中から多くのGoogle Cloudのユーザーやパートナーが集まり、新機能の紹介やブース出展、体験型イベントなどでとても盛り上がります。このNextのタイミングで発表になる新機能や新技術なども多くあるため、毎年注目されているイベントです。 昨年はサンフランシスコで行われ、今非常にホットな分野である生成AIの新情報が多く発表され大いに盛り上がりました。 今年2024年は4月の9日から11日の3日間に渡って、米国ラスベガスにて開催されています。

Day1：基調講演「The new way to cloud」

開催初日の今日は基調講演「The New Way to Cloud」があり、昨年に引き続き、生成AIにフィーチャーした新機能が多く発表されました。ただ、昨年は生成AIの各機能がやや独立して発表、公開されていたのに対して、今年は各機能同士の連携が強調されていたことが印象的でした。
Google Cloudが持つ生成AIの様々な機能を組み合わせて「エージェント」（例えば、顧客や従業員などそれぞれのロールや行動を再現した機能）を構築し、そのエージェントを利用して様々なシーンで業務の改善や効率化に役立てるといったユースケースが推進されており、それぞれのエージェントを利用したデモンストレーションを多く行われていました。
ですので、本記事ではまずカテゴリごとに新機能を紹介し、それらを組み合わせたエージェントについても簡単に紹介したいと思います。

インフラストラクチャの新機能

• A3Megaインスタンス

  AIワークロード向けに構成されたインスタンスで、従来のA3 インスタンスと比較して2倍のネットワーク帯域幅を備えたH100 Tensor Core GPUが搭載されます。5月に一般提供開始される予定です。

• TPU v5p

  最も強力なTPUとして、TPU v5p の一般提供が開始されます。前世代のTPUと比較して、ポッドあたりのコンピューティング能力が4倍になっています。

• Hyper Disk ML

  AI 推論とワークロードの処理に最適化された次世代ブロック ストレージ サービスで、他のストレージと比較してモデルの読み込み時間を最大 11.9 倍高速化し、競合他社と比較してボリュームあたりのスループットが 100 倍以上向上するとされています。現在、プレビュー版が利用できます。

• Dynamic Workload スケジューラ

  2つの新しいオプションが追加されました。1つは開始時間を保証するカレンダーモードで、もう1つは経済性を重視するフレックススタートモードです。

• AIワークロード用のGDC

  GDC（Google Distributed Cloud）に、NVIDIA GPUの対応をはじめ、Gemmaや LlamaといったOpenAIモデルの実行が可能になるといった新機能が追加され、高度な生成AIワークロードをエッジや自社データセンターで実行できるようになりました。

• Google Axion プロセッサ

  データセンター向けに設計されたARMベースのCPUで、現行世代のx86ベースのプロセッサより最大 50% 優れたパフォーマンスと最大 60% 優れたエネルギー効率を実現します。

Vertex AIの新機能

• Gemini 1.5 Pro

  現時点でパブリックプレビューで利用可能です。最大で100万トークンをサポートし、1時間のビデオ、11時間の音声、3万行を超えるコードと70万ワードを超えるコードベースを含む膨大な量の情報を同時に処理できるようになります。

• Imagen2.0

  Vertex AIで利用できる画像生成モデルであるImagenのバージョン2.0が一般公開となりました。プロンプトからの画像生成の精度が向上していることはもちろん、Text-to-Live Image（テキストから数秒間のGIFアニメーション生成できる機能）がプレビューで公開されています。また、映りこんだ物体の削除や、画像の見えない部分を生成して拡張するといった機能も今後利用可能になる予定です。

• Claude3

  Anthropic社の最先端モデルであるClaude 3 Sonnet、Claude 3 Haiku が Vertex AI で一般提供されます。さらに今後数週間でClaude Opusが利用可能になります。

• Gemma

  Geminiと同じテクノロジーを使用して作成されたGemmaモデルファミリーのうち、コーディング用に調整された軽量かつオープンモデルであるCodeGemmaがVertex AIで利用可能になりました。

• SuperVised Tuning for Gemini Model

  Geminiモデルに対して、効率のよい（アダプターチューニングを利用した）教師ありのファインチューニングが可能になりました。これにより、より少ない教師データと計算リソースを用いて、タスクに対してモデルを最適化することができます。

• Grounding with Google Search・Grounding with Enterprise Data

  Geminiモデルのグラウンディング先として、Google検索とエンタプライズアプリケーションのデータやAlloyDB、BigQueryといったデータベースを利用できるようになりました。これによりWebや組織のデータに基づいたより正確な回答を返すことができるようになり、幻覚（ハルシネーション）の発生を防ぎます。GoogleはこのWebとエンタープライズのデータを組み合わせた応答生成の体験を「Enterprise Truth」と呼んでいます。

• プロンプトマネジメントツール

  生成AIでより良い応答を得るには、試行錯誤しながらプロンプトを作成する作業が発生します。新しくプロンプト管理ツールが導入され、メモやステータスを含めたプロンプトの共同開発、変更履歴の管理や複数プロンプト間での応答品質を比較できるようになるので、プロンプトの開発体験がより良くなります。

• Automatic Side By Side(Auto SxS)

  この自動並列機能によって、生成AIモデルの応答の品質を他の応答と比較し、評価を行うことができます。自然言語によって応答が返されるモデルでは、応答品質の良し悪しをどのように比較するかが課題となる場合がありましたが、この機能で定量的に精度を比較することができるようになります。既に一般公開済みです。また、高速評価機能（プレビュー中）も今後追加される予定となっており、こちらは小規模なデータセットでモデルを素早く評価できる機能です。

• Vertex AI Agent Builder

  今回の基調講演の目玉となっていた生成AIを用いたエージェント開発のバックグラウンドに使用される機能です。RAGを備えた生成AIアプリケーションを迅速に開発できる機能として提供されていたVertex AI Search and Conversationが「Vertex AI Agent Builder」に名称を変えるとともに機能が拡張されました。使用するモデルを選択し、エージェントの目的や相手に対してどのように振舞えばよいかといった情報を伝えていくだけで、自然言語で対話できるエージェントを作成することができます。もちろん、RAGにも対応していますので、正確な情報に基づいた結果を応答に盛り込むことができます。拡張機能にも対応しており、データの可視化や他のAPIとの連携といったことも可能です。エージェントのユースケースについては後述します。

  
  

Google Workspace上の生成AI

• AI Meeting and Messaging Add-on

  自分のための会議メモ作成機能、チャットの要約機能、および 69 言語でのリアルタイム翻訳機能が追加されます。ユーザーあたり月額10ドルで利用可能です。

• AI Security Add-on

  組織向けにトレーニングされたプライバシー保護AIモデルによって、機密ファイルとデータを自動的に分類して保護してくれる機能が追加されます。ユーザーあたり月額10 ドルで利用可能です。

• Gemini in Google Chat

  Google workspaceでのGeminiがGoogle Chatに対応し、これまでのスレッドの流れや添付されたファイルに基づいてユーザーを支援することができるようになりました。デモンストレーションでは、Chatに貼り付けた、それぞれ70ページ以上もあるドキュメントをGeminiに比較させ、内容に基づいた回答でユーザーを支援する様子が示されました。

• Google Vids

  最新のworkspaceアプリとして、GoogleVidsが追加されました。生成AIを活用したビデオ作成アプリとなっていて、ドキュメントやプロンプトに基づいた映像や音楽を生成してくれるだけでなく、既存の動画や写真を読み込んでカスタムされた映像を生成することもできます。現時点では、限られたユーザーのみの試験公開となっています。

Google Cloud上の生成AI（データ領域）

• BigQuery DataCanvas

  従来のBigQuery StudioとGeminiによって行われていたSQL生成や補完、要約機能に加え、データの準備や検出、分析、ガバナンスといった領域までをカバーするようになり、UIとしてノートブックににたBigQuery Data Canvasが導入されます。データを扱うユーザーはSQLだけでなくエラーやコスト削減といった要素を考慮したデータパイプライン構築について、Geminiの支援を受けることができるようになります。

  

• Vector indexing in BigQuery and AlloyDB

  BigQueryとAlloyDBに対して、ベクトルインデックスを直接使用したクエリが発行できるようになりました。ベクトル検索は生成AIとRAGで利用されることが多いですが、この機能によりデータが保管されている場所で直接ベクトル検索ができるようになるので、AIがよりリアルタイムに、より正確な応答を生成するために役立ちます。

• Direct Access to Vertex AI from BigQuery

  BigQueryとVertex AIの接続がよりシームレスになります。BigQueryは大量データを扱えるだけでなく、非構造化データを扱えたり、ML機能としてベクトル検索用の関数が用意されていたりと、Vertex AIとの組み合わせには大きな効果があります。この機能により、従来から最大4倍高速で最大3倍のコスト効率を実現でき、BigQueryとVertex AIの連携がより強くなります。

• Gemini in Looker

  データ エージェントがワークフローと簡単に統合できるようにする、現在プレビュー段階の新機能を導入します。ビジネス データとチャットできるようにする新世代 AI 機能も追加されており、Google Workspace と統合されています。

  前述したエージェントを利用した機能としてプレビューになっています。 データエージェント（データに対して可視化や操作を行うよう設定されたエージェント）を介してやり取りすることにより、専門のアナリストと対話するようにデータから価値を引き出せます。

Google Cloud上の生成AI（セキュリティ領域）

• Gemini in Threat Intelligence・Security Command Center

  利用する生成AIモデルがGemini1.5 Proになったことに伴い、機能が拡張されています。自然言語を使用して、脅威の行動に関する洞察を得たり、リスクを把握することができる機能ですが、Geminiの進化により、長大なコードでモジュール間の関連なども読み込んで不正なコードの真の意図をより読み取れるようになったり、セキュリティ体制上でのタスク優先順位をより適切に設定できるようになりました。

Google Cloud上の生成AI（開発の補助）

• Gemini Code AssistのGemini1.5 Pro

  100万トークンという大規模なモデルが利用できるようになったため、コードの一部だけでなく、コードベース全体に対して精度の向上したGeminiを用いた開発体験を拡げることができます。

• Gemini Cloud Assist

  Gemini1.5 Proの導入に伴い、コードの中身だけに留まらず、設計、保護、運用、トラブルシューティング、パフォーマンスとコストの最適化といった観点でコードベース全体を認識し、コードの推論が行えるようになりました。

生成AI文脈でよく聞く「エージェント」とは

今回の基調講演では、生成AI関連の文脈の中でエージェントというワードが多く登場しました。

Google Cloudは、ここまでにご紹介した新機能の一つ一つをパーツのように組み合わせ、その中心を最新の生成AIモデルが担うことによって、仮想的なエージェントを作り出せると考えています。

例えば、Vertex AI Agent BuilderによってGeminiとGmailの拡張機能を接続すれば、メールの内容や添付ファイルに即した応答を返すことができ、さらにGrounding with Google Search・Grounding with Enterprise Data機能を利用して商品マスタや顧客情報といった社内データとGoogle検索を紐づければ、メールの添付ファイルに一致する商品情報を取得するようなタスクも可能です。

このようにすると、従業員エージェント（メールを読み取って、社内情報と照らし合わせて顧客に併せた最適な商品情報を提供するといった従業員のようなタスクを行うことができるエージェント）を開発することができます。同様に、顧客エージェントやデータエージェントといった、独自のエージェントを作成することができます。

Day2：開発者向け基調講演「Fast. Simple. Cutting edge. Pick three.」

4/11以降に更新予定です1日目の基調講演では主に新機能の発表を中心としたセッションとなっていましたが、開発者向けの2日目の基調講演では、それらの新機能をどのように活用して開発者に恩恵をもたらすことができるかといったシーン別のデモンストレーション中心のセッションでした。
とはいえ、生成AIが中心にあることに変わりは無く、アプリケーションの、Build（開発）、Run（実行）、Operate（運用）といった各段階で生成AIがどのように開発者を支援できるかにフォーカスされています。それではシーンごとにデモンストレーションの内容を紹介していきます。

生成AIによる開発者の支援

まずは、生成AIを利用したアプリケーション開発者の支援機能がフォーカスされ、前日に発表された生成AIを用いたコード支援機能であるGemini Code Assist と、Google Cloudでの開発全般の支援機能であるGemini Cloud Assist について、実際のユースケースに即したデモンストレーションが行われました。

デモシナリオは、とあるウェブサイトがダウンしてしまい、原因を特定、解決しなけらばならないという内容で、Geminiが開発者を支援して次々と問題が解決していく様子がデモンストレーションされました。

まずは、ウェブサイトがダウンした原因を特定するためにアラートが発生していないかを確認するところから始まりますが、早速Geminiが役に立ちます。Geminiに「最近のアラートを一覧表示して」と依頼するだけでタスクが完了してしまいました。

そして、発生しているアラートのログを表示した後、通常は大量のエラーログを読み解き原因を特定する作業が必要になるのですが、ここでもGeminiが力を発揮します。
Geminiにログの解析を依頼することで、障害の原因となったファイアウォールの誤設定を簡単に特定することができました。

そして、その原因となっているファイアウォールを削除するためのコマンドまでGeminiが生成してくれるので、ユーザーはそのコマンドをコピペして実行するだけで問題の解決ができました。
このように、通常は人力で数時間かかったり、システムを熟知したエンジニアが必要となるトラブルシューティングのシナリオでも、Geminiによる支援でわずか数分で解決できることがアピールされた内容となりました。

生成AIによるBigQuery支援

次は、データを扱うエンジニアにフォーカスがあたり、BigQueryの新機能として「Continues Query」という機能がプレビューとなったことが発表されました。

これは、リアルタイムデータの処理パイプラインを、サーバレスなBigQuery上でSQLを利用して作成できるという機能で、面倒なパイプライン管理をせずともリアルタイム分析が行えるという利点があります。この機能と、BigQueryからVertex AI上のGeminiモデルを呼び出す機能を組み合わせることで、生成AIを活用したリアルタイムデータ処理基盤を簡単に作成するデモンストレーションが行われました。

デモシナリオは、XやInstagramといったSNSの投稿データがBigQuery上にあり、マーケティングのためにSNS投稿をAIで分析するためのパイプラインを作成する、という内容です。

まず、課題となるのがSNS投稿データの分析です。SNSデータは非構造化データかつ自然言語で書かれたテキストデータになっており、ここから価値を引き出すためには本来データベース上で完結させることが難しい自然言語処理が必要になります。ですが、BigQuery上のデータに対してVertex AI上のGeminiを直接呼び出すことができるため、感情分析など生成AIを利用した処理をBigQuery上で簡単に行うことができます。問題は、生成AIにどのようなプロンプトを入力すればよいかと、BigQueryからVertex AIのGeminiを呼び出すためのやや特殊なSQLを書かなければいけないことです。しかし、Geminiによる支援があるため、どのような処理を行いたいかを説明するだけで、目的のSQLを簡単に生成することができました。

これで、SNS投稿データを分析するクエリを作ることができましたが、リアルタイムに発生するSNSデータを継続的に処理するためには、クエリをパイプライン化しなければなりません。ここで威力を発揮するのが前述したContinues Query機能です。記述したSQLを実行する際のオプションで継続クエリ」を指定することで、そのクエリをリアルタイムなデータ処理を行うパイプラインとして動かし続けることができます。このように、GeminiとBigQuery、Vertex AIの機能によって、リアルタイムなAI分析パイプラインも簡単に構築できることが示されました。

生成AIアプリケーションの開発

ここでは、生成AIを利用した開発ではなく、自分たちのアプリケーションに生成AIを組み込む際の開発手法についてデモンストレーションが行われました。デモシナリオとしては、ユーザーが自宅の画像を送信すると、マッチした家具をおススメしてくれるアプリを作成するといった内容です。
実際にアプリケーションに部屋の画像をアップロードすると、雰囲気の合った家具がいくつかおススメされる様子を見ることができました。アーキテクチャも紹介され、アプリケーションの裏側には生成AIだけでなくRAGによる拡張生成によって自社の製品をモデルが検索できるようになっていることが示されています。

ここで登場するのが、RAGのためのベクトル検索用データベースで、このデモではAlloyDBが使用されています。先日発表のあった新機能で、AlloyDBやBigQueryに対して直接ベクトルインデックスを利用したクエリが発行できるようになっており、その機能を利用しています。商品画像と商品説明をベクトル化したうえでデータベースに保存し、ベクトルインデックス検索を直接行うことで、類似商品や関連しそうな商品を生成AIモデルが見つけることができるようになっています。

生成AIによるCloud Run支援

ここでは、Cloud Runアプリケーションキャンバスという新機能が発表されました。
Geminiを利用したGoogle Cloud全体の開発支援機能であるGemini Cloud Assistについては1日目に発表されたことを述べましたが、Cloud Runアプリケーションキャンバスでは、このGemini Cloud AssistがよりCloud Runに特化した形で統合されます。注目すべきは、自然言語を通してデプロイしたいサービスを説明するだけで、1つのCloud Runサービスだけでなく、複数のサービスを組み合わせた完全なサービスをデプロイできるということです。Gemini Cloud AssistはGoogle Cloud全体のリソースとアセットを把握し、接続されているので、必要に応じてデータベースやロードバランサーといったコンポーネントも一緒に構成することができます。

よって、Cloud Runによらず、必要なサービスを複数にまたがってデプロイすることができます。

プロンプトエンジニアリング支援

1日目に発表されたプロンプトマネジメントツールのデモンストレーションが行われました。LLMでの開発では、LLMへの最適な指示、すなわちプロンプトをよりよくするために試行錯誤が行われますが、通常はコードの中にプロンプトも同様に組み込まれているケースがほとんどです。しかし、そのような整理できていない環境の中ではプロンプトを改善していくのは難しいことが予想されます。そういった時に役に立つのが先日発表されたプロンプト管理ツールと、プロンプト評価ツールで、そのデモンストレーションが行われました。

これらのツールでは、管理しているプロンプトについて変更が発生するとその差を追跡し、パフォーマンスが良くなっているのか、悪くなっているのかをリアルタイムで確認することができます。

加えて、ここからプロンプトにさらなる変更を加えた時にどうなるかという比較画面も表示することができます。

このように、プロンプトを改善していくのにとても便利なツールだと言えます。プロンプトの比較だけでなく、バージョン管理や他のメンバーとのコラボレーションといった開発に役立つ機能も搭載されており、LLMを活用したモデルをより戦略的に開発することができそうです。

注目のアップデート情報をピックアップしてみた

ここまで2日間にわたって、基調講演の発表内容を中心にアップデート内容の概要をお伝えしてきました。ここからは基調講演以外のセッションも含め、筆者が注目している新機能を3つほどピックアップしてご紹介します。

BigQuery Workflows

1つめは「what’s new with BigQuery」というBigQuery関連の最新情報が発表されたセッションから BigQuery workflows を紹介します。

BigQuery workflowsは、BigQuery Studio（SQLやPython Notebookなどが統合されたエディタ画面）で利用できるワークフロー構築機能です。
BigQuery上でデータを扱っていると、データ加工やクレンジングの一連の処理をパイプライン化したり、スケジュールして動かしたいというケースは良くあると思います。これまではDataformというBigQuery組み込みの機能がその役割を担っていましたが、パイプラインをSQLXというやや特殊な形式で記述しなければいけなかったりと、ハードルが低いと言えるものではありませんでした。

BigQuery workflowsでは、BigQuery StudioのGUIを利用して、グラフィカルにパイプラインを作成することができるようになりました。そのため、パイプラインを構築するためのデータエンジニア的なスキルを持っていなくても、SQLやPythonノートブックを一連の処理の中に組み込み、簡単にパイプラインを構築できるようになりました。ではDataformの役割が無くなったのかというとそうではなく、バージョン管理なども含めてコードベースで管理したい場合はDataformを、GUIで手軽にパイプラインを構築したい場合はBigQuery workflowsをといった住み分けになります。ともかく、躓きがちなパイプライン構築に新たな手段が増えたのは素晴らしいアップデートでした。

Looker Conversational Analytics

2つ目は、Google CloudのBIツールであるLookerと生成AIのコラボレーションが紹介された「Talk with your business data using generative AI」というセッションからLooker Conversational Analytics を紹介します。

Lookerでは、昨年から生成AIとの統合を進めており、自然言語でグラフやダッシュボードを作成したり、データ探索ができる機能が発表されていました。
今回の発表では、それらの機能がさらに発展し、Conversational Analyticsという専用の画面を用いてデータ探索から可視化までの一連のタスクを実行できるようになることが発表されました。
ここでポイントとなるのが、これらの機能がLookerのセマンティックレイヤーと統合されていることです。生成AIが正しいデータを扱えるためには、裏側のデータ基盤が正しく整備されている必要がありますが、もともとLookerはBIツールというよりデータモデリング・ガバナンス管理ツールとしての機能が強く、こういったLookerならではの特徴があるからこそ生成AIとのコラボレーションがより強力になります。データを扱う人にとって強力なツールとなるのではないでしょうか。

Google Cloud Next'24｜3日間のまとめ

ここまでGoogle Cloud Next’24の最新情報をお届けしてきましたが、いかがでしたでしょうか？
今回のイベントでは、昨年に引き続き生成AIの分野について多くの発表がありました。

2023年は生成AI自体の話題がまだ新しく、個々サービスがバラバラな感じを受けましたが、今年の発表ではGeminiという強力な基盤モデルを中心に、それぞれのサービスが連携し合うことで、より実際のユースケースやビジネスに採用しやすい生成AIサービスが多く発表された印象を受けました。

さらに、生成AI以外の分野でもインフラ基盤や開発基盤の強化など、期待されている機能が確実に増えてきています。電算システムでは、これらGoogle Cloudの特徴を活かして、お客様のビジネスを支援しています。生成AIからデータ分析まで、お困りの際はぜひご相談ください。