3万ドルを超える価格にもかかわらず、NvidiaのH100 GPUは人気商品であり、通常はバックオーダー状態です。今年初め、Google CloudはH100搭載のA3 GPU仮想マシンのプライベートプレビューを発表しました。これは、NvidiaのチップとGoogleがカスタム設計した200Gbpsのインフラストラクチャ処理ユニット（IPU）を組み合わせたものです。そして今、GoogleはCloud Nextカンファレンスにおいて、来月にA3を一般提供開始すると発表しました。
Google Cloud は生成 AI モデルと大規模言語モデルのトレーニングと提供に重点を置いているため、これらのチップの需要に応えられるかどうかを見守る必要があります。
Google Cloud は昨年 A3 を発表した際、最大 26 エクサフロップスの AI パフォーマンスと、カスタム IPU のおかげもあって前世代の A2 マシンと比較して最大 10 倍のネットワーク帯域幅を実現すると述べていた。
「A3は、極めて要求が厳しくスケーラブルな生成AIワークロードと大規模言語モデルのトレーニング、チューニング、提供を目的として構築されています」と、Google CloudのコンピュータおよびMLインフラストラクチャ担当バイスプレジデント兼ゼネラルマネージャーであるマーク・ローメイヤー氏は、本日の発表に先立つ記者会見で述べました。「A3は、インフラストラクチャ処理やオフロードといったGoogleのネットワーク技術を含む、Google独自のイノベーションを数多く活用しており、これらのワークロードに必要な大規模なスケールとパフォーマンスをサポートします。」
トピック
フレデリックは2012年から2025年までTechCrunchに在籍していました。また、SiliconFilterを設立し、ReadWriteWeb（現ReadWrite）にも寄稿しています。フレデリックは、エンタープライズ、クラウド、開発者ツール、Google、Microsoft、ガジェット、交通機関など、興味のあるあらゆる分野をカバーしています。
バイオを見る
