Dongguan Lanbo Electronics Technology Co., Ltd.

Home > Blog

次世代AIインフラ: データのボトルネックを克服するPCIe 7.0の役割

人工知能(AI)がかつてないペースで発展し続ける中、ハードウェア・インフラストラクチャへの要求も強まっている。多くのAI駆動型アプリケーションを支える大規模言語モデル(LLM)は複雑さを増しており、そのパラメータは4~6カ月ごとに倍増している。この指数関数的な成長は、最先端のシステムでさえ効率的な処理に苦労するほど巨大なデータセットを生み出している。例えば、現存する最も高度なモデルのひとつであるGPT-4は、1兆を超えるパラメータを持ち、膨大な量のデータの転送と保存を必要とする。これは、高解像度の画像なら20万枚分、文書なら50万枚分に相当する。

このような膨大な量のデータを転送するには、従来のインフラが速度と帯域幅のボトルネックに直面しているため、相互接続技術の画期的な進歩が必要です。AIシステムが効果的に動作するためには、高速で低遅延のデータ転送が不可欠となっている。堅牢で信頼性の高いインターコネクトがなければ、最も複雑なAIアルゴリズムや最も強力なプロセッサーやアクセラレーターでさえ、大きな障害となる。これは、大規模なAIのトレーニングと推論が行われるハイパースケールデータセンターが、現在のインフラストラクチャでAIモデルを処理するのに苦労しているため、特に当てはまります。

PCIe 7.0の登場:AIデータのボトルネックに対するソリューション

こうした課題に対応するため、PCI Express(PCIe)規格が再び更新され、PCIe 7.0が画期的なソリューションを提供する。PCIe 7.0は、最大512 GB/秒という驚異的な帯域幅を備え、AIワークロードが直面するデータ転送のボトルネックを解消するよう設計されている。これは、AIモデルが複雑化し、データセットのサイズが大きくなるにつれて特に重要であり、高速かつ広帯域のソリューションが効率性を維持するために不可欠となります。

最新のAIインフラストラクチャは、大規模な機械学習モデルの訓練と実行のために、大規模な並列コンピューティングパワーに依存しています。PCIe 7.0の超低レイテンシは、プロセッサが複数のアクセラレータとコンピュート・ユニットを同時に処理できるようにするために不可欠です。実際、先進的なアーキテクチャでは現在、ロードストアアーキテクチャをサポートする相互接続技術が必要とされており、1つのコンピュートユニット内に最大1,024個のアクセラレータを接続することができます。このレベルの接続性により、AIシステムはデータをより効率的に管理・処理できるようになり、大規模で複雑なモデルをスムーズに処理できるようになります。

PCIe 7.0は、帯域幅の向上とレイテンシの低減に加え、最新のコンピューティングのもう1つの重要な側面であるデータ・セキュリティにも対応しています。この規格には、ネットワークを介して転送されるデータの機密性と完全性を保証するIDE(Integrity and Data Encryption)プロトコルを含む高度なセキュリティ機能が組み込まれています。トランザクション・レイヤ・パケット(TLP)とフロー制御ユニット(FLIT)を改ざんから保護することで、PCIe 7.0はハードウェア・レベルの攻撃リスクを軽減します。

シノプシス、PCIe 7.0 IPソリューションで先行

半導体業界のリーダーであるシノプシスは今週、AIやハイ・パフォーマンス・コンピューティング(HPC)チップ開発で高まるニーズに対応する包括的なPCIe 7.0 IPソリューションを発表した。シノプシスは、PCIe IPで20年以上の実績を持ち、これまで数百社の企業と協力して3,000以上のシステムを設計しており、インターコネクト・ソリューションの信頼できるプロバイダーとしての地位を確立している。

同社の新しいPCIe 7.0 IPソリューションは、プロセッサー、アクセラレーター、フラッシュ・コントローラー、ソリッド・ステート・ドライブ(SSD)、リタイマー、スマートNIC、スイッチ間のシームレスな広帯域接続を提供することで、AIおよびHPCチップのパフォーマンスを強化するように設計されている。PCIe 7.0の帯域幅機能とIDEセキュリティ機能により、企業は大規模なAI環境において信頼性の高い安全なデータ転送を確保することができます。

シノプシスのソリューションは、高帯域幅のインターコネクトを提供するだけでなく、消費電力を旧世代のPCIeと比較して50%削減することも可能である。さらに、このシステムは優れたシグナルインテグリティを提供し、1レーンあたり最大128 Gb/sの速度をサポートし、データ転送の高速性、信頼性、安全性を保証する。

DeepL.com(無料版)で翻訳しました。

ce43671e0809c93deb6057891f38288