인공지능(AI)이 전례 없는 속도로 계속 발전함에 따라 하드웨어 인프라에 대한 요구가 심화되고 있습니다. 많은 AI 기반 애플리케이션을 구동하는 대규모 언어 모델(LLM)은 4~6개월마다 매개변수가 두 배로 증가하면서 점점 더 복잡해지고 있습니다. 이러한 기하급수적인 증가로 인해 데이터 세트가 너무 방대해져 최첨단 시스템조차도 효율적으로 처리하는 데 어려움을 겪고 있습니다. 예를 들어, 현존하는 가장 진보된 모델 중 하나인 GPT-4는 매개변수가 1조 개를 넘어 엄청난 양의 데이터를 전송하고 저장해야 합니다. 이 양은 약 2조 바이트에 해당하는 데이터로, 고해상도 이미지 20만 장 또는 문서 50만 개를 채울 수 있는 양입니다.

이러한 엄청난 양의 데이터를 전송하려면 기존 인프라는 속도와 대역폭의 병목현상에 직면하기 때문에 상호 연결 기술의 획기적인 발전이 필요합니다. AI 시스템이 효과적으로 작동하기 위해서는 고속, 저지연 데이터 전송이 필수적입니다. 견고하고 신뢰성이 높은 상호 연결이 없다면 아무리 복잡한 AI 알고리즘과 가장 강력한 프로세서 및 가속기라도 심각한 장애를 겪을 수 있습니다. 특히 대규모 AI 학습과 추론이 이루어지는 하이퍼스케일 데이터센터의 경우 현재 인프라로는 AI 모델을 처리하는 데 어려움을 겪고 있습니다.

PCIe 7.0: AI 데이터 병목현상의 해결책

이러한 과제에 대응하기 위해 PCI Express(PCIe) 표준이 다시 한 번 업데이트되었으며, PCIe 7.0은 획기적인 솔루션을 제공합니다. 최대 512GB/s의 인상적인 대역폭을 제공하는 PCIe 7.0은 AI 워크로드가 직면하는 데이터 전송 병목 현상을 완화하도록 설계되었습니다. 이는 AI 모델이 점점 더 복잡해지고 데이터 세트의 크기가 커지면서 효율성을 유지하기 위해 고속, 고대역폭 솔루션이 중요해짐에 따라 특히 중요해졌습니다.

최신 AI 인프라는 대규모 머신 러닝 모델을 훈련하고 실행하기 위해 대규모 병렬 컴퓨팅 성능에 의존합니다. PCIe 7.0의 초저지연은 프로세서가 여러 가속기와 컴퓨팅 유닛을 동시에 처리할 수 있도록 하는 데 필수적입니다. 실제로 고급 아키텍처는 이제 로드 스토어 아키텍처를 지원할 수 있는 상호 연결 기술을 필요로 하며, 단일 컴퓨팅 유닛 내에서 최대 1,024개의 가속기를 연결할 수 있습니다. 이러한 수준의 연결성을 통해 AI 시스템은 데이터를 보다 효율적으로 관리하고 처리할 수 있어 크고 복잡한 모델을 원활하게 처리할 수 있습니다.

대역폭을 높이고 지연 시간을 줄이는 것 외에도 PCIe 7.0은 최신 컴퓨팅의 또 다른 중요한 측면인 데이터 보안 문제도 해결합니다. 이 표준에는 네트워크를 통해 전송되는 데이터의 기밀성과 무결성을 보장하는 IDE(무결성 및 데이터 암호화) 프로토콜을 비롯한 고급 보안 기능이 통합되어 있습니다. 트랜잭션 계층 패킷(TLP)과 흐름 제어 장치(FLIT)가 변조되지 않도록 보호함으로써 PCIe 7.0은 하드웨어 수준 공격의 위험을 완화합니다.

PCIe 7.0 IP 솔루션으로 선두를 달리는 Synopsys

이번 주 반도체 업계의 선두주자인 Synopsys는 AI 및 고성능 컴퓨팅(HPC) 칩 개발의 증가하는 요구 사항을 해결하기 위한 포괄적인 PCIe 7.0 IP 솔루션을 공개했습니다. PCIe IP 분야에서 20년 이상의 경험을 쌓아온 Synopsys는 수백 개의 기업과 협력하여 3,000개 이상의 시스템을 설계하며 신뢰할 수 있는 상호 연결 솔루션 제공업체로 입지를 굳혔습니다.

이 회사의 새로운 PCIe 7.0 IP 솔루션은 프로세서, 가속기, 플래시 컨트롤러, SSD(솔리드 스테이트 드라이브), 리타이머, 스마트 NIC 및 스위치 간에 원활한 고대역폭 연결을 제공하여 AI 및 HPC 칩의 성능을 향상시키도록 설계되었습니다. PCIe 7.0의 대역폭 기능과 IDE 보안 기능을 통해 기업은 대규모 AI 환경에서 안정적이고 안전한 데이터 전송을 보장할 수 있습니다.

Synopsys 솔루션은 고대역폭 인터커넥트를 제공할 뿐만 아니라, 에너지에 민감한 오늘날의 기술 환경에서 중요한 요소인 전력 소비를 이전 PCIe 세대에 비해 50%까지 줄여줍니다. 또한 이 시스템은 뛰어난 신호 무결성을 제공하여 레인당 최대 128Gb/s의 속도를 지원하므로 빠르고 안정적이며 안전한 데이터 전송을 보장합니다.