Инфраструктура ИИ следующего поколения: Роль PCIe 7.0 в преодолении узких мест в работе с данными
Поскольку искусственный интеллект (ИИ) продолжает развиваться беспрецедентными темпами, требования к аппаратной инфраструктуре растут. Большие языковые модели (LLM), на которых базируются многие приложения, основанные на ИИ, становятся все сложнее, их параметры удваиваются каждые четыре-шесть месяцев. Этот экспоненциальный рост привел к появлению настолько огромных массивов данных, что даже самые современные системы с трудом справляются с их эффективной обработкой. Например, в GPT-4, одной из самых совершенных существующих моделей, число параметров превышает триллион, что требует передачи и хранения огромных объемов данных. В перспективе этот объем равен примерно двум триллионам байт – столько данных, чтобы заполнить 200 000 изображений высокого разрешения или полмиллиона документов.

Передача таких огромных объемов данных требует революционных достижений в технологии межсетевого взаимодействия, поскольку традиционная инфраструктура сталкивается с узкими местами в скорости и пропускной способности. Высокоскоростная передача данных с низкой задержкой стала необходимым условием для эффективной работы систем искусственного интеллекта. Без надежных и высоконадежных межсоединений даже самые сложные алгоритмы ИИ и самые мощные процессоры и ускорители будут работать с большим трудом. Это особенно актуально, поскольку гипермасштабные центры обработки данных, в которых происходит масштабное обучение и вывод выводов ИИ, не справляются с моделями ИИ с помощью существующей инфраструктуры.

PCIe 7.0: решение проблемы нехватки данных для ИИ

В ответ на эти проблемы стандарт PCI Express (PCIe) был в очередной раз обновлен, и PCIe 7.0 предлагает революционное решение. Благодаря впечатляющей пропускной способности до 512 ГБ/с PCIe 7.0 призван устранить узкие места в передаче данных, с которыми сталкиваются рабочие нагрузки ИИ. Это особенно важно, поскольку модели ИИ становятся все более сложными, а их наборы данных увеличиваются в размерах, что делает высокоскоростные решения с высокой пропускной способностью критически важными для поддержания эффективности.

Современные инфраструктуры ИИ опираются на огромные параллельные вычислительные мощности для обучения и выполнения больших моделей машинного обучения. Сверхнизкая задержка PCIe 7.0 необходима для того, чтобы процессоры могли одновременно работать с несколькими ускорителями и вычислительными блоками. Более того, современные архитектуры теперь требуют технологий межсоединений, поддерживающих архитектуры с магазинами загрузки, что позволяет подключать до 1024 ускорителей в рамках одного вычислительного блока. Такой уровень связности позволяет системам ИИ более эффективно управлять данными и обрабатывать их, обеспечивая бесперебойную работу с большими и сложными моделями.

Помимо увеличения пропускной способности и снижения задержек, PCIe 7.0 решает еще один важнейший аспект современных вычислений – безопасность данных. Стандарт включает в себя передовые функции безопасности, в том числе протокол Integrity and Data Encryption (IDE), который обеспечивает конфиденциальность и целостность данных, передаваемых по сети. Защищая пакеты транзакционного уровня (TLP) и блоки управления потоком (FLIT) от несанкционированного доступа, PCIe 7.0 снижает риск атак на аппаратном уровне.

Synopsys занимает лидирующие позиции в области IP-решений PCIe 7.0

На этой неделе компания Synopsys, лидер полупроводниковой промышленности, представила комплексное IP-решение PCIe 7.0, направленное на удовлетворение растущих потребностей в разработке чипов для ИИ и высокопроизводительных вычислений (HPC). Имея более чем двадцатилетний опыт работы в области PCIe IP, Synopsys сотрудничала с сотнями компаний, разработав более 3 000 систем, и закрепила за собой место надежного поставщика решений для межсоединений.

Новое IP-решение PCIe 7.0 предназначено для повышения производительности чипов для ИИ и высокопроизводительных вычислений за счет обеспечения бесперебойных соединений с высокой пропускной способностью между процессорами, ускорителями, контроллерами флэш-памяти, твердотельными накопителями (SSD), ретаймерами, интеллектуальными сетевыми картами и коммутаторами. Благодаря пропускной способности PCIe 7.0 и функциям защиты IDE компании могут обеспечить надежную и безопасную передачу данных в крупномасштабных средах ИИ.

Помимо обеспечения высокой пропускной способности межсоединений, решение Synopsys также снижает энергопотребление на 50 % по сравнению с предыдущими поколениями PCIe, что является критически важным фактором в современном технологическом ландшафте, ориентированном на энергосбережение. Кроме того, система обеспечивает превосходную целостность сигнала, поддерживая скорость до 128 Гбит/с на линию, что гарантирует быструю, надежную и безопасную передачу данных.