InfiniBand

Infiniband — высокоскоростная коммутируемая последовательная шина, применяющаяся как для внутренних (внутрисистемных), так и для межсистемных соединений.

Описания Infiniband специфицированы, поддержкой и развитием спецификаций занимается InfiniBand Trade Association .

Краткое описание

Файл:Infinibandport.jpg

Порты InfiniBand (коммутатор Voltaire ISR-6000)

Подобно PCI Express Infiniband использует двунаправленную последовательную шину. Базовая скорость — 2,5 Гбит/с в каждом направлении; в настоящий момент (2006 г.) применяются, чаще всего, Single Data Rate (SDR) каналы (англ. lanes) 1x, 4x и 12x. Поддерживается также работа с Double Data Rate (DDR, 20 Гбит/с) и Quad Data Rate (QDR, 40 Гбит/с).

Основное назначение Infiniband — межсерверные соединения, в том числе и для организации RDMA (Remote Direct Memory Access).

Пропускная способность интерфейса Infiniband, raw / data

	SDR	DDR	QDR
1X	2,5 / 2 Гбит/с	5 / 4 Гбит/с	10 / 8 Гбит/с
4X	10 / 8 Гбит/с	20 / 16 Гбит/с	40 / 32 Гбит/с
12X	30 / 24 Гбит/с	60 / 48 Гбит/с	120 / 96 Гбит/с

Протоколы и API

Infiniband используется следующими протоколами и API:

• RDMA (англ. Remote Direct Memory Access) — группа протоколов удалённого прямого доступа к памяти, при котором передача данных из памяти одного компьютера в память другого компьютера происходит без участия операционной системы, при этом исключается участие CPU в обработке кода переноса и необходимость пересылки данных из памяти приложения в буферную область ОС, то есть данные пересылаются напрямую на соответствующий сетевой контроллер.
• uDAPL (англ. User Direct Access Programming Library) — библиотека API для абстрактного транспорта прямого доступа (англ. Direct Access Transport, DAT). uDAPL (и другие API — в частности kDAPL — kernel DAPL) разрабатывается и поддерживается организацией DAT Collaborative.
• IPoIB (IP over Infiniband) — группа протоколов, описывающих передачу IP-пакетов поверх Infiniband:
  • RFC 4390 Dynamic Host Configuration Protocol (DHCP) over InfiniBand
  • RFC 4391 Transmission of IP over InfiniBand (IPoIB)
  • RFC 4392 IP over InfiniBand (IPoIB) Architecture
• SRP (англ. SCSI RDMA Protocol) — протокол обмена данными между SCSI-устройствами с использованием RDMA. Определён в стандарте ANSI INCITS 365—2002.
• DDP (англ. Direct Data Placement): RFC 4296 The Architecture of Direct Data Placement (DDP) and Remote Direct Memory Access (RDMA) on Internet Protocols
• SDP (англ. Socket Direct Protocol) — протокол установления виртуальных соединений и обмена данными между сокетами поверх Infiniband, передача данных не использует TCP стек ОС, однако использует IP-адреса и может использовать IPoIB для их разрешения.

Характеристики

• Производители: наиболее распространены аппаратные решения от компаний Qlogic, Mellanox, Voltaire, Topspin (компания Topspin была приобретена компанией Cisco в 2005-м году).
• Тесты производителей показывают пропускную способность на уровне MPI около 800 МБ/сек и время задержки 1—7 мкс.
• Топология: коммутируемая с использованием Fat Tree для больших конфигураций, существующие коммутаторы поддерживают большое количество (>256) портов.
• Программное обеспечение: драйверы от производителей аппаратных средств, различные библиотеки MPI как коммерческие так и бесплатные.
• Корпорацией Oracle Corporation был разработан специальный протокол RDS, ориентированный на работу с этой шиной.

Другие сети для суперкомпьютеров

Ниже приведены наиболее часто используемые типы коммуникаций для суперкомпьютеров и их основные характеристики.

• Ethernet
• Myrinet
• SCI
• QsNet
• RapidIO

Ссылки

• Обзор InfiniBand