Nvidia щойно завела $4 млрд у фотоніку, і якщо читати не пресреліз, а сам жест, сенс простий: мідь як interconnect дата-центрів мертва. Не GPU. Дріт між GPU. Два мільярди з цих грошей пішли в компанії, про які більшість інженерів навіть не чули, і вони взагалі не роблять чипи. Вони збирають інфраструктуру зі світла.

Я десять років проєктую, монтую й автоматизую інфраструктуру, останні роки — із зони бойових дій, де фізичні обмеження перестають бути абстракцією. Тому коли компанія, що друкує гроші на GPU, замість цього витрачає чотири мільярди на проблему кабелів, я звертаю увагу. Ця цифра прямо каже, де справжня стеля.

Вузьке місце ніколи не було в чипах

Ми говоримо про AI так, ніби це історія про чипи. Швидше GPU, більша модель, більше FLOPs. Але подивіться, що насправді відбувається всередині тренувального кластера. Десятки тисяч GPU без упину розмовляють одне з одним. Вони ганяють градієнти, синхронізують параметри, перекидають активації мільярди разів на секунду. Сучасний запуск — це не один чип, що напружено думає. Це сто тисяч чипів, які не замовкають ні на мить.

Уся ця розмова їде по interconnect. І на масштабі кластера у 100 000 GPU саме interconnect вирішує, потече все чи захлинеться. Можна поставити найшвидший GPU в історії, та якщо фабрика між ними не тягне, GPU простоює в очікуванні даних. Це найдорожча тиша в індустрії.

Мідь уперлася в стіну, яку фізика не зрушить

Мідь довезла нас далеко, але на цьому масштабі вона натикається одразу на три проблеми, і жодна з них не інженерна. Це властивості самого металу.

  • Опір перетворює сигнал на тепло. Жени електрони по міді досить швидко — і частина сигналу стає паразитним теплом, яке тепер треба відводити. На масштабі кластера охолодження interconnect саме по собі стає статтею бюджету.
  • Сигнал деградує з відстанню. Можна швидше або можна далі, але мідь не дасть і те, і інше. За кожен зайвий метр платиш цілісністю сигналу.
  • Енергія на біт дрібна, але реальна. Один біт — ніщо. Але на трафіку в петабайти за секунду ця копійчана ціна за біт перестає бути похибкою і починає світитися в рахунку за електрику.

Жодна хитра архітектура це не прибирає. Із середовища не випроєктуєшся. Це і є стіна.

Чому у світла такої проблеми немає

Фотони живуть за іншими правилами. Немає заряду — немає тепла від опору. Немає помітної деградації на тих відстанях, що всередині дата-центру. А через wavelength division multiplexing можна пустити десятки незалежних потоків даних по одному оптичному каналу на різних довжинах хвилі, одночасно, і вони не заважають одне одному. Мідь дає одну смугу на дріт. Світло — цілу магістраль у тому ж фізичному об'ємі.

Цифри підтверджують фізику. MIT опублікував дослідження: близько 90% економії енергії на матричних множеннях — базовій операції під кожною нейромережею — коли цю математику рахують на фотонному залізі. Це не підкрутка на 10%. Це та сама робота на іншому фізичному субстраті за десяту частину енергії. І це вже не лише лабораторія: LightMatter пройшов шлях від лабораторії MIT до продакшн-заліза менш ніж за сім років. Оптичний лінк уже зараз жене приблизно в 10–100 разів більше даних на з'єднання, ніж мідний аналог.

$4 млрд — це ринковий сигнал, а не наукова заява

Ось частина, якій я вірю більше, ніж будь-якому whitepaper. Дженсен Хуанг — не романтик від фотоніки. Роками він обирав мідь замість оптики всюди, де мідь ще мала сенс, бо мідь була дешевша і її вистачало. Nvidia купила Mellanox саме тому, що розуміла: мережа і є комп'ютер.

Тож коли та сама людина заводить $4 млрд — приблизно $2 млрд у виробника фотоніки і $2 млрд в оптичну компанію Coherent — це не ставка на науку. Це повідомлення про те, де мідь перестає мати сенс. Коли людина з міддю на руках починає скуповувати світло, гра вже змінилася.

Що це означає, якщо ти будуєш інфраструктуру

Кожен великий перехід у залізі народжував покоління інженерів, які розібралися в новому субстраті раніше, ніж більшість дізналася про його існування. Multi-core. GPU. Cloud. Щоразу вигравали ті, хто заговорив новою мовою рано. У ранніх cloud-інженерів була фора в десять років, і по кар'єрах це було видно.

Фотоніка — наступна в черзі. Якщо ти монтуєш, комутуєш і автоматизуєш інфраструктуру дата-центрів, фізичний шар під твоєю роботою скоро зміниться, і питання в «коли», а не «якщо». Кидати свою справу не треба. Треба почати читати про оптичні interconnect так само, як колись почав читати про контейнери.

Фізика завжди виграє. Вона просто вирішила виграти в новому місці. Роби ставки відповідно.