Cerebras Systems: як компанія створює великі AI-чипи для навчання моделей

Уявіть процесор розміром із обідню тарілку — саме так виглядає головний продукт Cerebras Systems. Поки більшість виробників чипів для штучного інтелекту нарізають кремнієву пластину на сотні окремих кристалів, ця компанія з Каліфорнії пішла протилежним шляхом: вона залишила пластину цілою й перетворила її на один гігантський процесор. Результат — найбільший чип у історії обчислень і системи, які навчають мовні моделі з трильйонами параметрів. Розберімося, хто стоїть за Cerebras Systems, як працює її технологія, на чому компанія заробляє та чому її називають одним із небагатьох реальних конкурентів NVIDIA.

Що таке Cerebras Systems і чим вона відома

Cerebras Systems — приватна технологічна компанія зі США, штаб-квартира якої розташована в Саннівейлі, Каліфорнія, у серці Кремнієвої долини. Вона проєктує спеціалізовані процесори та комп’ютерні системи для завдань штучного інтелекту — насамперед для навчання великих нейронних мереж та їхнього подальшого застосування (інференсу). Схожий продуктовий підхід, але в програмному сегменті, мають українські продуктові IT-компанії, які створюють власні рішення замість аутсорсингу.

Головна відмінність Cerebras від інших гравців ринку — підхід wafer-scale, тобто «масштаб пластини». Стандартна кремнієва пластина діаметром 300 мм зазвичай розрізається на десятки чи сотні окремих чипів. Інженери Cerebras натомість використали всю площу пластини як єдиний процесор. Це дає кілька практичних переваг: десятки тисяч обчислювальних ядер опиняються на одному кристалі, обмін даними між ними відбувається всередині чипа, а не через зовнішні з’єднання, а вся необхідна пам’ять розміщується поруч із ядрами.

Завдяки цьому системи Cerebras займають окрему нішу: навчання та обслуговування дуже великих моделей без необхідності збирати кластери з тисяч окремих прискорювачів. Там, де конкурентам потрібні складні ферми з сотень відеокарт і тижні на її налаштування, Cerebras пропонує компактне рішення у вигляді однієї або кількох систем.

Історія Cerebras Systems: від заснування до виходу на ринок

Компанія Cerebras Systems була заснована у 2016 році групою інженерів на чолі з Ендрю Фельдманом. Фельдман — досвідчений підприємець: раніше він очолював компанію SeaMicro, яка виробляла компактні енергоефективні сервери та була придбана AMD у 2012 році приблизно за 334 мільйони доларів. Після угоди Фельдман кілька років працював у AMD, а потім разом із колегами — Гері Лаутербахом, Майклом Джеймсом, Шоном Лі та Жаном-Філіппом Фрікером — взявся за нову амбітну задачу.

Ідея здавалася майже божевільною. У напівпровідниковій галузі десятиліттями панувало правило: чим більший кристал, тим нижча ймовірність того, що він вийде працездатним, адже будь-який дефект на кремнії руйнує чип. Через це ніхто всерйоз не намагався створювати процесор із цілої пластини з часів експериментів 1980-х. Команда Cerebras розв’язала проблему за допомогою вбудованої надлишковості: на чипі є запасні ядра й маршрути передачі даних, тож поодинокі дефекти не виводять систему з ладу.

Кілька років компанія працювала в «режимі тиші», не публікуючи деталей розробки. Перший продукт — Wafer-Scale Engine (WSE) і систему CS-1 — було представлено у 2019 році. Чип мав понад 400 тисяч ядер і 1,2 трильйона транзисторів, що на той момент було беззаперечним рекордом. Виготовлення пластин компанія доручила тайванському гіганту TSMC, який залишається її виробничим партнером.

Далі події розвивалися швидко:

• 2020 рік — перші комерційні розгортання, зокрема в національних лабораторіях США;
• 2021 рік — чип WSE-2 і система CS-2 з 850 тисячами ядер; залучення великого раунду інвестицій, після якого оцінка компанії перевищила 4 мільярди доларів;
• 2022 рік — запуск Andromeda, суперкомп’ютера з 13,5 мільйона ядер для наукових установ;
• 2024 рік — анонс WSE-3 із 4 трильйонами транзисторів та запуск хмарного сервісу інференсу; подання заявки на вихід на біржу (IPO);
• 2025 рік — проведення IPO та лістинг акцій на Nasdaq.

Таким чином, менш ніж за десятиліття компанія пройшла шлях від сміливої інженерної ідеї до публічної компанії з виробами, які використовують урядові лабораторії, фармацевтичні корпорації та технологічні гіганти. Це також показує, як у високотехнологічному обладнанні формуються бізнес-моделі компаній: від продажу самих систем до довгострокових сервісних контрактів.

Як працює технологія wafer-scale

Щоб зрозуміти, як працює Cerebras Systems, варто коротко розібратися в проблемі, яку вона розв’язує. Навчання великої мовної моделі вимагає колосальних обсягів обчислень, і жоден окремий чип із ними не справляється. Тому індустрія збирає кластери: сотні й тисячі GPU з’єднують між собою мережевими комутаторами, а потім довго розподіляють модель між ними. Значна частина часу й енергії при цьому йде не на обчислення, а на пересилання даних між прискорювачами. Програмістам доводиться писати складний код для паралельної роботи, а інженерам — дебагувати розподілені системи.

Підхід Cerebras інший. Оскільки весь процесор — це одна пластина, на ній поміщаються сотні тисяч ядер і десятки гігабайтів надшвидкої пам’яті SRAM. Пропускна здатність обміну даними всередині кристала на порядки вища, ніж між окремими чипами. Практичний наслідок: модель із десятками мільярдів параметрів може тренуватися на одній системі без розпаралелювання, а розробник працює з нею майже так само, як із ноутбуком — пише код на PyTorch, а компілятор Cerebras сам розподіляє обчислення по ядрах.

Форм-фактор теж продуманий. Система CS-3 займає приблизно третину стандартної серверної стійки, тоді як кластер з аналогічною ефективною продуктивністю на GPU вимагав би багатьох стійок обладнання, сотень кабелів і потужної мережевої інфраструктури. Для моделей, які все ж не вміщаються у внутрішню пам’ять чипа, компанія розробила технологію MemoryX — зовнішню пам’ять, що дозволяє працювати з моделями на трильйони параметрів, і SwarmX — з’єднання кількох систем у кластер. У розвитку такої інфраструктури дедалі більшу роль відіграє історія Supermicro, яка демонструє, як серверний виробник стає частиною ланцюга постачання AI-дата-центрів.

Покоління чипів WSE

Кожне покоління приблизно подвоювало ключові характеристики, а кількість транзисторів у WSE-3 в десятки разів перевищує показники найбільших GPU того самого періоду.

Навчання та інференс

Спочатку Cerebras позиціонувалася виключно як платформа для навчання моделей, але з 2024 року компанія активно розвиває сервіс інференсу — швидкої генерації відповідей уже навченими моделями. Великий обсяг вбудованої пам’яті дозволяє її чипам обходити вузьке місце більшості GPU — обмежену пропускну здатність зовнішньої пам’яті HBM. У низці незалежних тестів системи Cerebras демонстрували рекордну швидкість генерації токенів для відкритих мовних моделей, що особливо важливо для застосунків реального часу: голосових асистентів, агентних систем і інтерактивних сервісів.

Бізнес-модель Cerebras Systems

Бізнес-модель Cerebras Systems спирається на три взаємодоповнювані джерела доходу, і розуміння цього балансу пояснює стратегію компанії.

Перший напрям — продаж обладнання. Системи CS купують організації, які хочуть мати власну інфраструктуру для AI: урядові лабораторії, дослідницькі центри, великі корпорації. Серед відомих клієнтів — Аргоннська національна лабораторія та Ліверморська національна лабораторія в США, фармацевтична компанія GlaxoSmithKline, енергетичні корпорації. Такі угоди великі за сумою, але цикл продажу тривалий, а клієнтів небагато.

Другий напрям — хмарні сервіси. Cerebras пропонує доступ до своїх систем за моделлю AI-as-a-Service: замовник не купує залізо, а орендує обчислювальні потужності чи оплачує інференс за кількістю оброблених токенів. Це відкриває технологію для стартапів і команд, яким не під силу купівля системи за мільйони доларів, і дає компанії регулярний повторюваний дохід.

Третій напрям — стратегічні партнерства. Найпоказовіший приклад — багаторічна співпраця з еміратською технологічною групою G42, яка замовила у Cerebras кілька великих суперкомп’ютерів Condor Galaxy загальною вартістю сотень мільйонів доларів. Такі контракти забезпечили значну частину виручки компанії, хоча водночас створили залежність від малого кола ключових замовників — цей ризик Cerebras відкрито описувала в документах перед IPO.

Важливий нюанс: Cerebras — це fabless-компанія, тобто вона не має власних заводів. Пластини для неї виробляє TSMC, а Cerebras концентрується на архітектурі, системному дизайні та програмному забезпеченні. Це знижує капітальні витрати, але створює залежність від одного виробничого партнера.

Хто власники Cerebras Systems

До виходу на біржу Cerebras Systems належала засновникам, працівникам і венчурним інвесторам. Компанія пройшла кілька великих раундів фінансування, у яких брали участь фонди Benchmark, Foundation Capital, Eclipse Ventures, Alpha Wave Ventures, Abu Dhabi Growth Fund, а також стратегічні інвестори — зокрема OpenAI на чолі з Семом Альтманом, який вклався в компанію ще на ранніх етапах особисто.

Після IPO на Nasdaq право власності розподілилося між засновниками, фондами-інвесторами та публічними акціонерами. Генеральним директором залишається співзасновник Ендрю Фельдман. Точний поточний розподіл часток змінюється з торгами, тому актуальну структуру власності варто перевіряти за регуляторними звітами компанії — жодного єдиного контрольного власника, який би повністю володів Cerebras, не існує.

Країна походження компанії — США, і це має практичне значення: американське походження спрощує їй роботу з урядовими замовниками та оборонними програмами, які закриті для іноземних постачальників.

Конкуренція з NVIDIA та місце на ринку AI-чипів

Ринок прискорювачів для штучного інтелекту фактично контролює NVIDIA, чия частка в сегменті AI-навчання оцінюється в переважну більшість продажів. Проти такого гіганта виступають кілька категорій конкурентів: AMD з прискорювачами Instinct, Google з власними TPU, Amazon з чипами Trainium, а також низка стартапів — Graphcore, SambaNova, Groq та інші.

На цьому тлі Cerebras обрала стратегію не фронтальної атаки, а диференціації. Вона не намагається замінити GPU всюди, а пропонує краще рішення для конкретних сценаріїв:

• навчання великих моделей без складного розпаралелювання між тисячами GPU;
• надшвидкий інференс у реальному часі завдяки великій вбудованій пам’яті;
• компактність і нижче енергоспоживання на одиницю корисної роботи в окремих задачах;
• простота для команд без інженерів з розподілених систем.

Водночас у підходу є й об’єктивні обмеження. Екосистема NVIDIA з програмною платформою CUDA розвивалася майже двадцять років, і більшість інструментів, бібліотек та фахівців орієнтовані саме на неї. Обладнання Cerebras коштує дорого, сумісне не з усіма типами моделей і вимагає адаптації робочих процесів. Крім того, залежність від TSMC як єдиного виробника робить компанію вразливою до збоїв у ланцюжку постачань. Тому реалістичний сценарій для ринку — не повна заміна GPU, а співіснування: Cerebras займає ніші, де її архітектура дає максимальну перевагу.

Де використовують системи Cerebras

Застосування систем Cerebras виходить далеко за межі чат-ботів. У національних лабораторіях США вони працюють над науковими моделюваннями — від фізики матеріалів до кліматичних розрахунків, де великі нейронні мережі доповнюють класичні обчислення. Фармацевтичні компанії використовують їх для прискорення пошуку лікарських молекул: моделі аналізують величезні хімічні простори, і скорочення часу навчання з тижнів до днів прямо впливає на швидкість досліджень.

У галузі генеративного AI системи Cerebras навчали великі відкриті моделі, а хмарний інференс компанії обслуговує застосунки, де критична швидкість відповіді. Енергетичні корпорації, зокрема TotalEnergies, застосовували CS-системи для сейсмічного аналізу й моделювання надр. Окремий напрям — державні програми: суперкомп’ютери Condor Galaxy, побудовані для G42, належать до найпотужніших AI-систем у світі.

Що варто знати перед оцінкою компанії

Якщо ви розглядаєте Cerebras як потенційну технологію, партнера чи об’єкт інвестицій, тримайте в голові кілька практичних тез. По-перше, це реальна інженерна компанія з унікальною запатентованою технологією, а не ще один стартап, що перепаковує чужі GPU. По-друге, її виручка історично сильно залежала від кількох великих клієнтів, тому новини про контракти впливають на оцінку бізнесу сильніше, ніж у компаній з широкою клієнтською базою. По-третє, ринок AI-чипів змінюється швидко: технічні характеристики й порівняння продуктивності застарівають за рік-два, тому будь-які цифри варто звіряти зі свіжими даними.

Нарешті, вибір між Cerebras і GPU-інфраструктурою — це завжди розрахунок під конкретну задачу: розмір моделі, бюджет, наявність інженерної команди та вимоги до швидкості. Універсального переможця тут немає, і саме це робить конкуренцію на ринку AI-чипів цікавою для спостереження.