Luminal, стартап, спрямований на підвищення ефективності коду графічного процесора, залучив 5,3 мільйона доларів початкового фінансування під керівництвом Felicis Ventures за участю інвесторів-ангелів, зокрема Пола Грема, Гільєрмо Рауха та Бена Портерфілда. Компанія прагне вирішити критичну проблему сучасної комп’ютерної техніки: розрив між апаратними можливостями та зручністю використання програмного забезпечення.
Програмне забезпечення як вузьке місце у високопродуктивних обчисленнях
У той час як удосконалення апаратного забезпечення GPU продовжується швидкими темпами, здатність ефективно використовувати цю потужність часто обмежена основною інфраструктурою програмного забезпечення. Як зазначив співзасновник Luminal Джо Фіоті, який раніше працював у Intel, навіть найпотужніші апаратні засоби марні, якщо розробникам важко писати код, який може повністю використовувати його переваги. Це усвідомлення призвело до створення Luminal, який зосереджується на оптимізації рівня компілятора — програмного забезпечення, яке перетворює написаний людиною код у машинно-виконувані інструкції для GPU.
Підхід Luminal: оптимізація компілятора
Основна бізнес-модель Luminal обертається навколо продажу обчислювальних ресурсів, подібно до CoreWeave і Lambda Labs. Однак замість того, щоб зосереджуватися виключно на апаратному забезпеченні, Luminal спеціалізується на вичавлюванні максимальної продуктивності з існуючої інфраструктури за допомогою передових методів оптимізації компілятора. Цей підхід націлений на шар між кодом і апаратним забезпеченням, який часто забувається, де неефективність може значно знизити продуктивність.
Екосистема CUDA та функції відкритого коду
Поточним галузевим стандартом для програмування GPU є система CUDA від Nvidia. Хоча CUDA відіграла важливу роль в успіху Nvidia, багато її компонентів є відкритими. Luminal вважає, що розробка навколишнього стеку програмного забезпечення має значну цінність, особливо оскільки попит на GPU перевищує пропозицію. Зосереджуючись на оптимізації компілятора, Luminal прагне забезпечити більш ефективну та доступну альтернативу суто апаратним оновленням.
Зростаючий ринок оптимізації висновків
Luminal є частиною більшої тенденції стартапів, зосереджених на оптимізації висновків. Оскільки компанії шукають швидші та дешевші способи запуску моделей машинного навчання, попит на спеціалізоване програмне забезпечення зріс. Такі компанії, як BaseTen і Together AI, уже працюють у цьому просторі, тоді як менші гравці, такі як Tensormesh і Clarifai, з’являються з нішевими технологічними рішеннями.
Конкуренція з боку Hyperscalers і Model Specific
Luminal стикається з конкуренцією з боку великих дослідницьких лабораторій, які оптимізують продуктивність для конкретних модельних архітектур. Ці лабораторії мають перевагу в тому, що вони можуть зосередитися на обмеженому наборі моделей, що дозволяє отримати високоточну пропускну здатність. Luminal, з іншого боку, повинен адаптуватися до більш широкого діапазону моделей для своїх клієнтів. Незважаючи на цю проблему, Фіоті вважає, що ринок, що швидко розвивається, забезпечить широкі можливості для зростання.
Економічна цінність універсальної оптимізації
Хоча спеціально налаштовані моделі можуть досягти максимальної продуктивності, Luminal зосереджується на економічній цінності універсальної оптимізації. Компанія вважає, що в більшості випадків універсальний компілятор, який максимізує ефективність різних моделей, буде більш цінним, ніж спеціальні рішення. Такий підхід дозволяє Luminal обслуговувати ширшу клієнтську базу без істотної втрати продуктивності.
Зрештою, успіх Luminal залежить від його здатності подолати розрив між апаратним і програмним забезпеченням, роблячи обчислення GPU більш доступними та ефективними для розробників у різних галузях. Зосереджуючись на оптимізації компілятора, компанія прагне розкрити весь потенціал існуючого обладнання, надаючи економічно ефективну альтернативу нескінченним оновленням обладнання.
