Luminal, стартап, специализирующийся на повышении эффективности GPU-кода, привлек $5,3 миллиона в рамках посевного финансирования, возглавленного Felicis Ventures, при участии бизнес-ангелов, включая Пола Грэма, Гильермо Рауха и Бена Портерфилда. Компания стремится решить критическую проблему в современной вычислительной технике: разрыв между аппаратными возможностями и удобством использования программного обеспечения.
Программное Обеспечение как Узкое Место в Высокопроизводительных Вычислениях
В то время как достижения в аппаратном обеспечении GPU продолжаются быстрыми темпами, возможность эффективно использовать эту мощность часто ограничена базовой программной инфраструктурой. Как заметил соучредитель Luminal Джо Фиоти, ранее работавший в Intel, даже самое мощное оборудование бесполезно, если разработчикам трудно писать код, который может в полной мере использовать его. Это осознание послужило причиной создания Luminal, который фокусируется на оптимизации уровня компилятора — программного обеспечения, которое преобразует код, написанный человеком, в машиноисполняемые инструкции для GPU.
Подход Luminal: Оптимизация Компилятора
Основная бизнес-модель Luminal вращается вокруг продажи вычислительных ресурсов, подобно компаниям CoreWeave и Lambda Labs. Однако, вместо того чтобы сосредотачиваться исключительно на аппаратном обеспечении, Luminal специализируется на выжимании максимальной производительности из существующей инфраструктуры за счет передовых методов оптимизации компилятора. Этот подход нацелен на часто упускаемый из виду слой между кодом и аппаратным обеспечением, где неэффективность может значительно снизить производительность.
Экосистема CUDA и Возможности Открытого Исходного Кода
В настоящее время отраслевым стандартом для программирования GPU является система Nvidia CUDA. Хотя CUDA сыграла важную роль в успехе Nvidia, многие из ее компонентов имеют открытый исходный код. Luminal считает, что существует значительная ценность в развитии окружающего программного стека, особенно в условиях, когда спрос на GPU превышает предложение. Сосредоточившись на оптимизации компилятора, Luminal стремится предоставить более эффективную и доступную альтернативу исключительно аппаратным обновлениям.
Растущий Рынок Оптимизации Инференса
Luminal является частью более широкой тенденции стартапов, ориентированных на оптимизацию инференса. Поскольку компании ищут более быстрые и дешевые способы запуска моделей машинного обучения, спрос на специализированные инструменты программного обеспечения увеличился. Такие компании, как BaseTen и Together AI, уже зарекомендовали себя в этой области, в то время как более мелкие игроки, такие как Tensormesh и Clarifai, появляются с нишевыми техническими решениями.
Конкуренция со Стороны Гиперскейлеров и Специфичности Моделей
Luminal сталкивается с конкуренцией со стороны крупных исследовательских лабораторий, которые оптимизируют работу для конкретных архитектур моделей. Эти лаборатории имеют преимущество в виде возможности сосредоточиться на ограниченном наборе моделей, что позволяет добиться высокоточечной производительности. Luminal, с другой стороны, должен адаптироваться к более широкому спектру моделей для своих клиентов. Несмотря на эту проблему, Фиоти считает, что быстрорастущий рынок предоставит достаточно возможностей для роста.
Экономическая Ценность Универсальной Оптимизации
Хотя специально настроенные модели могут достичь пиковой производительности, Luminal делает ставку на экономическую ценность универсальной оптимизации. Компания считает, что в большинстве случаев универсальный компилятор, который максимизирует эффективность для различных моделей, будет более ценным, чем индивидуальные решения. Этот подход позволяет Luminal обслуживать более широкую клиентскую базу без значительной потери производительности.
В конечном счете, успех Luminal зависит от его способности преодолеть разрыв между аппаратным и программным обеспечением, сделав GPU-вычисления более доступными и эффективными для разработчиков в различных отраслях. Сосредоточившись на оптимизации компилятора, компания стремится раскрыть весь потенциал существующего оборудования, предоставив экономически эффективную альтернативу бесконечным аппаратным обновлениям.
