Как SambaNova Systems решает проблему потока данных как услуги (dataflow-as-a-service)

Как SambaNova Systems решает проблему потока данных как услуги (dataflow-as-a-service)

Источник · Перевод автора

SambaNova Systems, обладатель награды VentureBeat за инновации в области периферии 2021 года, является значительным претендентом на мировом рынке периферийных вычислений.

В апреле 2021 года стартап привлек 676 миллионов долларов и переходит от своей изначальной компании, специализирующейся на микросхемах ИИ, к компании, которая предоставляет своим клиентам комплексный поток данных как услугу.

Исследовательская компания MarketsandMarkets прогнозирует впечатляющие среднегодовые темпы роста рынка в 34% и ожидает, что к 2025 году его стоимость достигнет 15,7 миллиарда долларов.

Genesis в программном обеспечении

Традиционные центральные процессоры (ЦП) и графические процессоры (ГП) основаны на транзакционной обработке, которая требует для вычислений точности n-й степени. В результате соответствующие подложки микросхем создаются для бесконечных кешей и хранилищ данных.

ИИ – это больше об обучении моделей с помощью наборов данных и работе с нейронными сетями. Как заявил VentureBeat вице-президент SambaNova Маршалл Чой (Marshall Choy), традиционных подложек для микросхем недостаточно для искусственного интеллекта. «ИИ – это скорее вероятностные вычисления, чем детерминированные. Что вам действительно нужно, так это большая гибкость и производительность для выполнения этих рабочих нагрузок», – сказал Чой. «Традиционные компании, производящие чипы, начинают с чипа и надеются, что программное обеспечение будет автоматически генерироваться экосистемой», – добавил Чой. «Это очень обнадеживающий, но нереалистичный подход». Программно-управляемый дизайн микросхем и разработка решений SambaNova переворачивают эту теорию с ног на голову, уделяя особое внимание потребностям ИИ-вычислений и устранению избыточности.

Профессора Стэнфордского университета Кунле Олукотун (Kunle Olukotun) и Крис Ре (Chris Ré), которые также являются соучредителями SambaNova, помогли сформировать первоначальную направленность стартапа на разработку программно-определяемого чипа во главе с программным стеком. Главной достопримечательностью является блок реконфигурируемого потока данных (RDU) Cardinal SN10, который способствует непрерывному обучению на периферии, экономя дни, если не недели, затрачиваемые на реконфигурацию и переподготовку моделей при вводе новых наборов данных. Восемь микросхем Cardinal в комплекте с процессором AMD и 12 терабайтами памяти DDR4 составляют DataScale SN10-8R от SambaNova, основное аппаратное предложение стартапа.

Поток данных как услуга

Переход SambaNova к потоку данных как услуге был обусловлен требованиями клиентов, хотя стартап не делится своим списком клиентов.

Таким образом, SambaNova заново изобрела себя как компания, которая также предлагает услуги машинного обучения. По словам Чоя, он снимает нагрузку с машинного обучения за счет расширения опыта клиентов и занимается выбором моделей, обучением (с наборами данных клиентов), обслуживанием и другими услугами по обработке данных, чтобы клиенты могли сосредоточиться на результатах и ​​ценности для бизнеса.

Реализация для обрабатывающей промышленности включает обнаружение дефектов. По словам Чоя, SambaNova обучила модели искусственного интеллекта с изображениями самого высокого разрешения в масштабе, чтобы обеспечить общее более высокое качество модели. «Мы обеспечиваем лучшую в своем классе точность, устраняя необходимость в дополнительной трудоемкой ручной маркировке изображений без уменьшения разрешения изображения», – пояснил он. По его словам, конечным результатом является модель, не требующая больших усилий для пользователей и обеспечивающая высокую точность воспроизведения изображения, что позволяет легко распознавать дефекты.

По словам Чоя, компания заблаговременно подготовилась к глобальной нехватке микросхем, которая отрицательно сказалась на индустрии оборудования. SambaNova продолжает полагаться на экспертов по внутренним цепочкам поставок для преодоления кризиса.

SambaNova в настоящее время сосредоточена на расширении своего предложения потока данных как услуги, а также системы DataScale.

sambanova.ai