Modular выделяет 100 миллионов долларов на создание инструментов для оптимизации и создания моделей искусственного интеллекта

Modular, стартап, создающий платформу для разработки и оптимизации систем искусственного интеллекта, привлек $100 млн в раунде финансирования под руководством General Catalyst при участии GV (Google Ventures), SV Angel, Greylock и Factory.

По словам генерального директора Mojo Криса Латтнера, общая сумма сборов Modular достигнет 130 миллионов долларов. Вырученные средства будут направлены на расширение продукта, поддержку оборудования и расширение языка программирования Modular.

«Поскольку мы работаем в глубоко технической сфере, требующей узкоспециализированных знаний, мы намерены использовать это финансирование для поддержки роста нашей команды», — сказал Латтнер в интервью по электронной почте TechCrunch. «Это финансирование будет направлено в первую очередь не на вычисления в области искусственного интеллекта, а, скорее, на улучшение наших основных продуктов и масштабирование для удовлетворения невероятного спроса наших клиентов».

Латтнер, бывший сотрудник Google, основал компанию Modular в Пало-Альто в 2022 году вместе с Тимом Дэвисом, бывшим коллегой Google в исследовательском подразделении Google Brain технологического гиганта. И Латтнер, и Дэвис почувствовали, что искусственный интеллект сдерживается слишком сложной и фрагментированной технической инфраструктурой, и основали Modular, сосредоточившись на устранении сложности создания и обслуживания систем искусственного интеллекта в больших масштабах.

Modular предоставляет механизм, который пытается улучшить производительность моделей искусственного интеллекта на процессорах, а начиная с этого года и на графических процессорах, одновременно обеспечивая экономию средств. Совместимый с существующими облачными средами, платформами машинного обучения, такими как TensorFlow от Google и PyTorch от Meta, и даже с другими механизмами ускорителей искусственного интеллекта, движок Modular, который в настоящее время находится в закрытой предварительной версии, позволяет разработчикам импортировать обученные модели и запускать их до 7,5 раз быстрее по сравнению с их собственными платформами, говорит Латтнер. претензии.

Другой флагманский продукт Modular, Mojo, представляет собой язык программирования, целью которого является объединение удобства использования Python с такими функциями, как кэширование, методы адаптивной компиляции и метапрограммирование. Modular, доступный в настоящее время в предварительной версии для «сотни» первых пользователей, планирует выпустить Mojo в общую доступность в начале следующего месяца.

«Наша платформа для разработчиков позволяет нашим клиентам и разработчикам со всего мира дефрагментировать свои стеки технологий искусственного интеллекта, ускоряя внедрение большего количества инноваций в производство и получая большую отдачу от своих инвестиций в искусственный интеллект», — сказал Латтнер. «Сегодня мы боремся со сложностью, которая замедляет развитие ИИ, решая проблемы фрагментации, от которых страдает стек ИИ, начиная с того, где программное обеспечение ИИ встречается с аппаратным обеспечением ИИ».

Амбициозный сильно? Возможно. Но ничто из того, что предлагает компания Modular, насчитывающая около 70 человек, не выходит за рамки возможного.

Deci, поддерживаемый Intel, входит в число стартапов, предлагающих технологии, позволяющие сделать обученные модели ИИ более эффективными и производительными. Еще одним представителем этой категории является OctoML, который автоматически оптимизирует, тестирует и упаковывает модели для множества различных аппаратных средств.

В любом случае, по мнению Латтнера, спрос на ИИ быстро приближается к пределу устойчивости, что делает любую технологию, позволяющую сократить вычислительные требования, чрезвычайно желательной. Модные сегодня генеративные модели ИИ в 10–100 раз крупнее старых моделей ИИ, как отмечается в недавней статье в The Wall Street Journal, и большая часть инфраструктуры общедоступного облака не была создана для работы этих систем — по крайней мере, на данный момент. этот масштаб.

Это уже сказалось. Microsoft сталкивается с нехваткой серверного оборудования, необходимого для запуска искусственного интеллекта, настолько серьезной, что это может привести к перебоям в обслуживании, предупредила компания в отчете о прибылях и убытках. Между тем, заоблачный спрос на аппаратное обеспечение для вывода ИИ — в основном на графические процессоры — довел рыночную капитализацию поставщика графических процессоров Nvidia до 1 триллиона долларов. Но Nvidia стала жертвой собственного успеха; Сообщается, что самые эффективные ИИ-чипы компании будут распроданы до 2024 года.

По этим и другим причинам, согласно опросу S&P Global, проведенному в 2023 году, более половины лиц, принимающих решения в области ИИ в ведущих компаниях, сообщают, что сталкиваются с препятствиями на пути внедрения новейших инструментов ИИ.

«Вычислительная мощность, необходимая для сегодняшних программ искусственного интеллекта, огромна и неустойчива при нынешней модели», — сказал Латтнер. «Мы уже наблюдаем случаи, когда вычислительных мощностей недостаточно для удовлетворения спроса. Затраты стремительно растут, и только крупные и влиятельные технологические компании имеют ресурсы для создания решений такого типа. Модульная технология решает эту проблему и позволит реализовывать продукты и услуги искусственного интеллекта гораздо более доступным, устойчивым и доступным способом для любого предприятия».