Стартап из Маунтин-Вью, Voltron Data, предлагает инновационное решение для одной из самых важных, но редко обсуждаемых проблем в сфере искусственного интеллекта (ИИ) — быстрой передачи и преобразования огромных объемов данных.
Оглавление
Партнерство с Accenture и технология Theseus
Voltron Data объявила о стратегическом партнерстве с компанией Accenture. В рамках сотрудничества был разработан аналитический движок, использующий графические процессоры (GPU) для ускорения обработки данных. Основной продукт компании, Theseus, позволяет организациям обрабатывать данные объемом в петабайты с помощью GPU вместо традиционных процессоров (CPU).
Майкл Эбботт, руководитель практики Accenture в области банковского дела и рынков капитала, отметил: «Все сосредоточены на новых технологиях, которые можно увидеть и потрогать, но фундамент, основанный на данных, остается ключевым элементом. Для успешной работы ИИ необходимо перемещать данные с такой скоростью, которая раньше была недостижима».
Почему традиционные методы обработки данных устарели
Многие компании, внедряющие генеративный ИИ, сталкиваются с проблемами, связанными с недостаточной мощностью существующей инфраструктуры. Эта проблема усугубляется с ростом использования ИИ-агентов в бизнесе.
Родриго Арамбуру, технический директор и сооснователь Voltron Data, подчеркнул: «ИИ-агенты будут выполнять больше SQL-запросов, чем люди, и это произойдет очень скоро. Если CIO и CTO уже жалуются на высокие затраты на аналитику и облачную инфраструктуру, а спрос продолжает расти, то нам необходимо значительно снизить стоимость выполнения этих запросов».
Преимущества подхода Voltron Data
В отличие от традиционных поставщиков баз данных, которые добавляют поддержку GPU к существующим системам, Voltron Data создала свой движок с нуля, оптимизировав его для работы с GPU.
Арамбуру объяснил: «Большинство компаний пытаются адаптировать GPU к уже существующим системам. Мы же построили нашу технологию с нуля, что позволяет добиться увеличения производительности в 10, 20 или даже 100 раз в зависимости от задачи».
Результаты раннего внедрения
Theseus позиционируется как дополнение к таким платформам, как Snowflake и Databricks, используя фреймворк Apache Arrow для эффективной передачи данных.
Проверь свои знания в наших бесплатных тестах по ИИ! Пройди тест и узнай, насколько хорошо ты разбираешься в технологиях искусственного интеллекта!
Эбботт добавил: «Это ускоритель для всех этих баз данных, а не конкурент. Мы используем те же SQL-запросы, но получаем результаты гораздо быстрее благодаря параллельной обработке».
Первыми Theseus начали использовать компании из сферы финансовых услуг, где технология применяется для обнаружения мошенничества, моделирования рисков и соблюдения нормативных требований. Например, одна крупная розничная сеть сократила количество серверов с 1400 CPU до всего 14 GPU после внедрения Theseus.
Преодоление дефицита GPU
Дефицит GPU, вызванный растущим спросом на ИИ, стал как вызовом, так и возможностью для Voltron Data. Многие компании имеют недоиспользуемые GPU, которые можно задействовать для обработки данных в периоды простоя.
Арамбуру отметил: «Мы видим в этом преимущество, так как на рынке появилось множество GPU, которые раньше не использовались. Theseus эффективно работает даже на старых моделях GPU, которые могли бы быть списаны».
Решение проблемы «запертых данных»
Технология Voltron Data особенно полезна для банков, которые сталкиваются с проблемой «запертых данных» — информации, хранящейся в форматах, таких как PDF и документы, которые сложно обрабатывать в больших объемах.
Эбботт подчеркнул: «Voltron Data демонстрирует, что их технология позволяет перемещать данные на 90% эффективнее по сравнению с традиционными CPU. Это настоящая мощь».
Перспективы и планы
С момента запуска на конференции Nvidia GTC в марте прошлого года Voltron Data привлекла около 14 корпоративных клиентов, включая два крупных государственных агентства. Компания планирует выпустить пробную версию, которая позволит потенциальным клиентам тестировать GPU-ускоренные запросы на наборах данных объемом в терабайты.
Партнерство с Accenture поможет Voltron Data расширить охват и предложить свои решения большему числу организаций, сталкивающихся с проблемами обработки данных. В свою очередь, клиенты Accenture получат доступ к технологиям, которые могут значительно повысить производительность и эффективность их проектов в области ИИ.