Сегодня Deep Vision, шестилетний специалист по процессорам искусственного интеллекта Los Altos, выходит из скрытого режима и запускает свой процессор логических выводов ARA-1, чтобы обеспечить работу приложений машинного зрения на базе искусственного интеллекта.
Теперь процессор поставляется в трех форм-факторах, включая высокоскоростной интерфейс USB и интерфейс PCIe.
Deep Vision, основанная доктором Реханом Хамидом и доктором Ваджахатом Кадиром в 2015 году, привлекла 19 миллионов долларов и пользуется поддержкой нескольких инвесторов, включая Silicon Motion, Western Digital, Stanford, Exfinity Ventures и Sinovation Ventures.
Процессоры сочетают в себе вычислительные ресурсы, память, энергоэффективность (обычно 2 Вт) и сверхнизкую задержку в компактном форм-факторе, что делает его подходящим для конечных точек, таких как камеры, датчики, а также пограничных серверов, где высокие требования к вычислениям, гибкость модели и энергоэффективность имеет первостепенное значение.
«Сегодняшние сложные рабочие нагрузки ИИ требуют не только низкого энергопотребления, но и малой задержки для обеспечения аналитики в реальном времени на периферии», — сказал Рави Аннаваджхала, генеральный директор Deep Vision. «Больше не нужно идти на компромисс между производительностью и эффективностью. Теперь у разработчиков есть доступ к результатам с более высокой точностью и богатым анализом данных — все на одном процессоре ».
Модели глубокого обучения становятся все сложнее и стимулируют рост спроса на вычислительные ресурсы для ИИ на периферии. Процессор Deep Vision ARA-1 основан на запатентованной архитектуре полиморфных потоков данных, способной обрабатывать различные потоки данных для минимизации перемещения данных на кристалле.
Архитектура поддерживает инструкции в каждой из моделей нейронных сетей, что позволяет оптимально отображать любой шаблон потока данных в рамках модели глубокого обучения. Хранение данных рядом с вычислительными механизмами сводит к минимуму перемещение данных, обеспечивая высокую пропускную способность логического вывода, низкую задержку и большую энергоэффективность.
Компилятор автоматически оценивает несколько шаблонов потока данных для каждого уровня в нейронной сети и выбирает шаблон с наивысшей производительностью и наименьшим энергопотреблением.
Благодаря одновременной обработке нескольких моделей процессор Deep Vision ARA-1 также может эффективно запускать несколько моделей без потери производительности, генерируя результаты быстрее и точнее. Благодаря более низкому энергопотреблению системы, чем Edge TPU и Movidius MyriadX, процессор Deep Vision ARA-1 запускает модели глубокого обучения, такие как Resnet-50, с задержкой в 6 раз больше, чем Edge TPU, и в 4 раза большей задержкой, чем MyriadX.
Комплект разработчика программного обеспечения (SDK) Deep Vision и оборудование тесно взаимосвязаны для бесперебойной работы, обеспечивая оптимальную точность модели при минимальном энергопотреблении. Благодаря встроенному квантователю, симулятору и профилировщику разработчики получают все инструменты, необходимые для поддержки проектирования и выполнения приложений вывода со сложными вычислениями. Исторически сложилось так, что процесс переноса моделей в производство без обширной разработки кода был сложным.
SDK Deep Vision также обеспечивает беспрепятственный рабочий процесс, что приводит к автоматизированному и плавному процессу миграции с небольшим объемом кода от модели обучения к производственному приложению. SDK сокращает дорогостоящее время разработки за счет значительного повышения производительности и сокращения общего времени выхода на рынок.
Микросхема и программное обеспечение созданы для современных приложений Edge AI Vision с возможностью поддержки моделей AI, фреймворков и операторов нового поколения. Поддерживаются все стандартные отраслевые платформы, включая Caffe, Tensor Flow, MXNET, PyTorch и такие сети, как Deep Lab V3, Resnet-50, Resnet-152, MobileNet-SSD, YOLO V3, Pose Estimation и UNET, предлагая разработчикам явные преимущества в портировании и оптимизации новых приложений AI.
Процессоры Deep Vision ARA-1 предназначены для повышения производительности моделей нейронных сетей для умной торговли, робототехники, промышленной автоматизации, умных городов, автономных транспортных средств и т. Д. Deep Vision в настоящее время входит в контактные точки с клиентами в различных этих отраслях.