Компания Kinara, Inc. объявила о выпуске процессора Kinara Ara-2 Edge AI – нового продукта, предназначенного для усовершенствования серверов и ноутбуков Edge.
Процессор Ara-2 обеспечивает высокую производительность, экономичность и энергоэффективность, что делает его идеальным для выполнения таких приложений, как видеоаналитика, большие языковые модели (LLM) и другие генеративные модели ИИ. Он также хорошо подходит для Edge-приложений, использующих как традиционные модели ИИ, так и современные с архитектурой на основе трансформаторов.
Ara-2 обладает расширенным набором функций и обеспечивает производительность, в 5-8 раз превышающую производительность Ara-1. Он сочетает в себе быстроту реакции в реальном времени с высокой пропускной способностью. Спрос на LLM и генеративный ИИ растет, но большинство приложений в настоящее время опираются на графические процессоры в центрах обработки данных, что приводит к высокой задержке, затратам и проблемам с конфиденциальностью. Ara-2 компании Kinara призвана решить эти проблемы, перенеся вычислительные мощности в пользовательский Edge. Она поддерживает миллиарды параметров, используемых в генеративных моделях ИИ, и облегчает переход с GPU благодаря вычислительным движкам и набору средств разработки программного обеспечения (SDK), которые обеспечивают высокоточную квантификацию и прямую поддержку FP32.
Ara-2 также уделяет особое внимание безопасности, используя такие функции, как безопасная загрузка, зашифрованный доступ к памяти и безопасный хост-интерфейс. Ara-2 выпускается в различных формах, включая отдельное устройство, USB-модуль, модуль M.2 и PCIe-карту с несколькими Ara-2.
Kinara продемонстрирует Ara-2 на выставке CES и приглашает заинтересованных лиц назначить встречу в своем номере в отеле Venetian 9, 10 или 11 января 2024 года.
Ara-2 обладает расширенным набором функций и обеспечивает производительность, в 5-8 раз превышающую производительность Ara-1. Он сочетает в себе быстроту реакции в реальном времени с высокой пропускной способностью. Спрос на LLM и генеративный ИИ растет, но большинство приложений в настоящее время опираются на графические процессоры в центрах обработки данных, что приводит к высокой задержке, затратам и проблемам с конфиденциальностью. Ara-2 компании Kinara призвана решить эти проблемы, перенеся вычислительные мощности в пользовательский Edge. Она поддерживает миллиарды параметров, используемых в генеративных моделях ИИ, и облегчает переход с GPU благодаря вычислительным движкам и набору средств разработки программного обеспечения (SDK), которые обеспечивают высокоточную квантификацию и прямую поддержку FP32.
Ara-2 также уделяет особое внимание безопасности, используя такие функции, как безопасная загрузка, зашифрованный доступ к памяти и безопасный хост-интерфейс. Ara-2 выпускается в различных формах, включая отдельное устройство, USB-модуль, модуль M.2 и PCIe-карту с несколькими Ara-2.
Kinara продемонстрирует Ara-2 на выставке CES и приглашает заинтересованных лиц назначить встречу в своем номере в отеле Venetian 9, 10 или 11 января 2024 года.