Фонд, стоящий за Raspberry Pi, объявил о выпуске новой платы расширения, которая улучшает локальную разработку искусственного интеллекта на одноплатном компьютере.
Raspberry Pi доминирует в сегменте SBC и используется во многих проектах, в том числе в разработке программного обеспечения. Здесь искусственный интеллект продолжает набирать обороты и является одним из наиболее востребованных направлений среди программистов. И именно на них нацелен выпуск платы расширения Raspberry Pi AI HAT+ 2.
Одноплатные компьютеры могут извлечь большую выгоду из блока нейронной обработки (NPU), поскольку они позволяют анализировать данные через нейронные сети. Возможные варианты использования включают распознавание образов в данных или даже изображениях. Новая плата расширения предполагает повышение производительности вычислений искусственного интеллекта Raspberry Pi 5, последней версии этих SBC, до 40 TOPS (INT4).
Плата расширения использует известный NPU, Hailo-10H, который имеет собственную встроенную память объемом 8 Гбайт. В результате запуск моделей искусственного интеллекта в идеале практически не влияет на производительность самого SBC, который, как мы знаем, включает ограниченный объем оперативной памяти, несмотря на выпуск новой версии объемом 16 ГБ.
Установка платы расширения проста и соответствует хорошо известной концепции HAT. Плата крепится к Raspberry Pi 5 винтами, а затем подключается с помощью разъема GPIO и разъема PCIe. Старые модели Raspberry Pi не имеют интерфейса PCIe, что означает, что совместимость ограничена вышеупомянутой версией Series 5. Плата расширения Raspberry Pi 5 должна быть простой в использовании, чего и следовало ожидать от официального плагина, который изначально распознается операционной системой Raspberry Pi и может использоваться для запуска приложений искусственного интеллекта.
Локальная разработка искусственного интеллекта через SBC
Según Raspberry Pi, los modelos DeepSeek-R10-Distill, Llama3.2, Qwen2.5-Coder, Qwen2.5-Instruct и Qwen2 доступны при запуске. Все (кроме Llama3.2) представляют собой модели с 1500 миллионами параметров, и фонд гарантирует, что в будущих обновлениях будут поддерживаться более крупные модели.
Его возможности несравнимы с тем, с чем справляются гиганты искусственного интеллекта, облачные LLM от OpenAI, Meta или Anthropic, а также с тем, что могут предложить другие машины, такие как персональные суперкомпьютеры NVIDIA с искусственным интеллектом. который обещает обрабатывать «триллионы» параметров. Однако упомянутые модели хорошо работают в рамках аппаратных ограничений Raspberry и предлагают еще одно фундаментальное преимущество: они чрезвычайно недороги и позволяют любому начать разработку локального искусственного интеллекта.
Плата расширения Raspberry Pi AI HAT + 2 стоит 130 долларов и уже доступна у обычных дилеров SBC.