使用场景

E2E Local RAG System：由AMD硬件驱动的端到端本地RAG系统

Local AI Voice Agent：完全在联想AI PC上运行的语音启用的个人AI助手

AI Influencer Marketing：AI代理系统自动化影响者发现、外展和活动管理

产品特色

支持ONNX和GGML模型的本地设备推理框架

支持文本生成、图像生成、视觉-语言模型(VLM)、音频-语言模型、语音转文本(ASR)和文本转语音(TTS)能力

支持多设备：CPU、GPU（CUDA、Metal、ROCm、Vulkan）、NPU、PC、移动设备、可穿戴设备、汽车、机器人

兼容OpenAI的服务器：支持JSON模式的函数调用和流媒体

交互式UI：使用Streamlit构建，便于模型交互和测试

提供定制化的设备上模型，针对您的数据和用例进行微调，以及量化以实现高效部署

提供定制化的本地部署解决方案，让您在自己的基础设施上部署AI解决方案，增强控制和速度

使用教程

1. 访问Nexa AI官方网站并了解产品信息

2. 根据需要选择适合的Tiny Model并开始使用

3. 下载Nexa SDK并安装到相应的设备上

4. 通过Nexa SDK进行模型的本地部署和测试

5. 使用Nexa SDK的交互式UI进行模型交互和测试

6. 根据业务需求定制化模型和部署解决方案

7. 联系销售获取更多支持和培训服务