使用场景

使用模型生成特定编程语言的代码片段。

在聊天机器人中应用模型，提供多语言支持和对话能力。

在企业中用于数据分析，通过模型生成SQL查询和数据总结。

产品特色

• 多语言支持：模型支持23种语言，包括英语、法语、西班牙语等。

• 高级推理能力：优化用于复杂任务，如推理、总结和问答。

• 检索增强生成（RAG）：专门训练用于RAG任务，结合检索和生成。

• 工具使用能力：能够与外部工具如API、数据库或搜索引擎交互。

• 代码能力：在企业相关的代码场景中，包括SQL和代码翻译，表现出色。

• 对话和指令模式：可以配置为对话模型和指令模型，优化交互体验。

• 安全性和合规性：遵循CC-BY-NC许可和C4AI的可接受使用政策。

使用教程

1. 安装必要的库，如transformers，从源代码仓库安装。

2. 导入AutoTokenizer和AutoModelForCausalLM。

3. 使用模型ID初始化tokenizer和model。

4. 准备输入消息，并使用tokenizer应用聊天模板。

5. 使用model.generate生成文本。

6. 使用tokenizer.decode解码生成的文本。

7. 打印或使用生成的文本。