使用场景
使用模型进行多语言文本生成。
利用模型的编程能力解决代码问题。
通过模型的代理中心能力实现自动化任务。
产品特色
支持十种以上语言的多语言设计。
在80多种编程语言上受过训练,包括Python、Java等。
具备代理中心能力,能够进行原生函数调用和JSON输出。
拥有最新的数学和推理能力。
提供大型上下文窗口,支持128k的上下文长度。
可以在mistral_inference和transformers两种框架下使用。
使用教程
安装mistral_inference,获取mistral-chat命令行界面。
根据模型大小,确保有足够显存的GPU支持。
使用mistral-chat CLI命令与模型进行交互。
通过编程方式调用模型的函数和工具。
使用transformers框架生成文本。
通过Inference API进行模型的无服务器加载和使用。