使用场景

使用PaliGemma为社交媒体上的图片自动生成有趣的描述。

在电子商务网站上，通过视觉问答帮助用户了解产品图片的细节。

在教育领域，辅助学生通过图像理解复杂的概念和信息。

产品特色

图像字幕生成：能够根据图像生成描述性字幕。

视觉问答：可以回答有关图像的问题。

检测：能够识别图像中的实体。

引用表达式分割：通过自然语言描述来引用图像中的实体，并生成分割掩码。

文档理解：具备强大的文档理解和推理能力。

混合基准测试：在多种任务上进行了微调，适用于通用推理。

细粒度任务优化：高分辨率模型有助于执行如OCR等细粒度任务。

使用教程

1. 接受Gemma许可条款并进行身份验证，以获取PaliGemma模型的访问权限。

2. 使用transformers库中的PaliGemmaForConditionalGeneration类进行模型推断。

3. 预处理提示和图像，然后传递预处理的输入以生成输出。

4. 利用内置处理器处理输入文本和图像，生成所需的token嵌入。

5. 使用模型的generate方法进行文本生成，设置适当的参数如max_new_tokens。

6. 解码生成的输出，获取最终的文本结果。

7. 根据需要对模型进行微调，以适应特定的下游任务。