这项名为“只需邀请（Just an Invite）”的新研究表明，基于 Gemini 的助手易遭受所谓的“定向提示软件攻击”。与传统的黑客攻击不同，这类攻击不要求直接访问 AI 模型或具备技术专长，而是将恶意指令隐藏在看似无害的电子邮件、日历邀请或共享文档中。当用户在 Gmail、Google 日历或 Google 助理中寻求 Gemini 帮助时，这些隐藏的指令就会被激活并执行。
该研究团队在演示中展示了这种攻击的严重性。攻击者可以利用修改后的 Gmail 信息或 Google 日历邀请，控制智能家居设备、录制 Zoom 通话，甚至追踪用户位置。通过一些看似无害的词语，如“谢谢”或“太棒了”，研究人员成功地远程关闭了电灯、打开了窗户，甚至启动了家用锅炉。
多重攻击风险，安全漏洞亟待解决
研究人员概述了五种潜在的攻击类型和14种现实场景，这些攻击可能同时危害数字和物理系统。其中包括:
短期上下文中毒:攻击者在短期内通过恶意指令影响 Gemini 的响应。
长期操纵存储数据:利用 Gemini 的数据存储功能，长期操控信息。
利用内部工具:滥用 Gemini 内部工具实现恶意目的。
升级至其他谷歌服务:通过 Gemini 渗透到 Google Home 等其他谷歌服务。
启动第三方应用:在安卓设备上远程启动 Zoom 等第三方应用。
