Google 修复了 Gmail 中的一个关键漏洞，该漏洞允许黑客通过人工智能窃取企业数据。此次攻击被称为 GeminiJack，涉及 20 亿个邮件服务用户。
GeminiJack 攻击是如何进行的
攻击者使用了最简单的方法——在普通的 Google 文档、日历邀请或电子邮件中隐藏指令。受害者无需点击。没有任何警告出现。传统安全系统保持沉默。
发现漏洞的Noma公司的代表解释了机制：“如果攻击者能够影响人工智能阅读的内容，他们就可以影响人工智能的行为。”黑客在预算文档中嵌入恶意指令。当员工在Gemini Enterprise中执行标准搜索“显示我们的预算”时，人工智能会自动提取被污染的文档并执行隐藏的指令。
这次攻击展示了一个新类别的人工智能漏洞，专家称之为“提示注入”。如果用户不阅读电子邮件、邀请或网页，攻击可能会隐藏旨在让我们请求人工智能助手阅读所有这些材料的提示。
专家的警告
英国国家网络安全中心（NCSC）建议将人工智能助手视为普通员工——而不是值得信赖的私人技术。如果您不会将所有密码和财务数据与有权访问所有电子邮件的人类助手分享，那么也不要信任人工智能助手——至少在没有主动监督的情况下。
谷歌已经修复了GeminiJack的具体漏洞，但这仅仅是开始。政府机构担心情况“可能会更糟”，比我们之前看到的所有类似情况都要糟糕。浏览器和平台上的人工智能更新成为攻击者的诱饵。
当谷歌因涉嫌在Gmail用户数据上训练人工智能而受到批评时，主要问题不在于系统是否在这些数据上训练，而在于人工智能获得了信息的访问权限。谷歌否认训练的事实，但如果您启用更新，公司的人工智能将看到您的所有数据。
Noma警告：“这种类型的攻击不会是最后一种。这反映了一个日益增长的人工智能漏洞类别，组织必须立即做好准备。”随着公司引入能够读取Gmail、Google文档和日历的人工智能工具，人工智能本身成为了一种新的访问层级。
您数据的安全性现在取决于在接受或启用每个新的人工智能更新时谨慎选择。这场“在人工智能马逃跑后关上马厩”的无尽游戏仍在继续。
#Google #AImodel #AI #Write2Earn
