谷歌Gemini遭受大规模蒸馏攻击，单次攻击次数超过10万次

IT之家 2 月 15 日报道，谷歌于当地时间 2 月 12 日宣布，其 AI 聊天机器人 Gemini 遭受了一系列“蒸馏攻击”，即通过重复提问迫使聊天机器人暴露其内部机制的攻击。谷歌表示，这些攻击者通过重复问题和测试其内部机制来不断测试模型的输出模式和逻辑，从而试图“复制”模型或为攻击者自己的人工智能系统提供数据。其中一次攻击给双子座带来了超过十万次的刺激。谷歌在周四发布的一份报告中表示，这次攻击主要是由“商业攻击者”实施的。该公司确定其背后的人大多是寻求获得竞争优势的私营人工智能公司或研究机构。谷歌发言人告诉 NBC 新闻，这些攻击源自世界多个地区，但拒绝透露有关嫌疑方的更多信息。 “这谷歌威胁情报小组首席分析师 John Hultquist 表示：“针对 Gemini 的攻击规模表明，此类攻击已经开始或可能很快扩展到为中小企业定制的人工智能工具领域。”他将谷歌的处境描述为“煤矿里的金丝雀”，这意味着与大平台的冲突可能预示着该行业面临更广泛的风险。谷歌强调，此类蒸馏攻击属于知识产权盗窃。科技公司正在投资数十亿美元开发人工智能聊天机器人，并在内部部署人工智能工具。核心模型的机制被认为是高价值的专有资产，尽管主要提供商引入了可以识别和阻止蒸馏攻击的机制，但大型传统模型本质上仍然容易受到攻击，因为它们可供所有人使用，谷歌还表示，大多数攻击旨在劫持 Gemini 的“推理”算法，即其信息处理算法。ng 和决策机制。 Holtquist 表示，越来越多的公司开始为内部运营培训定制的法学硕士，这些模型可能包含敏感数据，增加了蒸馏攻击的可能性。他警告说，损失将会更大。他说，例如，如果一家公司的法学硕士学习了其“100年历史的商业思维”，理论上可能可以通过蒸馏逐渐提取关键的知识秘密。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供存储服务。信息存储。
注：以上内容（包括图片和视频，如有）由网易号社交媒体平台用户上传并发布。 ly提供信息存储服务。