亚马逊人工智能 Alexa 与旧版 Alexa 一样存在隐私危险信号 – Ars Technica

亚马逊正试图通过使用新的大语言模型（LLM）让 Alexa 对用户来说更简单、更直观。 在周三的年度硬件活动中，亚马逊展示了人工智能驱动的 Alexa 演示，用户很快就可以在 Echo 设备上预览。 但在所有关于新功能和人工智能推动的未来的讨论中，亚马逊几乎没有承认房间里长期存在的大象：隐私。

亚马逊的硬件活动展示了新的 Echo Show 8、更新的 Ring 设备和新的 Fire TV 棒。 但更有趣的是，看看该公司如何试图消除生成式人工智能的炒作以及语音助手未来的不确定性。 亚马逊表示，用户将能够通过任何 Echo 设备（包括原始设备）预览 Alexa 的新功能。 几个星期。

新增的 Alexa 功能由新的法学硕士启用，亚马逊称该法学硕士针对语音对话进行了微调，并使用算法来识别肢体语言和语调。 该公司已明确表示，Alexa 未来将专注于生成式人工智能。 但亚马逊指出，新功能仍处于早期阶段，因此首先应该预料到会出现障碍和错误。

“Alexa，我终于可以不再说 Alexa 了吗？”

一项立即产生显着影响的发展是 Alexa 学会了倾听，而无需用户先说“Alexa”。 该设备将能够使用其摄像头、之前为用户创建的视觉 ID 以及之前使用 Alexa 进行的设置来确定何时有人正在与其说话。

在演示中，亚马逊设备和服务高级副总裁 David Lemp 能够与 Alexa 进行对话，离开一会儿，然后返回设备进行进一步对话，而无需再次说出“Alexa”。

亚马逊高级副总裁兼首席人工智能科学家罗希特·普拉萨德 (Rohit Prasad) 解释道：“这是通过设备上的视觉处理和音频模型实现的，它们协同工作，试图确定你是在对设备说话，还是在房间里的另一个人说话。”阶段。 在亚马逊活动上。

亚马逊还致力于缩短 Alexa 的响应时间，并允许用户暂停或使用“嗯”等填充词而不中断交互。 普拉萨德说，Alexa 可以通过使用具有数十亿参数的大规模匹配模型来做到这一点。

所有这些都表明 Alexa 比以往任何时候都更加专注地倾听和观看。 但亚马逊的演示并未详细说明任何新的隐私或安全功能，以确保这项新功能不会被恶意使用或以用户不同意的方式使用。

当联系到亚马逊寻求评论时，亚马逊发言人指出了之前已确定的内容 Alexa 隐私功能，包括 Echo 设备上的指示灯，表明 Alexa 正在监听，并允许用户查看和管理他们的语音历史记录。

该发言人补充说，亚马逊使用“许多策略和功能”来保护设备和客户数据，包括“开发过程中严格的安全审查、保护数据的加密以及定期软件安全更新”，并且亚马逊“将继续采取措施加强安全性”。 “设备安全。

为了减少控制多个智能家居设备的繁琐，亚马逊还更新了 Alexa 以简化智能家居命令。 例如，即使您不知道该智能灯泡的官方“名称”，Alexa 最终也可能知道如何“打开客厅的新灯”。 亚马逊还讨论了控制多个设备并用一句话设置例程的能力，而不必为每条指令说“Alexa”和设备名称。 其他进展包括让 Alexa 推断出你想要什么，例如当你告诉它房子脏了时，它会加快机器人吸尘器的速度。 这些功能如果可靠的话，将使智能设备的语音控制变得更加有吸引力和直观。 这些功能将在“未来几个月”从亚马逊预览 他说。

人工智能和消防电视

亚马逊还展示了采用生成式人工智能技术的 Fire TV 设备如何帮助用户查找数字内容。 此前有报道称，亚马逊正在探索其中一些功能，例如让 Alexa 根据“查找扮演律师的人的电影”等提示来推荐电影和电视节目。 太糟糕了或者使用过滤器搜索选项，例如“向我展示动作片”，然后是“向我展示我不需要付费的电影”和“向我展示我还没看过的电影”。 Fire TV 设备从各种来源的电影和电视内容（包括 IMDB）以及用户的 Fire TV 个人资料和观看习惯中获取内容。

亚马逊表示，新的 Fire TV AI 功能，包括上传家庭照片和为其添加滤镜的功能，将于今年晚些时候通过无线更新推出。

这些计划中的功能本身就很有意义。 在当今的流媒体战争中寻找内容是一件麻烦事，我之前曾指出 Fire TV 设备是 Alexa 收入的潜在生命线。 但我不愿意将更多的观看习惯交给亚马逊。 亚马逊一直声称不会出售客户数据，但这些数据仍然可以用来做出商业决策并披露 非用户特定趋势 与第三方合作，进行有针对性的营销。

Alexa 聊天机器人

Alexa 还正在发展成为一个聊天机器人，它使用语音输入、摄像头和存在检测传感器与用户聊天并快速提供信息。 人们非常关注 Alexa 通过更具表现力的声音来展现个性，以及聊天机器人像最喜欢的运动队一样发表意见。 他还必须能够通过特定甚至可变的手势进行来回对话并创作内容，例如诗歌。

”[Alexa has] “我们的事务性总是比我们想要的要强一些，但这是技术的限制，而不是愿景的限制，”林普在台上说。

Limp 演示似乎向 Alexa 展示了一份邀请人们参观的便条草稿，其中包括她之前与 Limp 对话的详细信息（例如将会有烤鸡）。 然后，他似乎已将便条发送到 Limp 的手机（可能是 Alexa 应用程序）。

Alexa 的聊天机器人功能将在未来几周内作为“早期预览版”提供。 当用户说“Alexa，让我们谈谈”时，它会被触发，当用户说“退出”时，它就会结束。

新的 Alexa，同样的隐私问题

在过去的一年里，人们对 Alexa 和 Google Assistant 等语音助手的未来存在疑问，因为它们未能成为可靠​​的收入来源。

从历史上看，亚马逊的许多智能设备，例如 Echos，都是以成本价出售的，希望通过基于 Alexa 的交易和访问数字内容来赚钱（然而，最近的一份报告表明，亚马逊正在转向货币化的前景）生产成本较低的设备）。

但随着亚马逊寻求将 Alexa 放入人们家中的更多房间（我无法计算亚马逊暗示 Alexa 就像家庭成员的次数），该公司几乎没有采取任何措施来增强对其设备安全性和安全性的信心。非侵入性。 。

正如林普在周三的演讲中所说，亚马逊希望 Alexa 能够记住最近播放的音乐，启用个性化提醒，并根据杂货购买推荐食谱。 为此，您需要利用“您共享的偏好、您交互过的服务以及有关您家中和周围环境的信息”。 然而，通过此 AI 产品更新，向 Alexa 提供所有这些信息可能会变得更加容易 相信 Alexa 并不一定变得更容易。

使用视觉 ID 来在没有唤醒词的情况下使用 Alexa 会增加对摄像头和麦克风的依赖，但亚马逊尚未公布任何保护客户隐私的新方法。 该公司此前曾被发现保存录音，包括 孩子们亚马逊员工一直被发现监听 Alexa 的声音并监视 Ring 用户。 Alexa 的声音已被用于刑事审判。 亚马逊表示，它不会将照片或视频发送到云端，并强调 Echo Show 的麦克风/相机关闭按钮和物理相机快门是内置的。

周三的活动强调了孩子们可以通过玩问答游戏和学习事实来与 Alexa 进行互动对话的方式。 这 与 Alexa 一起探索 该功能应在假期前发布。 但亚马逊没有提及任何新的和改进的方法来确保与儿童共享的所有内容都是安全可靠的。

Alexa 过去未能保护儿童，包括在 2021 年，当时她建议一名 10 岁的孩子触摸插头部分暴露的硬币。 当然，亚马逊已经解决了这个具体错误，并且可能会尽力避免将来出现类似情况。 但该公司还没有做出足够的努力来让我相信不会发生类似的事件，尤其是在生成人工智能方面。

当我联系亚马逊发言人征求意见时，他告诉我，自便士事件以来，该公司改进了其系统，以先发制人地检测和阻止“攻击性或潜在有害内容”。

然而，亚马逊代表表示，Alexa 的生成式人工智能更新建立在“现有的内部内容政策和护栏”的基础上。 我们知道，这些政策和护栏过去曾让用户失望，即使亚马逊表示正在努力改进。 当涉及到儿童的安全时，犯错的空间就更小了。

亚马逊代表补充道：

我们还将 LLM 建立在认知基础上，这样，如果模型缺乏响应所需的信息，它将自动查阅许可的数据源和知识图谱，帮助 Alexa 准确回答当今的客户问题。 LLM 能够在回复之前收集最准确和最新的信息，以减少不准确的回复。

Limp 将信任描述为现代化生成人工智能的关键支柱，他说：

你必须相信这一点。 它在你的房子里。 我们相信信任和性能之间绝对不存在权衡……这就是为什么我们将继续为客户提供信息和控制，以便他们能够掌控自己的体验，即使是在后台生成人工智能的情况下也是如此。

隐私和安全并不是现场演示中最引人注目的事情，但自亚马逊的活动结束以来，该公司尚未提供任何有关亚马逊正在努力确保正确处理客户数据和隐私的任何新方法的后续信息。

亚马逊希望 Alexa 更易于使用，同时也能更智能地了解您在哪里、您的生活方式、您喜欢什么、您做过什么、看过什么以及您的孩子对什么感兴趣。 Alexa 的一些开发可以改善其功能和实用性，但它们的吸引力仍然有限，直到亚马逊能够证明它优先考虑安全和隐私，并让 Alexa 更具竞争力。