基于AI的聊天正在侵害你的隐私

基于人工智慧的聊天即将侵犯你的隐私：我们应该暂停大型语言模型的发展吗？

发布于2023年3月30日，作者：Glyn Moody

早在二月，我们在PIA的部落格中提到，对大型语言模型LLMs，例如ChatGPT的日益兴奋，忽视了它们所带来的严重隐私危险。在几个月的时间里，这个领域的技术以惊人的速度发展：我们见证了GPT4、Google的Bard以及百度的Ernie的推出。

随著大型语言模型影响的日益明确，人们开始意识到它们所造成的各种问题，包括对隐私的影响。或许，对于生成式AI的顾虑中最具戏剧性的是一封公开信，其中众多知名人物呼吁：

所有AI实验室应立即暂停至少六个月对比GPT4更强大的AI系统的训练。这一暂停应公开可查，并包括所有主要参与者。如果这样的暂停无法迅速实施，政府应介入并建立一项禁令。

无论对当前AI系统的批评是否合理，似乎缺乏对大型语言模型训练的禁令的可能性。这领域的炒作过于强烈，风险资本的投入也过于庞大。然而，值得注意的是，我们每周甚至每日都在看到令人振奋的技术进步，这使得解决安全问题的迫切性在上升。

AI安全还不算太晚

已经有一些初创公司旨在解决大型语言模型的问题。例如，Anthropic自称是一家“AI安全与研究公司”，其目标是“建立大规模的实验基础设施，以探索和改善计算密集型AI模型的安全性”。该公司整理了一个冗长但易于理解的AI安全核心观点介绍。Anthropic的主要关注点如下：

没有人知道如何训练非常强大的AI系统，使之可靠、有帮助、诚实和无害。此外，快速的AI进展将对社会造成破坏，并可能引发竞争，导致公司或国家部署不可信的AI系统。这样的结果可能是灾难性的，无论是因为AI系统策略性地追求危险目标，还是因为这些系统在高风险情境下犯下更多无辜的错误。

除了这些问题的研究外，Anthropic还提供一种他们所称的“下一代助手”，名为Claude。这种助手对于像ChatGPT或Bard这样的基本聊天系统进行了商业场景的优化。该公司表示：“Claude可以是一位令人愉悦的公司代表、一位研究助手、一位创意伙伴、一位任务自动化工具等等。个性、语调和行为均可根据您的需求进行自定义。”它的一个主要特点是可以进行“相关的、自然的对话”。

这些AI助手变得越自然，它们在公司中的实用性就越高，既可以作为员工的工具，也可以协助客户服务。但这些应用都存在重大的隐私问题。虽然这些算法可能是员工完美、无疲劳的助手，但在运作过程中，它们将不断收集有关员工工作情况的信息。

AI不断收集大量私人数据

AI助手的对话性质意味著使用者在透露其信息时可能会变得较不谨慎。

此外，AI系统能够存储并交叉参考这些数据例如，将其与人们过去的言论或其他员工的行为进行比较这使其成为管理层监控每个员工活动、工作效率甚至个人意见的强大工具。这样的能力对于远程工作的公司特别有吸引力。

同样，将AI聊天系统置于客户服务角色中，将允许公司收集和存储大量有关客户观点和个人信息的数据。AI聊天不会疲倦，也不会偏离公司指引，甚至可以编程以在对话适当时提出问题，揭示人们生活的详细情况。Anthropic的系统所提供的“自然的对话往返”则可能再次鼓励客户敞开心扉，分享他们的担忧和信念。Anthropic并不是唯一提供此类服务的公司，另一家是Characterai：

我们了解提供一个真正属于你的AI的重要性，这就是为什么我们的AI可以自定义。从个性到价值观，你可以根据自己的需求和偏好自定义你的AI。无论你想要一位有同情心的倾听者，还是一位具有分析能力的问题解决者，CharacterAI中都有合适的AI。如果自定义不符合你的需求，我们还有一个拥有超过100万AI角色的创作者社群可以供你选择。

Characterai的Elon确实拥有一些Elon的能量。

这一百万AI角色的范围非常广泛，包括帮手、游戏、电影和电视、讨论、政治、书籍以及许多名人等主要类别。这些类别中的每一个AI聊天选项都设计有自己独特的风格。

可以想像，粉丝们会沉迷于与这些AI频道的聊天。根据该服务的统计，许多流行的AI聊天选项已经收到了数百万条消息。该公司声称：“活跃用户平均每天与我们的AI互动超过2个小时。”用户与这些AI角色的互动越多，他们透露个人观点和生活的可能性就越高。

基于AI的聊天将很快能读懂你的情绪

所有这些个人数据都可以被捕获、存储，然后喂给AI系统，显然对涉及的人员造成风险。

其他具备隐私影响的AI进展也在如火如荼地进行中。arXiv上的一篇论文报告了有关使用LLMs分析人类对话中伴随的非语言信号的研究例如，身体手势和面部表情。可以教导AI系统“读取”这些信号，以获取关于说话者心态的有价值信息。

在网上聊天系统中添加非语言分析的成为时间问题，这样AI生成的虚拟形象就可以在视频通话中与人类互动，理解人们所说之外的内容，甚至利用他们的非语言提示以微妙地影响对话者。

在大型语言模型领域的变化速度如此之快，以至于有些人开始呼吁建立一个新的“数位思想研究”领域，以确认高级、可能具有意识的AI的权利，包括推测中的隐私权。

使用Private Internet Access

图片来源：characterai。

[] (https//wwwprivateinternetaccesscom/buyvpnonlineconversionpoint=aichatthreattoprivacybottomgetpiavpn 购买VPN)