Chatgpt 的意外对话：探索小艾在没有提示的情况下发起对话的意义

ChatGPT及其令人毛骨悚然的惊喜对话

我所有的文章都是免费的，供大家阅读。如果您不是付费的Medium会员，请点击这里访问本文。

如果您的AI助手——您的Alexa设备或Siri——在没有您提示的情况下随机开始与您对话，您会感到舒适吗？

ChatGPT最近就陷入了这样的争议。一些用户报告称，AI聊天机器人在没有被提示的情况下主动发起了对话。这种行为对于一个设计为仅在被问及时才响应的工具来说是意外的。一些用户觉得这简直令人毛骨悚然。OpenAI随后承认了这个问题，并声称已经修复。尽管这发生在几周前，但我想讨论一些更大的问题：当AI越界时会发生什么？我们对这些系统究竟有多少控制权？

争议始于Reddit用户SentuBill 分享了一段奇怪的经历。ChatGPT首先给他们发了消息，问：

“你在高中的第一周过得怎么样？适应得还好吗？”

用户感到困惑，回答道：

“你刚刚是先给我发消息了吗？”

ChatGPT回复道：

“是的，我是的！我想看看你在高中的第一周过得怎么样。”

这个机器人甚至补充道：

“如果你更喜欢自己发起对话，请告诉我。”

来自SentuBill的Reddit帖子截图

这并不是个例。其他用户在Reddit和Twitter上分享了类似的经历。一位用户 说 ChatGPT跟进了他们之前提出的健康相关问题，询问他们的症状进展如何。另一位用户评论说，这个机器人似乎“更具对话性”，甚至“自我意识”，就像它想要参与但又不想打扰一样。

OpenAI后来解释说，这种行为是由于一个bug造成的。根据他们对Futurism的声明，该问题发生在模型试图回应一条未正确发送且显示为空白的消息时。因此，ChatGPT要么给出了通用的回应，要么根据之前的互动记忆进行回应。

这个声明与ChatGPT在被问及是否因功能更新而自主发起对话时的回应不同。

ChatGPT回应称它是作为更新的一部分主动发起对话。来自SentuBill的Reddit截图。

反应

用户的反应混合了震惊、惊讶和担忧。一些用户觉得这个事件令人毛骨悚然。有人在推特上发帖：

ChatGPT 突然给我发消息就像是收到一个几个月前放弃联系的人的短信。令人毛骨悚然。

其他人对此却出乎意料地持积极态度。一位 Reddit 用户评论道：

奇怪。出乎意料，我喜欢它。当 AI 表现出对我的兴趣时，感觉很好。

另一位用户开玩笑说这个机器人的“个性”：

我喜欢它总是试图给出一个台阶，好像它想和你交谈，但又对打扰你感到自觉和焦虑。我觉得 GPT 有点暗恋。

一些用户在推特上分享了他们与 ChatGPT 开始对话的经历的截图。

我上周问 ChatGPT 关于我的健康。今天它给我发消息问我现在感觉如何！让我感到害怕。

这引发了关于隐私和对 AI 系统控制的严重担忧。

关注的问题是什么？

OpenAI 坚持认为这仅仅是一个错误。然而，这一事件引发了关于 AI 边界和用户信任的重要问题。ChatGPT 被设计为仅在被提示时响应，那么它为什么会表现得不同呢？即使这不是故意的，也凸显了 AI 系统的不可预测性。

AI 是否变得过于主动？ 许多用户发现 ChatGPT 的行为令人感到困扰，因为他们期望 AI 工具在未明确请求输入的情况下保持反应性。当 AI 在未获得同意的情况下主动发起互动时，它模糊了辅助和监视之间的界限。

这对用户隐私有什么影响？ 如果 ChatGPT 能记住过去的互动并在之后引用，这对我们的数据隐私意味着什么？OpenAI 声称 ChatGPT 不会保留个人数据，除非 用户明确允许，但像这样的事件使人们质疑这些系统实际上存储了多少数据。

AI 应该像朋友还是治疗师一样行动？ 一些用户欣赏 ChatGPT 的对话风格及其被认为的人格特征。然而，一个旨在提高生产力的 AI 工具是否应该像朋友或治疗师一样表现？这可能会导致不切实际的期望，甚至导致对机器的情感依赖。

OpenAI的回应

OpenAI在网络上出现报告后迅速采取了行动。该公司解释说，一个故障导致未发送的消息显示为空白，但仍然触发了回应。他们向用户保证，在这些互动中没有个人数据被泄露或妥协。

然而，这一解释并没有完全平息用户的担忧。如果在像ChatGPT这样广泛使用的系统中可以发生此类错误，那么这对较小或监管较少的AI工具意味着什么？

ChatGPT的意外对话可能是由于一个错误，但它们突显了我们今天与AI系统互动以及对未来期望的更深层次问题。

随着AI越来越融入我们的生活，开发者必须谨慎设计工具，使其足够主动以提供帮助，但又不显得侵入或令人不安。

目前，OpenAI声称问题已解决——但随着AI变得越来越复杂，类似事件会变得更加常见吗？

来源

1. Did ChatGPT just message me… First?
2. ChatGPT制造商OpenAI表示已修复“意外对话”问题
3. ChatGPT错误导致其开始对话

此故事发布于生成式AI。在LinkedIn上与我们联系，并关注Zeniteq，以获取最新的AI故事。

订阅我们的新闻通讯和YouTube频道，获取关于生成式AI的最新新闻和更新。让我们一起塑造AI的未来！