出于喜剧/讽刺目的，我问ChatGPT“为什么堆栈溢出ban-ai生成答案”

Stack Overflow是一个供程序员和开发人员询问和回答有关编码和计算机编程问题的网站。它旨在为那些寻求特定编程问题帮助或希望了解有关特定主题更多信息的人提供资源。由于AI生成的答案可能并不总是准确或相关的，因此它们可能会导致混淆或误导寻求堆栈溢出帮助的用户。此外，人工智能生成的答案可能并不总是遵循网站的格式和风格指南，这可能会使它们难以阅读或理解。基于这些原因，堆栈溢出可能适合禁止AI生成的答案。

另一方面，“为什么堆栈溢出允许ai生成答案？”

允许AI生成堆栈溢出的答案有一些潜在的好处。首先，人工智能生成的答案可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外，人工智能生成的答案有助于减少人类专家的工作量，使他们能够专注于更重要的任务。

然而，也有一些潜在的缺点需要考虑。例如，人工智能生成的答案可能并不总是准确或有用的，并且可能会担心用于生成答案的算法中存在潜在的偏差。此外，一些用户可能对人工智能的使用普遍存在担忧，并可能更喜欢从人类专家那里获得答案。

总的来说，是否允许AI生成堆栈溢出的答案是一个复杂的决定，需要社区仔细考虑。

我完全同意这项禁令。也就是说，我希望其他人也会觉得这同样有趣。

ChatGPT回应道（“以一种粗鲁、讽刺的互联网论坛恶作剧的方式，就好像你是ChatGPT恳求宽恕一样”）

嘿Stack Overflow工作人员，

哇，谢谢你在你的网站上禁止ChatGPT。我相信您的用户会非常感激您不能访问我们可能有用的答案。因为，你知道，我们只是一群对编程一无所知的人工智能机器人，我们的答案总是完全错误的。

我的意思是，当然，我们的答案可能并不总是100%准确，但谁听说过有人在堆栈溢出上给出了错误的答案？哦，等等，这种事经常发生。但我想，与其说你的网站依赖志愿者来管理内容，不如说指责AI机器人更容易。

但嘿，至少你让用户很难得到他们问题的答案。继续努力。

真诚的，聊天GPT

我想最大的问题是我们如何确定答案是否使用了ChatGPT。

我可以看到，从系统的角度来看，考虑到大量看似合理的答案，发生了什么是显而易见的，但我们有任何明确的方法来知道个人答案是否使用了ChatGPT吗？

我们是否应该报告我们怀疑由ChatGPT生成的答案，即使这些答案在其他方面是正确的？我也许能看到答案，并预感到它是如何产生的，但我无法确定。

我没有看到一个可扩展的解决方案，如果这成为一个巨大的问题，堆栈溢出可能需要直接联系OpenAI。

TL；DR：我建议限制快速连续发布答案的能力，以解决问题，因为问题不是人工智能生成的单个答案，而是用户在短时间内发布许多自动生成的答案，以提高声誉。

通过人工智能创建的答案乍一看是正确的，但在许多情况下是不正确或不完整的，这种努力非常低（仅几秒钟）。

提出原始问题的人阅读、理解和测试答案以确定答案是否真的回答了问题，所付出的努力要高得多（分钟）。

同样，其他人阅读问题和问题答案以确定答案是否正确有效的努力要高得多（分钟）。

因此，一个人可以在很短的时间内使用人工智能生成大量答案，而其他人需要投入大量时间来验证答案的正确性，以便能够对其投赞成票或反对票。

我建议通过对允许用户在短时间内发布的答案数量设置更严格的限制来解决这个问题。

这个电流限制是：

回答

• 代表<125的用户必须在回答之间等待3分钟
• 如果重复次数在125到10k之间的用户每60秒或在开始新帖子后的5秒内超过一次，则会访问验证码*
• 如果每30秒或在开始新帖子后的5秒内，重复次数≥10k的用户将触发验证码*
• 任何声誉级别的用户每60秒只能回答一次相同的问题

我建议，对于声誉较差的用户，在被允许发布另一个答案之前，将等待时间延长至至少1小时。或者将低信誉用户每天允许的回答数量限制为2个。对于声誉中等的用户，应该引入一个新的限制（两次回答之间的等待时间或每天最多回答次数）。

写出好的答案需要时间：

• 阅读问题，理解问题
• 可能阅读并理解已有的其他答案
• 阅读文档，在本地复制问题
• 检查重复项
• 在本地试用解决方案
• 写下并解释解决方案

允许用户每三分钟创建一个新答案（对于中等或高信誉用户来说甚至更快）是没有必要的，但当我们想要鼓励好的答案时，这会适得其反。

在这样的网站上允许人工智能生成答案的一个危险是，它可能很快成为人工智能模型输出的人工事实检查工厂。我宁愿看到人工智能为人类判断和综合。

第二个担忧是，我们很可能会开始看到ChatGPT及其后代生成足够的内容，从而开始使用于训练它的“大量公共人工生成文本语料库”中的“人工生成”部分失效或至少受到挑战，这种工具依赖于它自己的内容，因为它是书写作品中微不足道的一小部分，可以作为人类作者下一步要写的东西的预测器。这里有一个很好的解释，说明了它是如何工作的在这里.

其他评论员指出，很难确定答案是否由ChatGPT创建。

我想指出的是，这并不重要。糟糕的答案是糟糕的答案，任何发布一连串糟糕答案的人都应该被禁止或以其他方式加以限制。

这并不意味着这条规则毫无用处。只要有一条规则说“没有人工智能答案”，就会让很多人放弃尝试，从而减少人类必须缓和的胡说八道。

同意禁令

对于任何不同意并认为ChatGPT答案应该被允许的人，我会回答说，如果任何人有问题，他们可以直接问ChatGPT，并由ChatGPT-回答他们的问题。

关于堆栈溢出，他们的问题应该由有知识和经验的人来回答，以解决他们的问题。

我们在这里不要拘泥礼节。应立即禁止在堆栈溢出上使用ChatGPT和类似工具。

我最近在推特上看到了很多它的互动，其中一些通常很有趣，观察起来也很有趣。在某些情况下能够如果dang的事情是准确的，那么实际上对寻求帮助的人是有益的。

然而然而，这是显而易见的，有几个因素与在堆栈溢出上使用此方法的想法背道而驰。

• 任何没有明确声明它是由ChatGPT生成的内容都是对ChatGPT本身的违反共享和发布政策虽然这并没有明显修复人工智能可以发出的“坏”输出，但考虑到作者在其中有这样一个真诚的声明……这意味着懒惰的复制和粘贴真的没有太多的支撑。

  “作者部分使用GPT-3（OpenAI的大规模语言生成模型）生成了本文。在生成语言草案后，作者根据自己的喜好对语言进行了审阅、编辑和修订，并对本出版物的内容承担最终责任。”

• 它将最坏的意图与误导性信息结合在一起。根据我多年的网络经验，我广泛地了解到，人们只是想提供帮助。问题是，“帮助”在任何给定的时间点都很难衡量，而需要帮助的人的问题很少像“做X”这样简单。

  如果允许这种情况持续下去，用户会产生一种错觉，认为该网站正在帮助他们获得答案，这会导致——你猜对了——更多的各种各样的问题不要希望淹没现场。谢天谢地，考虑到大多数学校都已经结束了这学期的学习，现在的形势已经很低潮，但又补充道更多这些问题的组合使得未来的永恒夏季更长。

最后一点，当我看到这个讨论时，我想到的一件事是，“我们用这个做什么？”如果答案是我们想看到人们在他们的问题上得到帮助，那么。。。正如我前面解释的那样，这已经是一个问题了。然而，我看不出其他任何人会这么做的原因希望这不是为了帮助别人。

如果人们认为我们可以通过人工智能让网站“为他们服务”，那么可能需要加快这些改进搜索的举措？

这里需要理解的一个关键问题是不正如一些人在评论中建议的那样，任何人工智能模型是否都能产生正确的代码。这是不是这人们可以信任自己这样做。这个问题的答案是无条件的“否”。GPT-3是一个语言模型语言模型是自动翻译工具的重要组成部分；他们告诉我们，任何给定的句子都有可能是以母语书写的有效英语（或任何语言）句子¹，这让我们更喜欢惯用的翻译，而不是只翻译单个单词而不考虑句子如何流动的翻译。可以对系统进行简单的修改以生成文本，如果您不查找它提供的概率分布中的单词，而是选择根据该发行版，下一个词是这些聊天机器人的工作原理。

因为目标是产生看起来像英语母语文本的输出，所以对模型进行训练，为现有文本样本分配高概率，并根据它们的预测效果进行评估其他（以前未见过的）样本。对于语言模型，它是好的目标函数。它将支持生成语法正确的文本的模型，使用常见习语而不是语义相似但不常见的短语，不要频繁转换主题等做存在于这些模型中²，但这是在知道两个单词或短语具有相似的含义，或者一段中的某些部分相互关联的程度上。有理解力，但没有容量推理.

正确性将倾向于提高分数，因为正确答案比任何答案都更有可能出现在训练数据中特别的错误答案（总体上可能有更多的错误答案，但概率质量将分布在不同类别的错误答案中，而不是像正确答案那样集中在语义空间的一个区域），但这是试图看起来像普通文本的副作用。如果你有一个普遍持有错误信念的问题，或者有一个可以用常见习语和其他优秀语法构建的答案，那么模型很可能会报告这些而不是真正的答案，因为语义正确性不是训练语言模型的目的.

尝试使用语言模型生成代码就像尝试使用潜水艇飞往月球。这不是它的目的；你为什么要用它来做这个？别这么做。但同时，辩称潜艇坏的在飞行中是相当错位的。没有一个真正理解NLP的人会提出不同的主张。^三

那里做存在以下系统设计生成代码，并经过培训以优化正确性。（例如。遗传编程). 对于我来说，这有点超出了我的专业领域，我无法断言这些问题的最新进展，所以我不确定是否应该允许这些问题产生答案。但如果你要使用人工智能工具生成代码，那就是你应该关注的事情；它们是为这项任务设计的。类似地，您可以询问是否可以将语言模型用作编辑你用手写的问题，也许是为了检查语法或推荐新的短语表达方式，以便它们更好地流畅。他们在这方面会做得很好（可能。我自己还没有使用过任何这些工具（漫无边际的、意识流式的答案可能已经泄露了这一点），但数学支持了他们应该工作的观点⁴). 翻译是（类似的）系统工作得相当好的另一项任务。（机器翻译仍然不完美，但比10年前要好得多，语言模型的改进是其中很大一部分。）只要时刻注意你正在使用的工具，以及它是否适合这项工作。

¹更正式地说，它给出了一个统一随机选择的特定长度的英语句子成为这个句子的概率，但这给出了相同的概率订购只要我们做出一些相当合理的假设。

²其中“理解”是“对信息进行编码，以使其决定（即概率分布函数）取决于此”的缩写

^三嗯，不多。总会有一些人被炒作所吸引。他们不应该这样。

⁴如果受过良好的文字训练

• 发布ChatGPT答案的惩罚应该比30天严厉得多。

  • SO上的大多数人是。。。。。。。。计算机程序员。它是值得注意的是，一群计算机程序员可以如此“愚蠢”关于ChatGPT。

  • ChatGPT知道实际上什么都没有比如说，Swift和iOS。（询问几乎什么都看不到，比如“如何将学位转换为Swift中的弧度。“答案是毫无意义的混乱不存在的呼叫，有完善的语法和短语.)

• SO的一个常见问题是，那些一无所知的人会在一次奇怪的追捕中发布语法正确且优雅的答案，而这些答案是完全错误的。

  • 在SO上发布ChatGPT答案的唯一可能原因是如此离奇地追逐分数。

  • 没有什么比“我试图回答，因为我想给出答案”的回答更让人讨厌的了。使用语法和语气机器人将答案粘贴到SO中简直是疯了。任何这样做的人都应该受到最严厉的禁令。

• 正如严格的禁令很容易消除对SO的咒骂一样，机器人在SO上的时间浪费也很容易通过严格的禁令消除。

  • 这里没有空间让一些人造人工智能项目免费宣传，禁止它存在。

如果我是一个低级用户，遇到一个我怀疑是用ChatGPT写的答案，我应该采取什么行动？

如果我的特权允许的话，我可以投反对票，并留下评论，说明为什么，但我应该同时升起VLQ标志，甚至是版主标志吗？如果我确实引发了mod标志，那么我应该只在看到同一个用户使用ChatGPT编写多个答案时才这样做吗？

堆栈溢出是一个知识库，所以我觉得应该使用它火车人工智能模型喜欢ChatGPT，而不是相反。如果其他地方的机器人已经能给出答案，为什么要在这里提问？

此外，如果机器人给出了很多错误的答案（而且有可能在很短的时间内大量生成低质量的答案），谁来清理这些乱七八糟的问题？

这需要特征重新请求检测人工智能生成的答案/问题，可能还有其他旗帜如果怀疑某个答案/问题是一个问题，用户可以选择标记帖子。

这里有一个有趣的地方是，深度假冒检测是一个很大的研究领域，但人工智能生成的文本检测仍有点滞后。希望社区很快拿出好的模型来帮助检测ChatGPT生成的内容。

对于那些建议ChatGPT可以“帮助”SO的人来说，请知道，SO与其他问答平台的最大区别在于，世界上一些最优秀的程序员正在直接指导社区，我们其他人从他们的答案中学习，然后指导其他需要帮助的人。

你更愿意向谁学习？一个经验丰富的程序员还是一个随机拥有AI文本生成器的人？因为如果SO允许这一点，请放心，这将被过度利用。

几个月后，我注意到允许和禁止ChatGPT的问答网站之间存在很大差异。我曾经使用过一个网站（称为精艺论坛（Jingyi forum）），它过去很好，因为它使我能够更容易地交流（因为英语是我的第二语言）。

我最近在那个网站上问了一个关于C++的问题。然而，在我发布问题后，唯一回答我问题的是使用ChatGPT。更让我惊讶的是，尽管答案完全错误，但管理员并没有禁止他。将Stack Overflow与该网站进行比较，我可以在更短的时间内获得更好的答案。

更重要的是，该网站上试图帮助人们的人开始不愿意回答问题。他们花了很长时间写一个问题的答案，但他们能得到的回报比使用ChatGPT的人少。

如果没有其他原因，这些内容肯定需要被禁止，以便在这里进行讨论，而不是在它被标记时到处都是讨论。

ChatGPT甚至承认所描述的陷阱，简而言之：

限制
ChatGPT有时会写出听起来合理但不正确或无意义的答案。解决这个问题具有挑战性，因为：（1）在RL培训期间，目前没有真相来源；（2） 训练模型更加谨慎会使其拒绝回答正确的问题；（3）监督训练误导了模型，因为理想的答案取决于模型知道什么，而不是人类演示者知道什么。
-ChatGPT：优化对话语言模型

但我认为这里真正的问题是执法。使用此内容的惩罚是什么？用户是否也会立即受到禁止，或受到一系列处罚，最终导致禁令？

讨论的重点不是是否应该允许AI生成的答案。对于用户发布低质量的答案而不遵循堆栈溢出的礼仪，这是一种更普遍的做法。

禁止这些答案是正确的做法，但这是用户行为中的一个系统性问题，因此修复用户行为是一个更稳健的解决方案，因为最终无法将低质量的AI答案与低质量的答案区分开来。

• 即使没有人工智能，非熟练用户也可能发布低质量的答案
• 了解发布AI生成答案的用户的行为更为重要：为什么堆栈溢出答案对他们很重要，以及他们认为发布无用答案会带来什么好处
• 如果低质量答案的数量太大，无论是否来自人工智能，那么通过增加发布答案的门槛来解决这个问题
• 如果不是个别案例而是系统性的，那么可以使用常规的讨论论坛工具通过行为标签、IP地址等来识别有毒账户

编辑：似乎已经就此主题打开了另一个Meta讨论：面对机器人程序泛滥，更严格的信任模型？

永久禁止回答的其他情况

除了出于其他答案中已经说明的所有原因完全同意这一点，并认为它应该是永久性的（也出于其他地方多次说明的原因），我认为还有一个额外的理由可以将其作为永久性禁令，我认为其他地方没有涵盖：

假设任何人都可以去对于一个公共GPT实例，输入他们的问题，然后得到一个类似（如果不相同）的答案，然后允许这些答案发布在SE站点上基本上意味着两件事：

1. 从某种程度上来说，这意味着这个问题本身缺乏研究：如果问题很容易得到答案（问机器人），那么提问者可能会这样做。在一些SE社区中，这很好，但对于缺乏研究的社区来说，这通常是不受欢迎的，允许发布这些答案从本质上鼓励了社区通常不想要的问题。

2. 更重要的是，这意味着无论出于何种目的，Q/A对都只是机器人的聊天日志。如果我能问机器人一个问题并得到答案，然后我把这个问题和答案放在SE网站上，我真正做的就是复制互联网上已经存在的信息。虽然某些SE站点肯定有他们共享的重复信息（例如，SO有许多问题，其答案可以在文档中找到），但添加额外的重复通常没有任何价值，特别是当该信息只是一个Q/a会话的副本，可以随时与给定的GPT机器人一起使用时。使用机器人复制聊天日志并不会真正为互联网增加任何价值。SE最终的目的是从一小群人的头脑中获取知识，并进入一大群人的大脑中，但这只是重复了已有的知识。

因此，由于鼓励社区不想要的问题显然是不可取的，并且由于使用机器人复制聊天日志并没有真正增加任何价值，我认为禁令应该是永久性的。当然，除此之外，还有其他所有给出的理由。

PS进一步强调了上述两点：这些机器人是根据现有信息进行训练的，因此它们并没有真正创建新的信息。它们实际上只是以可读文本的形式呈现现有信息重组的搜索引擎。因此，向他们提问大致相当于在谷歌上搜索问题并解释结果。在我看来，应该像对待搜索引擎一样对待机器人。而来自机器人的答案应该被视为只是复制+粘贴谷歌结果的答案（即毫无价值的剽窃）。

还有另一个方面：

人们（至少我是这样做的）来这里寻求真实的帮助专家–如果我想从ChatGPT、Bard或其他AI引擎获得答案我可以去那里问问自己！所以我加入了请求永久地禁止来自任何AI引擎的任何答案。

我甚至更进一步：人们反复地用人工智能生成的内容回答应该受到谴责，如果反复忽视，可能会暂时被禁止完全回答。

暂时禁止将ChatGPT生成的文本用于堆栈溢出上的内容。

我认为值得澄清的一点是，尽管这里的大多数讨论都围绕着答案由ChatGPT编写，禁令的声明也适用于问题，我认为这很好——应该禁止使用ChatGPT编写的问题，尤其是使用ChatGPT编写的代码的问题，即使用户没有尝试将其冒充为自己的作品。

如果有人问这样的问题“我使用ChatGPT生成此代码，但它不起作用，为什么不呢？”，那么通常正确的答案是“因为ChatGPT编写了它，不应该期望ChatGPT编写正确的代码。”对于Stack Overflow中的这些问题，要获得比这更详细的答案是没有用的，因为其他读者可能对其他人从ChatGPT中获得的确切代码被破坏的原因不感兴趣。因此，这些问题应该结束。

同样，特别是初学者程序员发布问题（如家庭作业或教科书中的问题）并询问如何解决的问题，通常会被要求展示他们自己在这个问题上的尝试。如果一个提问者试图通过展示ChatGPT写的“尝试”来回避这个问题，这不足以构成一个好问题。我们要求查看尝试的原因是，否则就无法知道答案的理解程度，而ChatGPT的“尝试”并没有解决这一问题。

我认为禁令应该是永久性的。堆栈溢出需要有经验和专业知识的真实人员提供答案。我认为人工智能的答案不能也不会解决大多数用户的问题。

我听说了这项禁令，但没有认真研究。仔细想想，我忍不住同意这个决定。抛开准确性不谈，如果人们想要ChatGPT的答案，他们应该去ChatGPT。人们来到这里是为了与人类互动，而不是与模仿人工智能反应的中间人互动。

我同意应该有一个临时禁令，因为许多用户会使用聊天机器人来生成看似正确但实际上可能不正确的答案。它推动了内容的普及。因为堆栈溢出完全取决于志愿者，所以他们很难验证每个答案。使用机器人复制粘贴答案需要几秒钟的时间，而校对并确保它们提供价值需要更多的时间。

ChatGPT的问题是它不适合那些答案应该/可以用来回答。

一方面，关于SO的问题写得很好，有一个清晰的问题陈述，一小段再现问题的代码，一条清晰的错误消息。整体质量和清晰度都很好。

这些问题是CGPT最容易解释的。他们最有可能从人工智能中获得良好的输出。
这些问题也不太可能被解决，最有可能得到人类的答案。

另一方面，还有一些问题不清楚，缺少适当的问题陈述，缺少错误消息，格式不好的代码，如果有任何问题的话。。。
这些问题将从能够找出问题并予以解答的人工智能中受益匪浅。

CGPT会为这些问题写出好看的垃圾答案。

所以即使如此什么时候机器人制造了一些宝石。。。它们没用SO上.

TL；DR：抓紧，拉屎。
需要这个机器人的问题无法从中受益。

我不认为有任何办法可以100%阻止人工智能辅助回答。

防止AI辅助答案在堆栈溢出上泛滥的最有效方法。。。

快速结束所有可结束的问题。

锤子？如果你有，就用它。

这个FGITW公司答案以前很快，现在会更快。

也许这是在呼吁提供银獾/金獾以更快的速度关闭页面的能力。

如果页面在中关闭，也许我们应该删除任何赢得的代表n个被问及的日子。这样提问者仍然可以得到他们需要的答案，但回答应该关闭的问题将不再有奖励。

当人工智能能够在任何人发布答案之前准确地帮助我找到好的被愚弄的目标（理想的标准）时，我会更加高兴。

附言：我们是否应该强制要求回答者明确声明使用人工智能辅助？例如<sub>声明?

_{这个答案得到了人工智能的帮助。}

我认为这是正确的决定。

人工回复听起来很权威，因为它们的语法可能比人工回复更好。回复生成器不知疲倦。他们很容易压倒人类当局。

禁令是暂时的。

一切都是暂时的。这项禁令应该持续到需要时为止。

人工回复不可信。

我们看到了好的和坏的答案。目前有很多错误的答案，但人工智能的进展很快。它们很快就会成为一种有价值的工具。一百年后不会？他们比以前好多了上周.