我们应该害怕ChatGPT吗?

我对ChatGPT有一些非常具体的担忧。我们应该害怕ChatGPT吗?以下是其中的四点:

它使用了令人难以置信的大量数据,其中许多数据没有得到产生数据的人的同意。这些数据然后被用来创建一个模型--在这种情况下,是一个产品。我们不知道,仅仅通过在互联网上创造内容,我们显然是同意让我们的数据被吸走,作为这些项目的一部分。

这将使互联网(以及整个世界)变得更糟。它将使更多的非人类生成的内容成为可能,这些内容看起来好像是由人类生成的。这就造成了一种情况,我们无法相信我们是在与一个真实的人互动,无论是在留言板还是在聊天室。想象一下,你的收件箱的所有最糟糕的方面,但却无处不在。StackOverflow不得不在该工具发布后不到一周的时间内禁止ChatGPT生成的帖子,因为正如我在第(3)点中所暗示的,流畅性不等于准确性。

有一种极其荒谬的情况,我怀疑这种情况会越来越普遍,即不是让实际的人在网上相互交流,而是让他们的语言模型相互交谈。

ChatGPT非常流畅,但废话艺术家也是如此,这正是它在很多时候的表现。ChatGPT无法提供其信息来源。它也会 “幻化 ”假信息,这是基于深度学习的NLP中的一个常见问题。

我们将浪费更多的时间来讨论这个文本生成的计算机程序是否有意识或有知觉。

我们应该害怕ChatGPT吗?

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注