ChatGPT的准确性如何？在已经有了全球共识的问题上，ChatGPT犯错的可能性小一些，但是对于冷门问题，ChatGPT几乎会犯非常低级的错误——而且对此深信不疑，解释的头头是道。
许多花时间上网的人都听说过ChatGPT。用户可以向系统输入提示信息，并几乎在瞬间收到回应，尽管这些回应的准确性存在差异（Ramponi，2022）。但ChatGPT是否有能力知道或甚至估计其反应的可能准确性？如果它不知道，那会不会让ChatGPT成为胡言乱语的专家，就像它是一个专业的信息策划者一样？
为了探索这些问题，首先要定义我所说的 “胡说八道 ”是什么意思，这是明智的。
虽然我们经常用bullsh*t这个词来表示许多不同的东西，但Frankfurt（2005）认为bullsh*t涉及到对真相的不重视，这使它区别于撒谎（即，当某人知道真相但故意歪曲它）。从本质上讲，胡说八道的人是一个在分享信息时很少考虑到所分享内容的准确性的人。法兰克福（2005）进一步争辩说。
只要情况需要某人在不知道自己在说什么的情况下说话，胡说八道是不可避免的。因此，当一个人谈论某些话题的义务或机会比他对与该话题相关的事实的了解更多时，就会刺激胡说八道的产生。(p. 19)
因此，一个胡说八道的人可能会提出看似连贯的论点，但这种论点不一定局限于实际的事实。换句话说，一个胡说八道的人在说话（或写作）时很少考虑到信息是否准确。因此，这里的问题是，ChatGPT是否比一个胡说八道的人更清楚它所分享的信息的准确性。
在最近与ChatGPT的对话中，Chamorro-Premuzic（2023）报告说，在回答关于ChatGPT是否希望它能进行打嗝等类似人类的活动的询问时，人工智能的回答表明，它 “能力仅限于处理数据和提供对用户输入的回应”。因此，ChatGPT被限制在分享它能从它能接触到的各种来源策划的信息。这意味着它不能提供超出其知识基础的推论、证据或主张。
但这并不意味着它不能胡言乱语。
ChatGPT比人类的胡说八道更受限制，因为它不能简单地编造东西（也就是说，它必须有数据来提供回应），而人类的胡说八道则不能保证拥有这种限制。不过，无法编造东西并不意味着ChatGPT对所提供信息的准确性有任何认识。
