OpenAI正在开发一种软件，能够检测文本是否是由其ChatGPT模型生成的，此前纽约市教育官员宣布，它将阻止公立学校的学生访问该工具。
学生使用人工智能为他们做作业的报道促使教师们思考它们如何影响教育。一些人对语言模型如何抄袭现有作品或允许学生作弊表示担忧。据报道，现在OpenAI正在开发“缓解措施”，帮助人们检测ChatGPT自动生成的文本。
“我们将ChatGPT作为研究预览提供，以从现实世界的使用中学习，我们认为这是开发和部署有能力、安全的人工智能系统的关键部分。我们一直在整合反馈和经验教训，”公司发言人告诉TechCrunch。
“我们一直呼吁围绕人工智能生成的文本的使用保持透明。我们的政策要求用户在使用我们的API和创意工具时，必须事先与他们的受众沟通……我们期待与教育工作者合作开发有用的解决方案，以及其他方式来帮助教师和学生从人工智能中受益。”
能够区分由人或机器产生的文字将改变它们在学术界的使用方式。学校将能够更有效地禁止人工智能生成的论文，或者如果他们能够看到这些工具如何帮助他们的学生，他们可能会更愿意接受论文。
是的，生成语言模型可能是好的，但它们不知道自己在说什么。
尽管人工智能生成的写作在学术会议和学校禁止机器写作论文的头条新闻中似乎令人印象深刻，但这里有一个提醒，与真实的人类写作相比，它们缺乏理解。
当像GPT-3或ChatGPT这样的工具通过给出令人震惊的好答案而让我们感到惊讶时，专家们说这证明该模型能够对知识进行编码，但当他们不能正确处理时，他们就被称为产生了幻觉。波莫纳学院的经济学教授加里·史密斯提醒我们，不要被愚弄了。
