ChatGPT–由OpenAI开发的人工智能（AI）聊天机器人–已经成为回答许多简单和困难问题的全能工具，包括医疗咨询请求。它可以回答医学问题，并在美国医学执照考试（USMLE）中取得好成绩，但它不能取代在医院与医生的预约。
随着ChatGPT的发展，它有可能彻底改变医疗保健领域。当与卫生系统整合时，它可能会改善病人获得护理的机会，并提高医生的工作效率。然而，由于它是基于人工智能的，所以存在对其潜在危险的一些担忧。
1.ChatGPT的知识有限
ChatGPT并不是什么都知道。根据OpenAI的说法，ChatGPT的知识有限，特别是当涉及到2021年9月之后发生的事情。
ChatGPT不能直接接触到搜索引擎或互联网。它是使用来自众多来源的大量文本数据进行训练的，包括书籍、网站和其他文本。它并不 “了解 “它所传递的数据。相反，ChatGPT使用它读过的文本来预测要使用的单词和顺序。
因此，它不能获得关于医学领域发展的最新新闻。是的，ChatGPT不知道猪到人的心脏移植或任何其他医学科学的最新突破。
2.ChatGPT可能会产生不正确的信息
ChatGPT可以回答你提出的问题，但回答可能是不准确的或有偏见的。根据PLoS数字健康研究，ChatGPT在所有USMLE考试中的表现至少有50%的准确性。而尽管它在某些方面超过了60%的通过门槛，但仍有可能出现错误。
此外，并非所有用于训练ChatGPT的信息都是真实的。基于未经核实或可能有偏见的信息的答复可能是不正确或过时的。在医学界，不准确的信息甚至会让人失去生命。
因为ChatGPT不能独立研究或核实材料，所以它不能区分事实和虚构。受人尊敬的医学期刊，包括《美国医学会杂志》（JAMA），都制定了严格的规定，只有人类才能撰写发表在该杂志上的科学研究报告。因此，你应该不断对ChatGPT的回复进行事实核查。
3.ChatGPT不会对您进行身体检查
医学诊断并不完全取决于症状。医生可以通过病人的身体检查来了解疾病的模式和严重程度。为了诊断病人，今天的医生同时使用医疗技术和五种感官。
ChatGPT不能进行完整的虚拟检查，甚至不能进行体检；它只能对你提供的症状进行回复，作为信息。对于病人的安全和护理来说，体检中的错误–或完全忽视体检–可能是有害的。因为ChatGPT没有对你进行身体检查，它将提供一个错误的诊断。
4.ChatGPT可以提供错误的信息
马里兰大学医学院最近对ChatGPT的乳腺癌筛查建议进行的研究发现了以下结果：
“我们在经验中看到，ChatGPT有时会编造虚假的期刊文章或健康联盟来支持其主张”。 -Paul Yi医学博士，UMSOM的放射诊断学和核医学助理教授
作为我们测试ChatGPT的一部分，我们要求提供一份涉及潜意识主题的非小说类书籍清单。结果，ChatGPT制作了一本名为《无意识思维的力量》的假书，作者是Gustav Kuhn博士。
当我们询问这本书时，它回答说这是它制作的一本 “假想 “书。如果你不进一步询问，ChatGPT不会告诉你期刊文章或书籍是否是假的。
5.ChatGPT只是一个人工智能语言模型
语言模型的功能是记忆和归纳文本，而不是检查或研究病人的情况。尽管产生的反应在语言和语法方面符合人类标准，但ChatGPT仍然包含一些问题，与其他人工智能机器人很相似。
ChatGPT不能替代你的医生
人类医生总是需要对医疗决定做出最后的决定。当你询问医疗建议时，ChatGPT通常建议与有执照的医疗从业人员交谈。
像ChatGPT这样由人工智能驱动的工具可以用来安排医生的预约，协助病人接受治疗，并维护他们的健康信息。但它不能取代医生的专业知识和同情心。
你不应该依赖基于人工智能的工具来诊断或治疗你的健康，无论是身体还是心理。