ChatGPT和其他AI聊天机器人已经彻底改变了我们与世界的互动方式。你可以使用它们来帮助组织你的生活、计划下一次旅行、解决一周的杂货采购问题，甚至考虑未来的事业选择。然而，ChatGPT并非无懈可击。
虽然我是一个ChatGPT的粉丝，但我也知道它的局限性，你也应该知道这些，无论你是新手还是专家。尝试新食谱、学习外语或计划假期都很有趣，但你不应该给ChatGPT在你的生活中完全的信任。它并不擅长所有事情——事实上，在很多方面，它的表现都很糟糕。
ChatGPT有时会编造信息并将其当作事实传递，而且它可能并不总是拥有最新的信息。它非常自信，即使它是完全错误的。（当然，这同样适用于其他生成式AI工具。）
当你需要处理高风险的事情时，这一点尤为重要，例如在处理税务、医疗账单、法庭日期或银行余额时。如果你不确定在什么情况下求助于ChatGPT可能是有风险的，这里有11种情况你应该放下AI并选择其他选项。不要使用ChatGPT进行以下任何一项。
（披露：CNET的母公司Ziff Davis在4月份对ChatGPT制造商OpenAI提起了诉讼，指控其在训练和操作其AI系统时侵犯了Ziff Davis的版权。）
1. 诊断身体健康问题
出于好奇，我确实将我的症状输入过ChatGPT，但返回的答案可能会让你感到最坏的噩梦。当你查阅潜在的诊断结果时，你可能会从脱水和流感想到某种癌症。我在胸部有一个肿块，并将这些信息输入了ChatGPT。结果，它告诉我我可能患有癌症。事实上，我有一个脂肪瘤，这并不是癌症，并且每1000人中就有1人有这种情况。这是我的注册医生告诉我的。
我不是说ChatGPT在健康方面没有好的用途：它可以帮助你起草下次就诊的问题，翻译医学术语，并组织一个症状时间表，这样你可以更好地准备就诊。这可能会使医生的访问不那么令人生畏。然而，AI不能开化验单或检查你，当然也没有职业责任保险。知道它的局限性。
2. 处理心理健康
ChatGPT可以提供一些稳定技巧，当然，但在你遇到真正的心理健康问题时，它不能拿起电话。我知道有些人用ChatGPT作为替代治疗师。CNET的Corin Cesaric发现，只要记住它的局限性，它对处理悲伤有些帮助。但作为一个拥有真实、人性化治疗师的人，我可以告诉你，ChatGPT充其量只是一个苍白的模仿，最坏的情况下非常危险。
ChatGPT没有实际经历，不能读取你的身体语言或语气，也没有真正的同理心。它只能模拟它。注册治疗师在法律要求和职业守则下操作，保护你免受伤害。ChatGPT并没有。它的建议可能会出错，忽视警示信号，或者无意中强化了其训练数据中的偏见。将更深入的工作——困难、混乱、人性化的工作——留给受过专业培训的实际人类来处理。如果你或你爱的人处于危机中，请在美国拨打988，或拨打你当地的热线电话。
3. 做出即时安全决定
如果你的一氧化碳报警器开始发出滴答声，请不要打开ChatGPT并询问你是否处于真正的危险中。我会先到外面去，然后再问问题。大型语言模型无法闻到气体，检测烟雾或派遣紧急人员。在危机中，你花在打字上的每一秒都是你没有撤离或拨打911的时间。ChatGPT只能处理你提供的零散信息，在紧急情况下，这可能太少了，也太迟了。因此，请将你的聊天机器人视为事后解释者，而不是第一响应者。
4. 获取个性化财务或税务规划
ChatGPT可以解释什么是ETF，但它不知道你的债务收入比、州税率、报税状态、扣除额、退休目标或风险偏好。因为它的训练数据可能截止到当前税年之前，以及最新的利率上调，当你按下回车键时，它的指导可能已经过时。
我有一些朋友把他们的1099总额输入ChatGPT以获得DIY回报。聊天机器人无法取代能发现价值几百美元的隐藏扣除额或标记一个可能导致数千美元损失的错误的注册会计师。当真金白银、报税期限和国税局处罚处于风险之中时，请找专业人士，而不是AI。此外，请注意，你与AI聊天机器人的任何交流都可能成为其训练数据的一部分，这包括你的收入、社会安全号码和银行路由信息。
5. 处理机密或受监管的数据
作为一名科技记者，我每天都会在收件箱中看到保密协议，但我从未想过要把这些新闻稿中的任何内容扔进ChatGPT中以获得摘要或进一步的解释。这是因为如果我这样做了，文本将离开我的控制范围，并存放在第三方服务器上，超出了我的保密协议的保护范围。
同样的风险适用于客户合同、医疗图表或任何受加州消费者隐私法案、HIPAA、GDPR或普通的商业秘密法覆盖的内容。它适用于你的收入税、出生证明、驾驶执照和护照。一旦敏感信息进入提示窗口，你无法保证它被存储在哪里，谁可以在内部查看它，或者是否可能被用来训练未来的模型。ChatGPT也不能免疫黑客和安全威胁。如果你不会将其粘贴到公共Slack频道中，那么也不要将其粘贴到ChatGPT中。
6. 从事非法活动
这一点不言自明。
7. 学校作业作弊
如果我说我从未在考试中作弊过，那我就是在撒谎。在高中时，我使用我的第一代iPod Touch偷偷看了一眼几道复杂的方程式，这些方程式我在AP微积分中很难记住，这并不是我特别自豪的事情。但有了AI，现代作弊的规模让那看起来相当温和。
Turnitin和类似的检测工具每学期都在变得越来越好，教授们已经能从一英里外听到“ChatGPT的声音”（感谢你毁了我的最爱破折号）。停学、开除和吊销你的执照都是真实的风险。最好将ChatGPT用作学习伙伴，而不是枪手。如果你让ChatGPT为你做作业，你也是在欺骗自己，剥夺自己的教育机会。
8. 监控信息和突发新闻
自从OpenAI在2024年底推出ChatGPT搜索功能（并在2025年2月向所有人开放）以来，这个聊天机器人可以在你询问的那一刻获取新鲜的网页、股票报价、汽油价格、体育比分和其他实时数字，并附带可点击的引用来源，以便你可以验证来源。然而，它不会自行流式传输持续更新。每次刷新都需要一个新的提示，因此当速度至关重要时，实时数据流、官方新闻稿、新闻网站、推送警报和流媒体覆盖仍然是你的最佳选择。
9. 赌博
实际上，我在使用ChatGPT进行NCAA男子篮球锦标赛的三重过关投注时曾有过好运，但我永远不会推荐给任何人。我看到ChatGPT编造并提供了错误的球员统计数据、误报的伤病和胜负记录。我之所以能兑现，是因为我核对了每一个主张的实时赔率，即使这样我也只是运气好。ChatGPT看不到明天的比赛结果，所以不要仅仅依靠它来赢得胜利。
10. 起草遗嘱或其他具有法律约束力的合同
ChatGPT在分解基本概念方面非常出色。如果你想了解更多关于可撤销信托的信息，请随意提问。然而，一旦你要求它起草实际的法律文本，你就像是在掷骰子。遗产和家庭法的规则因州而异，有时甚至因县而异，因此跳过见证人签名或省略公证条款可能会导致你的整个文件被驳回。让ChatGPT帮助你建立一个律师的问题清单，然后支付律师将该清单转化为法庭上有效的文件。
11. 创作艺术
这并不是一个客观的事实，只是我自己的观点，但我认为不应该使用AI来创作艺术。我并不是反人工智能。我使用ChatGPT来集思广益新想法并帮助我的标题，但这只是补充，而不是替代。请随意使用ChatGPT，但请不要使用它来制作你随后冒充自己创作的艺术。这有点令人反感。
【全文结束】
