ChatGPT和其他AI聊天机器人在自然语言处理方面可以是非常强大的工具，特别是当你知道如何正确引导它们时。你可以用ChatGPT来节省旅行开支、规划每周的饮食准备，甚至帮助你改变职业方向。
虽然我是ChatGPT的粉丝，但我也深知它的局限性，无论你是新手还是老手都应该了解这些局限。它适合尝试新食谱、学习外语或计划度假，但你不应该让它在你的生活中拥有完全的控制权。它并非无所不能——事实上，在很多事情上可能表现得非常不可靠。
ChatGPT有时会虚构信息并将其作为事实呈现，并且可能并不总是掌握最新的信息。即便它完全错误，也会显得极其自信。（当然，其他生成式AI工具也是如此。）
当涉及税务、医疗账单、法庭日期或银行余额等问题时，情况就变得更加重要。如果你不确定什么时候使用ChatGPT可能存在风险，以下是11种你应该放下AI转而选择其他选项的情况。不要将ChatGPT用于以下任何用途。
（披露：CNET的母公司Ziff Davis于4月对ChatGPT制造商OpenAI提起诉讼，指控其在训练和运营AI系统时侵犯了Ziff Davis的版权。）
1. 诊断身体健康问题
我确实出于好奇向ChatGPT输入过我的症状，但它给出的答案可能会让你感到如噩梦般可怕。当你浏览可能的诊断结果时，可能会从脱水和流感摇摆到某种癌症。我胸口有一个肿块，把它输入到ChatGPT中。结果它告诉我可能得了癌症。太棒了！实际上，我得的是脂肪瘤，这是一种良性肿瘤，每1000人中就有1人会出现。这是我的持证医生告诉我的。
我不是说ChatGPT在健康方面完全没有好的用途：它可以帮助你为下次就诊准备问题清单、翻译医学术语以及整理症状时间表，从而使看医生的过程更加从容。然而，AI无法开处方或进行体检，更不用说承担医疗事故保险了。务必了解它的局限性。
2. 照顾心理健康
ChatGPT可以提供一些镇定技巧，但当你的心理健康真正出现问题时，它无法替你拨打电话求助。我知道有些人将ChatGPT当作替代心理治疗师。CNET的Corin Cesaric发现，只要她牢记其局限性，ChatGPT在处理悲伤情绪方面还是有轻微帮助的。但作为一个拥有非常真实、非常人性化治疗师的人，我可以告诉你，ChatGPT充其量只是一个苍白的模仿，最坏情况下则非常危险。
ChatGPT没有生活经验，无法读懂你的肢体语言或语气，也完全没有真正的同理心能力。它只能模拟同理心。持证治疗师则受法律和职业道德规范保护，防止对你造成伤害。ChatGPT则不会。它的建议可能会失误、忽略危险信号，或无意中强化其训练数据中存在的偏见。把深层次的工作——那些艰难、混乱、人性的工作——留给一个有能力妥善处理的实际人类。如果你或你爱的人正处于危机之中，请拨打美国的988热线或当地的支持热线。
3. 做出即时的安全决定
如果你的二氧化碳报警器开始发出警报，请不要打开ChatGPT问它你是否真的处于危险中。我会先到外面去，然后再提问。大型语言模型无法闻到气体、检测烟雾或派遣应急人员。在危机中，你花在打字上的每一秒都是你没有撤离或拨打911的时间。ChatGPT只能利用你提供的少量信息工作，在紧急情况下，这些信息可能太少且太晚。因此，将你的聊天机器人视为事后解释工具，而不是第一响应者。
4. 获取个性化的财务或税务规划
ChatGPT可以解释什么是ETF（交易所交易基金），但它不知道你的债务收入比、州税率、申报状态、扣除额、退休目标或风险承受能力。由于其训练数据可能不包含当前的纳税年度以及最新的利率上涨情况，因此当你按下回车键时，它的指导可能已经过时了。
我有一些朋友把他们的1099表格总额输入ChatGPT以完成DIY报税。聊天机器人根本无法取代能够捕捉隐藏扣除额（价值几百美元）或标记可能花费你数千美元错误的注册会计师（CPA）。当涉及到真金白银、报税截止日期和IRS罚款时，请联系专业人士，而不是AI。此外，请注意，你与AI聊天机器人分享的任何内容都可能成为其训练数据的一部分，包括你的收入、社会安全号码和银行路由信息。
5. 处理机密或受监管的数据
作为一名科技记者，我每天都会收到发到我邮箱的禁运通知，但我从未想过把这些新闻稿扔进ChatGPT以获取摘要或进一步解释。因为如果我这样做了，这些文本就会脱离我的控制，落在第三方服务器上，超出我的保密协议范围。
同样的风险适用于客户合同、病历或受《加州消费者隐私法》、HIPAA、GDPR或普通商业秘密法保护的内容。它还适用于你的所得税、出生证明、驾照和护照。一旦敏感信息进入提示窗口，你就无法保证它存储在哪里、谁可以在内部查看它，或者是否会被用来训练未来的模型。ChatGPT也无法免疫黑客和安全威胁。如果你不会将其粘贴到公共Slack频道，请不要将其粘贴到ChatGPT中。
6. 进行任何非法活动
这一点不言自明。
7. 在学业上作弊
如果说我从未在考试中作弊，那是在撒谎。在高中时，我曾用第一代iPod Touch偷看了一些我在AP微积分中难以记住的繁琐方程式，这是我并不特别自豪的一次恶作剧。但有了AI，现代作弊的规模让我当年的行为看起来相当温和。
Turnitin等相似的检测工具每学期都在更好地识别AI生成的文章，教授们已经能一眼看出“ChatGPT风格”的文章（感谢你毁掉了我最爱的破折号）。停学、开除和吊销执照都是真实存在的风险。最好将ChatGPT当作学习伙伴，而不是代笔者。如果你让ChatGPT替你完成作业，那你只是在欺骗自己，剥夺了自己的教育机会。
8. 监控信息和突发新闻
自从OpenAI在2024年底推出ChatGPT Search（并在2025年2月向所有人开放）以来，聊天机器人可以在你提问的瞬间获取新鲜的网页、股票报价、汽油价格、体育比分和其他实时数据，同时附带可点击的引用来源供你核实。然而，它不会自行持续更新信息。每次刷新都需要新的提示，因此当速度至关重要时，实时数据流、官方新闻稿、新闻网站、推送警报和流媒体报道仍然是你的最佳选择。
9. 赌博
我实际上曾用ChatGPT成功命中了一次三重下注的NCAA男子篮球锦标赛，但我永远不会推荐给任何人。我见过ChatGPT虚构信息，提供关于球员统计数据、误报伤病和胜负记录的错误信息。我只是因为对照实时赔率逐一核实了每个说法才赚到了钱，而且即便如此，我还是很幸运。ChatGPT看不到明天的比赛统计表，所以不要完全依赖它来赢得赌注。
10. 起草遗嘱或其他具有法律约束力的合同
ChatGPT在分解基本概念方面表现出色。如果你想了解更多关于可撤销生前信托的信息，尽管提问。然而，一旦你要求它起草实际的法律文本，你就是在赌博。遗产和家庭法因州而异，有时甚至因县而异，因此跳过见证人签名或遗漏公证条款可能会导致整个文件被驳回。让ChatGPT帮助你列出律师的问题清单，然后付钱给律师将这份清单转化为一份能在法庭上站得住脚的文件。
11. 创作艺术
这不是客观真理，只是我个人的观点，但我不认为AI应该被用来创作艺术。我绝不是反对人工智能。我用ChatGPT来头脑风暴新想法并帮助我拟定标题，但那是补充，而不是替代。请务必使用ChatGPT，但请不要用它来创作艺术，然后将其冒充为自己的作品。这样做有点令人反感。
(全文结束)
