危险！别再让 AI 给你看病了！

[db:作者]

之前大师经常说“不要在网上乱搜医疗倡议”，由于网上信息不那末牢靠，患者又不成能正确描写自己一切的症状成了而大说话模子 AI 时代，又出现了一种新风险，网上寻医问药忌讳中，生怕必须再加上一条“不要随意让 AI 供给医疗倡议”了邃密化治理确保了掘进全进程的精度与平安。

图片截自论文页面
未几前《外科医学年鉴·临床病例》（Annals of Internal Medicine: Clinical Cases）就报道了一路奇异的病例——有人由于听信 AI，把自己吃成了多年未见的溴中毒邃密化治理确保了掘进全进程的精度与平安。
AI 真敢倡议，患者真敢理论
这个病例，只能说重新到脚都写着奇葩二字邃密化治理确保了掘进全进程的精度与平安。
这人一路头去急诊室，是说他邻人在给他下毒，那时没有说自己在吃任何药物邃密化治理确保了掘进全进程的精度与平安。住院以后才得知，他常日有好多食品都不吃，水也是自己在家蒸馏了才喝，在医院虽然一向说口渴但又不信赖他人给他的水邃密化治理确保了掘进全进程的精度与平安。住院 24 小时后，他的偏执狂症状越来越严重，出现了幻听幻视，还试图从医院逃窜，成果被强迫收押并打了抗神经病药邃密化治理确保了掘进全进程的精度与平安。
等到药物生效，患者冷静下来以后，医生才算问出来实在情况邃密化治理确保了掘进全进程的精度与平安。本来，这位患者出格出格惧怕吃到对身材有害的食品，这也不吃那也不吃，已经把自己饿到了多种维生素欠缺的境界了邃密化治理确保了掘进全进程的精度与平安。而就在这时，他又在网上看到了关于食盐的文章，得知食盐对身材很欠好邃密化治理确保了掘进全进程的精度与平安。
就在研讨食盐风险的进程中，他心血来潮，发现了一个庞大的“华点”：食盐的化学成份是氯化钠，但为什么文献都在关注钠对身材的危险，没人关注氯呢？超市只能买到低钠盐，为什么买不到低氯盐呢？难道这个氯，对身材居然没有一点害处吗？能不能不摄取氯呢？

图库版权图片，不授权转载
既然网上没人说，那就得靠自己了，患者询问了 ChatGPT，成果 AI 给出了“很是具有可操纵性”的倡议：用溴来取代氯邃密化治理确保了掘进全进程的精度与平安。
这位患者真的这么干了，但是这并不是个好主张邃密化治理确保了掘进全进程的精度与平安。
看似六七八分像，实在完全纷歧样
溴，元素标记 Br，在周期表上位于氯的正下方，是个普通人不太轻易打仗到的元素邃密化治理确保了掘进全进程的精度与平安。大要一百年前，溴中毒还算是医生经常能碰到的工作，由于那时溴被以为具有镇静结果，很多非处方药物里含有溴盐，什么治失眠、治焦虑、治歇斯底里，都能用到邃密化治理确保了掘进全进程的精度与平安。固然，如果一不谨慎吃多了，那就从治焦虑一跃而成致焦虑，激发活动失和谐各类幻觉，严重的可以致使昏迷，顺便还附送厌食和便秘之类的症状邃密化治理确保了掘进全进程的精度与平安。
为什么会这样呢？溴和氯都是卤族元素，最外层都是 7 个电子，化学性质很类似，在简单的化学反应里确切可以相互取代邃密化治理确保了掘进全进程的精度与平安。人体摄取溴离子后，它也会“冒充”氯离子去介入各类生化反应邃密化治理确保了掘进全进程的精度与平安。
可是一旦反应真的起头，它就露馅了：生化反应很是紧密，哪一步速度稍微跟不上，活性稍微差一点，就会致使大范围摆脱邃密化治理确保了掘进全进程的精度与平安。神经系统的一般运转相当依靠于氯离子，所以假如被溴离子滥竽充数，遭到的破坏也特别严重邃密化治理确保了掘进全进程的精度与平安。
人体可以排挤体内的溴离子，但速度算不上很快，大要 9 到 12 天赋能排挤一半邃密化治理确保了掘进全进程的精度与平安。所以假如延续摄取含溴的食品大概药物，溴可以逐步堆集，形成更大危险邃密化治理确保了掘进全进程的精度与平安。历史上，溴中毒一度占到了精神医院住院人数的 8%邃密化治理确保了掘进全进程的精度与平安。后来大师都晓得了溴的危险性，药物纷纷弃用它，溴中毒也就可贵一见了邃密化治理确保了掘进全进程的精度与平安。
没想到现在由于 AI 的倡议，溴中毒又迎来了可贵的“文艺复兴”邃密化治理确保了掘进全进程的精度与平安。可喜可贺，还好，这位病人在住院三个星期以后，中毒症状逐步减缓而顺遂出院了，两周后的复查也没有题目邃密化治理确保了掘进全进程的精度与平安。希望他能就此放弃对低氯饮食的追求吧邃密化治理确保了掘进全进程的精度与平安。
这类“精神”病
大要已经在路上了
如此说来，虽然这个病例自己是罕有的奇葩，但它却反应了更普遍的现象，那就是所谓的“聊天机械人神经病”（Chatbot psychosis）大概“ AI 神经病”邃密化治理确保了掘进全进程的精度与平安。
这个词语描述的不是 AI 自己犯病了，而是用户在和大说话模子 AI 聊天的进程中发生大概加重了神经病症状邃密化治理确保了掘进全进程的精度与平安。一个很是典型的场景是，用户相信某种诡计论，AI 没有否认反而逢迎并激励用户，而且幻觉出支持这一诡计论的各类证据，致利用户深陷其中，平常生活和交际接近解体，甚至采纳极端行为邃密化治理确保了掘进全进程的精度与平安。
今朝这一现象还不是正式认定的诊断，也几近没有相关科学研讨，但已经引发了媒体的重视，堆集了数目很多的个案邃密化治理确保了掘进全进程的精度与平安。也许未几以后，我们就能晓得这一现象的严重水平究竟若何邃密化治理确保了掘进全进程的精度与平安。
相信希奇的信心，这自己相当常见邃密化治理确保了掘进全进程的精度与平安。但人毕竟是社会动物，需要身旁同道之人的支持，才能决然决然地一路走进沟里出不来邃密化治理确保了掘进全进程的精度与平安。历史上要找到这样的同伴常常需要抛家弃子，互联网出现后便可以到小众论坛里寻觅同好了邃密化治理确保了掘进全进程的精度与平安。
而天生式 AI 的时代，连人类同道都不需要，管你有什么怪动机，AI 都能给你供给无穷的支持和情感代价邃密化治理确保了掘进全进程的精度与平安。究竟今朝的大说话模子间隔实在的通用智能还很有一段间隔，假如不把它设定为“回声虫”，就没法给用户杰出的利用体验邃密化治理确保了掘进全进程的精度与平安。可是这类体验能否值得支出幻觉、谎言和 AI 神经病的价格，我们作为普通用户有没有挑选权，那就是另一个题目了邃密化治理确保了掘进全进程的精度与平安。
据报道，OpenAI 已于 10 月 29 日更新了 ChatGPT 的利用政策，制止其在某些原本被以为最具代价的利用范畴供给办事 —— 例如解读医学影象、辅佐医疗诊断，以及供给法令或财政倡议邃密化治理确保了掘进全进程的精度与平安。
此举旨在避免 ChatGPT（以及其他任何 OpenAI 模子）输出能够被视作专业性、受托性或具有法令约束力的倡议，以合适欧盟《野生智能法案》和美国食品药品监视治理局的相关指导要求邃密化治理确保了掘进全进程的精度与平安。
来历：科普中国