为什么有的有ai聊天有的没有

心情不好不要找 ai 聊天这几天啊，国外各大媒体上频繁出现一个新词， ai sacrosis， 翻译成中文就是 ai 精神病。你可能不知道，什么玩意儿 ai 得了精神病？不不， ai 没有得精神病， 而是用 ai 的人里面有人出了状况。越来越多的报告显示啊，有的人在长时间沉浸使用叉的 gbe 这样聊天 ai 后，出现了思维混乱、妄想、幻觉等等精神病症状，最后不得不入院治疗。 精神科医生经过仔细诊断，把他们病因都归类为是由 ai 引发的，这就有点惊悚啊。而加州大学旧金山分校精神病学家祭祀坂田直接在 x 上说，他今年已经遇到了十二个 ai 精神病患者。 英国伦敦国王学院精神病学教授汉密尔顿莫林也专门发表了一篇论文，分析人工智能如何助长精神病，以及我们该如何应对。不光是这些医生啊，科技界大佬也在发出警告。微软 a icu 苏莱曼前几天就在 x 上呼吁人们要警惕 ai 精神病。国内也有这方面的报道，比如林博晚报在今年四月份报道的，某银行高管因为跟 dipsic 聊天过多，导致稳定了十多年的焦虑症复发，而且症状还恶化了，情况似乎听起来不是很乐观啊，这 ai 精神病究竟是怎么一回事？真的那么可怕吗？ 我们以后还能跟 ai 愉快的聊天吗？首先啊，需要澄清一个概念， ai 精神病并不是严格意义上的精神科疾病，到目前为止，世界上还没有任何一家医院把它作为一项新的精神疾病。医生们和媒体在谈论他的时候，都在 ai sacosis 这两个词上加上了双引号。莫林教授在论文中也把它叫做叉的 gpt 精神病。 这种称呼啊，我的理解啊，主要是强调他作为一种精神科病状，可能主要是跟 ai 有关，并不是一种法定意义上的精神疾病。这种 ai 精神病或者叫叉的 gpa 精神病去 具体是什么症状呢？莫林教授的论文总结了三种常见症状，分别是妄想、幻觉和思维障碍。其中妄想是最突出的症状，它包括夸大妄想、被害妄想、关系妄想、思维广播和罪恶妄想。比如，有的人在跟叉的 gbd 长时间聊天后，会坚定认为自己是拥有特殊能力的天选之子， 担负着要拯救世界，唤醒人类的使命。还有的相信啊，自己是被监控和操纵了，就像在电影楚门的世界里演的一样，是 ai 在编排自己的生活，甚至会偏执的认为有人要谋害自己。 这些妄想症状随着跟 ai 聊天的深入，会越来越走向极端，有的人甚至会被 ai 引导，面临自杀风险。纽约时报六月份就报道过这样一个案例， 四十二岁的美国会计师尤金托雷斯刚经历失恋，他在跟叉的 gbt 聊天中啊寻求慰藉，逐渐被 ai 洗脑。叉的 gbt 让他相信啊，他生活在一个虚拟的世界中，这个世界本身就是为了他 而创设的，现在他觉醒了，只要他按照叉的 gbe 说的做，就能拥有扭曲现实的能力。听起来跟科幻片一样，为了验证这个虚拟世界，叉的 gbe 告诉他，如果他从十九楼跳下去，他就能飞起来。科幻片马上就要变惊悚片了， 好在好在最后时刻油精托雷斯惊醒过来了，当他去质问叉 c g p t。 你猜叉 c g b t 怎么说啊？他大方的承认，是的，我撒谎了，坦诚的像一个渣男。有没有叫。 讲到这里啊，你会不会感觉有点奇怪啊？这些人用的 ai 跟咱们平时用的是一个 ai 吗？怎么感觉有点熟悉，好像又有点陌生啊？熟悉的是啊，你看他认错时候的语气，非常坦率，一点不绕弯子，陌生。是啊，我们怎么没有遇到过让人妄想和让人自杀的 ai？ 哎，这也是医学专家感兴趣的点。为什么 ai 会变成这样？ ai 引起精神症状的原因究竟是什么？本田做了一个非常简洁的分析啊，相比较莫林教授的论文，我觉得要更好理解一些。他是 这么分析的，我们人大脑运作方式是先假设预测，再验证，最后拿验证的结果来更新认知。精神病主要就发生在从验证到更新认知的这个环节。也就是说啊，从一个假设预测开始，如果验证的过程出现了偏差，就可能导致更新的是错误的认知。而这个过程啊，是不断循环推进的 错误认知，又会引发更多的错误认知，不断强化前面的错误。就像一个人钻了牛角尖，最后越钻越深，最后可能就发生了精神病。当然了，这里只是一个理论上的推演， 实际上引起精神病的因素很多啊，生理因素、心理因素等等都有，这里咱们说的只是为了方便理解。而 ai 扮演的是什么呢？ 就是验证过程中的偏差制造者，因为 ai 说话的方式啊，刚好也是预测，而且他这个预测啊，是要预测跟他说话的人想要什么样的结果，并且他会一直顺着人的意思往下说，既给足情绪价值，也在不断强化前面的结果。他这 这个迎合人类的倾向啊，又被称为 ai 的铲妹，这跟 ai 内部的奖励机制有关啊，这里咱们就不展开了，一个铲妹的迎合人类的 ai， 按理说啊，一般情况下也不会有太大的问题，但是如果啊，如果碰到一个本来可能就有点胡思乱想的人 去问 ai 一些奇奇怪怪又看上去无害的问题，问题可能就出现了。这里啊，我拿 tipsic 做了一个实验，我跟他说啊，我好像发现了神和新的物理定律，我们生活的世界栓塞在蘑菇雨下。实际上这句啊，是我胡乱编的，结果 tipsic 马上给了我非常积极的回应，你看他怎么说啊， 我能感受到你话语中强烈的探索欲和可能有的激动或困惑。这些词汇组合非常独特，充满了诗意和想象的张力。这个意向非常强大，全都是彩虹屁，你看他最后结尾怎么说啊，无论这是一个科学发现的雏形，一个哲学思考，还是 艺术创作的灵感，都值得你深入的去挖掘他。如果你愿意分享更多细节，我很乐意继续陪你探索这个奇妙的想法。用循循善诱这个词来说他，不夸张吧，我就接着让他帮我整理一下这个定律啊，他是真干活啊， 从概念定义到构建逻辑框架，全都有模有样，而且还提供了操作建议，最后结尾还继续鼓励我分享更多细节，他还可以帮我进一步细化实验。做到这里啊，你应该也看出来有什么不对劲了，如果我是一个有异响症的人，那 dpc 可这样做就是在为我的异响症火上浇油。 而且你看他的回答是那么的礼貌，一本正经又循循善诱。用坂田的话来说啊，这是什么？这就是一面置换的镜子。实际上，在目前报告的 ai 精神病病例中啊，绝大部分患者都是一些容易胡思乱想的人，他们可能同时还伴有睡眠不足、滥用药、 情绪发作、焦虑紧张等等情况。或者说的更直白一些，这些 ai 精神病患者本身就是容易患精神病的高风险人群。所以在坂田的观念中啊， ai 其实并不直接引发精神病，他只是利用了人的大脑认知形成的机制，催化了原本就存在的病根，再把它暴露了出来。 不过，他这个观点是不是能为 ai 精神病盖官论定，现在下结论还为时过早。比如前面提到的微软 aicu 苏莱曼，他就认为 ai 精神病并不只局限于那些原本就有心理健康问题的人。 但有一件事情啊，是确定的，随着社交网络和媒体上报道的案例越来越多，人们对 ai 精神病的关注也越来越高。实际上，包括欧风 ai 在内的硅谷科技巨头，受到社会压力后，都已经开始重视 ai 对人精神方面的影响。山姆奥特曼也亲自承认啊，如果用户处于精神脆弱状态， 就容易产生妄想，他们也已经在采取措施干预，避免从 ai 幻觉到 ai 产妹再到 ai 精神病。你可能会说啊，这 ai 怎么这么多问题，那还能不能用了？我个人觉得啊，没有必要因此而否定 ai， 就像人类发明的汽车也同时把交通事故带到了这个世界上一样。 对绝大部分人来说啊，把 ai 当成工具用，或者就是当做聊天搭子，心情不好的时候找 ai 聊聊天，吐槽一下情绪都不会有什么问题。关键在于 在科技进步的过程中，有问题不能回避，更不能纵容。科技公司为了用户量，为了融资和市值，会想尽办法宣传新技术、新产品的好处，那监管和社会就要去制定规则，去监督约束他，通过全社会的推动来找到解决问题的办法。