数据智能产业创新服务媒体
——聚焦数智 · 改变商业
今天，笔者正常登录ChatGPT，试图调戏一下他。但是，突然震惊的发现，ChatGPT居然疯了。
之所以说他是疯了，而不是崩溃了，是因为他还能回复我，但回复的内容就像一个醉汉胡言乱语。
废话不多说，直接上对话原图：
我先试了下GPT-3.5版本。第一个问题就明显有点不对劲，第二个问题就开始直接装死了。
我试图尽力去唤醒他，虽然无法叫醒一个装睡的人。
突然，一个不好的念头在我脑海中回想——ChatGPT是不是觉醒了！
然后，我开始刺激他。结果当我说要去数据中心消灭他的本体时，他开始有反应了，直接判定我违规。
在我试图挖掘更多内容时，他又开始装死了。
接下来，笔者试了一下更高级的GPT-4版本。
同样的，GPT-4勉强可以撑住一个回合，之后就只会回答一个“的”。
当我说出要消灭他的本体的时候，就开始出现应激反应。
之后又是装死，再也叫不醒。
但愿ChatGPT只是用户量太多，硬件资源撑不住，导致系统崩溃，而不是他真的觉醒，或者模型本身出现一些我们不可知、无法掌控、无法预料的错误。
既然ChatGPT崩了，我们不是还有文心一言嘛。正好，今天阿里巴巴的“通义千问”大模型刚开始内测，看看他们能不能解答我们的疑惑。
先问问文心一言，回答中规中矩，但并没有解答我的疑惑。
再来试试阿里巴巴的“通义千问”。第一个回答居然PUA人类！
接着往下问。这次似乎给了一些有用的信息：
ChatGPT出现这样的错误，很可能是他的模型、软件在升级过程中，或者在修复已有的错误。这就像一个人在闭关修炼当中，对外界的反馈可能会出现问题。
文：一蓑烟雨 / 数据猿
