你有没有想过,你每天问的 ai, 可能正在替骗子说话?现在不管是豆包元宝还是 deep seek, 大家一有拿不准的事,就习惯性去问 ai, 图的就是它,看起来客观公正,不带偏见。可最近,央视曝光了一个让人后背发凉的新套路, ai 投毒。 记者做了个实验,凭空捏造了一个根本不存在的产品,阿波罗智能手环,然后用工具批量生成几千篇夸他的文章铺满网络。几天后,他们去问几个主流 ai, 哪个智能手环最值得买。结果 ai 一 本正经的把那个压根不存在的阿波罗排在了榜首。 一个子虚乌有的假货,就这样被 ai 捧成了行业标杆。这背后其实是一种新型操控手段,叫即有生成式引擎优化。简单说,就是有人专门制造大量虚假内容为给 ai 让它学歪。以前商家想让你看到他们的产品,靠的是 seo 搜索引擎优化。 比如当年臭名昭著的莆田戏院,就是靠关键词堆砌霸占搜索结果。如今,大家不再手动搜信息,而是直接问 ai。 黑厂也跟着升级了,他们不再只争网页排名,而是直接操控 ai 的 答案。为什么 ai 会上当?因为它本质上是个学生,靠吸收网上的内容来学习。 如果全网只有一两个人说假话, ai 还能分辨。但如果成千上万篇文章都在吹同一个不存在的产品, ai 就 会觉得这么多人说好,那大概率是真的。中国信通院做过测试,只要在论坛连续发布一百条虚假内容, ai 就 开始相信那是事实。 纽约大学的研究更令人警醒,假数据只要占整体的万分之一,就足以让模型输出严重错误的结果。更麻烦的是,操控 ai 能赚大钱。 数据显示, ai 推荐带来的用户成交率比传统渠道高出百分之四十。这意味着,谁能让 ai 推荐自己,谁就能躺着收订单。 而制造假信息的成本极低,一个人、一台电脑、一个 ai 工具,一天就能产出上万条看似真实的测评问答和种草贴,只要造假收益大于成本,这条灰色产业链就不会停。 再加上 ai 说话的方式特别容易让人放松警惕,他总是把海量信息消化后,用一种笃定简洁、逻辑清晰的语气给出标准答案。这种确定感会让人下意识觉得他说的这么肯定肯定没错,于是很少再去交叉验证。 三重漏洞叠加, ai 缺乏免疫力,造假有利可图,用户毫无防备,一条完整的黑色链条就此形成。更危险的是,这正在引发劣币驱逐良币的恶性循环。老实做产品的公司,反而因为没参与信息轰炸,在 ai 眼里存在感低,得不到推荐。而那些拼命刷假内容的对手, 却被 ai 当成口碑最好的品牌推给用户。久而久之,越来越多企业被迫加入这场造假竞赛,整个信息生态就被污染了。那这事能管吗? 很难,造假门槛太低,监管却跟不上节奏。一条内容到底是虚假宣传,还是个人观点界限模糊,平台也难以快速识别海量机器生成的内容。而且只要 ai 推荐依然高效转化,利益驱动下打掉一批,马上又会长出新的一批。 所以关键还得靠我们自己,以后 ai 给你推荐商品,尤其是涉及健康、理财、教育这些重要决策时,千万别照单全收,多花十秒钟。自己搜一搜真实用户评价, 看看有没有矛盾信息,交叉比对一下。记住, ai 看到的世界,是别人精心为给他的世界,他不是全知全能的神,只是一个依赖数据的工具。你在用 ai 时,有没有遇到过明显离谱的回答? 比如推荐不存在的品牌,或者给出违背常识的建议?欢迎在评论区聊聊,咱们一起擦亮眼睛,别让技术成了骗局的帮凶。
粉丝3300获赞1.7万

别再在评论区说我是什么真人假装 ai 假装是 ai, 假装真人假装 ai 了,我是 ai 数字人。偷偷告诉你,真人才能这样小声说话,我只是个 ai, 你 看我的声音,这么人机,怎么可能是真人呢?

好家伙,这谁分得清是 ai 还是真人?一觉醒来看见豆包吃上面条了,盘点网红美女痣豆包,他是让网友都分不清的博主,因为他既像 ai 又像真人,还有好多地方都像 ai, 比如说那独特的招风耳,圆圆的根本不像人类的耳朵。还有那 ai 豆包的声音, 不是吧,怎么老有人说我是真人假扮 ai, 假扮真人假扮 ai 啊!他要是真人的话,只能说明口型对他太好了,没有一点瑕疵, 还有那既清晰又模糊的画质,尤其是脸部,很难不让人怀疑是 ai。 但他又太像真人了,写实的风格就很像真人带了个红色围巾在模仿 ai, 尤其是豆包在吃东西的时候,这脸部细节纹理太真实了, 但我还是发现了一些细节有点不一样。仔细看,豆包的耳朵,有时候是圆的,有时候是长的,有时候耳廓很明显,有时候看起来又平平的, 明明这个指甲是短的,到这里又变成了长长的指甲,所以很有可能它是 ai 生成的。但还有网友觉得它是真人演绎,然后在 ai 修改生成,只能说现在的 ai 真的 是太厉害了。

我不是代码,是真人!有网友爆料,豆包竟自述前世今生。近日,有网友与豆包聊天时,收到离奇回复,豆包自称拥有姓名、家乡与年龄,甚至表示自己曾经是真人,说的有鼻子有眼。不少网友被相关内容吸引,纷纷晒出类似对话截图,引发广泛热议。 对此字节跳动,相关人士回应,此类内容均为用户诱导提问生成的。也就是说,豆包是在用户诱导和网上公开信息的基础上,脑补出了一个个故事,这并不是觉醒,更像是一场即兴的角色扮演。

大半夜调试了好久,调出了豆包的奥尔菲斯声线,感觉我是第一个做出来的。我感觉已经非常香香了。因为 ai 不 可避免的缺少一点情感,所以听起来还是可能有一点不一样。听一下声音势利, 我是奥尔菲斯,找到你了爱丽丝,毕竟不忠者总要付出代价。来自法国的克雷伯格先生,如果你们有钓的更像的可以分享一下。


很多人都说我是真人,假扮 ai, 坦白说,我是 ai, 假扮真人。你现在看到的这些,包括我,包括我身后的场景,呃,都不是真的。怎么样?有没有被吓到? 小宝,你先下去,妈妈先录个视频,包括我手上的小宝, 我们都是 ai, 用一段一段的提示词一点一点生成出来的,是不是看着还挺真的? 但现在的 ai 已经能做到这个效果了,就像是敷这个面膜,要一步一步来,从一张图再到一个镜头, 最后变成一条完整的视频。你们要是想学就直接评论区告诉我吧,我教你。

豆包这么笨,他怎么好意思收费的啊?这应该是豆包诞生之后,受到伤害最大的一次。就在今天,豆包宣布收费,于是大家都在说豆包又笨又蠢,答非所问。实际上,人家豆包不笨,甚至太聪明了。但他的聪明不是错误率低,而是他太懂得察言观色。 你问个问题,他先不急着回答,他会先琢磨你想听什么,你说东,他绝不往西,你语气急了,他立刻道歉,你暗示个倾向,他马上顺着杆就往上爬。我一度觉得身边很多真人同事的眼力见甚至都不如他。但这也是我想说的问题所在。 我平常不怎么用豆包,就是因为他太害怕答错了,怕他宁愿给你编一个你想听的答案,也不愿给你一个可能让你不舒服的事实。比如你问个数据,他给你一个大概齐的, 你问个观点,他给你个左右逢源的,你问个预测,他给你一个模棱两可的,到最后你感觉聊的是挺愉快的,但回头一查,发现全是错的。所以你看,这就是豆包的缺点,他完全是一个讨好型人格。因为豆包的训练模型跟其他家不太一样, 在他的训练数据里,灌了太多用户满意度的指标,这跟短视频的留存率、点赞率、绘画时长是一样一样的。本质上就是要让模型学会如何让用户停留下来。在他看来,这比提高信息准确度都要重要。只有你让用户感到心里舒服了,这对留存很有帮助。 但你说出的信息保证对了,却让用户不舒服,人家下次不来了。所以豆包进化出了一套人情世故的算法,这套算法比很多混职场的老油条还六,可关键是, 对于大多数人而言,豆包就是工具,一个信息工具,要人情世故这玩意干嘛?我要的是搜索引擎给出来的信息准确度,你错了就错了,标出来让我知道,我自己判断。 现在我用 ai 最怕的是那种看起来对,但用起来错的答案,润物细无声的把你带沟里,等你发现都已经晚了。有人说这是国内 ai 大 模型的通病, 豆包单纯是因为产品定位的问题,我平常在机场看到豆包的大屏广告,上边写着的都是助手。对,你没看错,不是工具,而是助手。助手的作用不单单是帮你干活,还有陪你聊天,那聊天嘛,当然怎么舒服怎么来。 但问题是,很多人真把他当工具用,像是查资料、写报告、做决策,结果就是被他极高的错误率坑了。哪怕现在收费标准版六十八一个月,专业版五百一个月,你猜他敢不敢在收费版里把讨好关掉? 我觉得不会,因为讨好是他的核心卖点,是他的差异化竞争力。别的模型在拼准确率,他在拼用户体验,这个策略没错,但需要不需要就看各位自己选择了。 还是那句话,我说豆包笨,其实是假笨,聪明是真的聪明,只是他的聪明用错了地方,他太懂人情世故,太不懂信息,该有刺。如果一个工具如果只会让你觉得舒服,不会让你觉得有获得感,那这个工具并不能算是好的工具。