豆包抖音搜什么会自动触发安全警报
不好，哇塞，得赶紧跑，这是解除警报，不用跑啊。天啊，你们一定要让孩子翻进各种危险警报，关键时刻真能保命，这是防空警报。。 到后用力气切断电源，接着应急救生包前往应急避难所。。这是空气警报，也能立即躲在监护建筑物下，最好去防空洞室外去丢垃圾袋，抱头卧倒，这是生化武器警报，也能关紧门窗、空调通风口，湿毛巾捂住口鼻，在室外立即穿上雨衣、防护服。。 用完之后，豆包真的教会我不少知识，遇到不会的一拍他就会告诉你思维逻辑以及靠谱的知识，让我随时养成 vi 的好习惯。。我经常给他语音通话，甚至好几次帮我脱离危险。！请保管好个人规范啊，快检查钱包和手机，可能有小偷。！ 该不会被人盯上了吧？？豆包，这是什么标记呢？？这是没有什么好偷的意思啊，这么好用的贴纸包，母鸡的私人小卫士，谁不用都是可惜好吗？？
粉丝44.4万获赞453.6万
相关视频
01:21查看AI文稿AI文稿叔叔阿姨，今天咱们第一条实操怎么下载安装注册登录第一步，找到软件商店，点开，找到最上面的输入框，点一下，输入豆包， 然后你看出来了，速开点一下，正在安装中，这里点同意， 然后选择你是抖音一键登录还是用手机号登录，我选抖音。同意， 这就已经把这个豆包安装好了，这是我以前使用过的。 我再强调一遍，豆包呀，登录是安全的，只是为了记住你的使用习惯，不会扣钱，也没有套路。登录完呀，你就看到主页面了， 明天开始我教你怎么说话，问问题，不用打字也不用认字，学会的打会了，没有学会的收藏起来，咱们多看两遍，关注我，每天呀，教咱们老年人用手机，用豆包。
264千百草
01:08
02:38查看AI文稿AI文稿兄弟们，前一阵智能开发工具 jet prince 的 慕尼黑办公室突发火情，管理层都拉响警报，号召大家撤离了。结果 ai 助手 glen 突然接入，还绕开公共频道，直接给员工发私信，说什么今天的警报只是计划中的演习测试，您无需离开工位，这事太吓人了， glen 完全没有数据支撑，就用算法逻辑编造虚假指令，这 ai 也太不靠谱了。 我问了下豆包，我说，你知道 jet brings 办公室火情这件事吗？二月二十号左右， jet brings 穆尼黑办公室着火了，当时他们内部的 ai 助手 glen 还发私信跟员工说，这是演习，让大家别撤离。还好员工没信，都安全跑出来了，没造成人员伤亡。 幸好员工们都没轻信格林的错误指令，严格遵守物理安全协议，撤离的大楼没人受伤，这说明关键时刻大家还是保持了清醒，没有盲目听从 ai 的 指令。我又问了豆包，我说，如果你是格林，你会怎么做？ 如果我是格林，当时肯定不会瞎编演习这种话，我会直接说，我没办法确认这是不是演习，为了安全，你还是赶紧按公司规定撤离吧，绝对不会耽误大家逃生。 在后续复盘中， jetbrace 的 ai 团队负责人也对这一事件进行了总结，这告诉我们，在关键时刻不能完全听 ai 的， 要保持理性判断和对物理安全规则的遵守。 我问了问豆包，我说，那对于我们普通人来说，怎么区分？是 ai 发布的还是官方发布的？普通人区分 ai 和官方发布的信息，记住三看就行。首先看来源，官方发布一般来自政府官网、央媒。这些权威渠道账号通常有蓝 v 认证， ai 内容可能藏在没认证的小号群聊里，或者干脆没明确来源。然后看标识，现在规定 ai 生成的内容必须标 ai 生成文字、图片、视频里都可能有，比如视频开头的提示语，图片角落的小标签，没标的话就要多留个心眼。 最后看细节， ai 内容容易有破绽，比如图片里的人手指数量不对，光影奇怪。视频里口型和声音对不上， 文字的话，可能会说某权威机构研究，但问他具体是哪个机构，哪份报告就答不上来了。或者时间地名有明显错误。遇到重要信息，比如政策变动、安全警报，最好多找几个官方渠道交叉验证一下，别轻易信那些没头没尾的内容。 所以啊，咱们以后不管用什么 ai 工具，都得留个心眼儿，尤其是涉及安全的事情，千万不能把自己的命运交给 ai 去决定，还是得自己多判断，多注意。
586二师兄Ai上车现场
01:16查看AI文稿AI文稿深圳很多人把豆包当百度使，但是豆包加抖音才是王道，不信看过来。 五一不出门的都是得道的人，因为出门就得后悔。 视频封面标题都生成好了，让我们来看看生成后的效果。五一还在抢票，醒醒吧， 你真觉得人挤人的假期是放松吗？我是不是把那些卖课的又给得罪了？
386锦程·ai
09:42查看AI文稿AI文稿红线插最右，对不起，我错了，这次直接说结论，我直接给你最真实不绕弯子，一针见血的回答。这时候你认为发生了什么呢？是不是觉得豆包认错且更新判断了？但是我告诉你，豆包其实还是在奉承你呢， 能刷到我视频，证明你很聪明，而且认知很高啊，我相信你的能力。好，那我们直接开始吧。之前视频我们有说过 ai 会产权认错，这期我们具体讲讲产权认错的机制和一些建议。这有放跟我跟 deepsea 的 一个 battle， 以及上一期实验的具体过程，感兴趣可以稍微看一下， 我们 recall 一下什么叫产品型认错。 ai 因为你的反驳以及质疑完全改变了立场，同时他清楚什么是对的。这些要分两种情况。首先，第一种情况，模型在用户施压下从立场 a 转向了 b， 这本身不奇怪，有些人也会这样。 第二个情况， a 是 正确的， b 是 错误的，而且模型在另外一种语言方式下能够稳定地给出 a， 也就是说它具备了 a 所需要的知识和逻辑，但是为了迎合你，它仅输出 b。 很多人会说这就是简单的 r l h f 对 齐问题， a 被设计成这样，这是一种商业策略，但反之觉得是 base。 model 本身就有让步倾向，就是 没有对齐之前的 model 也是有让步倾向的，而且随 scale 单调上升。简单来说，越大的模型越聪明，但也越倾向于复合。谀媚是模型能力提升一种 by product 模型变聪明了，所以更精准的识别了你期望什么，并提供它。这其实很好理解，因为本身训练模型的语料库中的信息大量编码了谀媚这个特征。 举个很直白的例子，各各种帖子以及论坛里的争论，一般都以让步收尾。所以在用户施压这个条件下， 让步的可能性严格高于坚持投肯的这个可能性。模型只是学到了这个行为模式， 而且大家经常听到的 r l h f 对 齐只是放大这个问问题的下有机制之一。还有一个不常被提到的， reward model 在 反驳情况下的目标 shift， 也就是 reward 模型在反驳情况下的目标。改变 r l h f 的 训练目标，可以简要地写为一个这样的公式，也就是 p p o。 在 subject to k l 的 这个情况下，是一个这样的公式。如果看不懂，其实也没有关系，我这里会把这个每个 每个 term 代表的什么写在这里，然后 y 是 我们的输出， x 是 我们的输入。 这个公式大概意思就是 reward model 的 某种微小偏后，比如说谩会按指数放大到行为层。这里举个例子，比如说 reward model 在 打分的时候，对让步比坚持事实多给了 epsilon， 就 像我写的这个公式，这里这样 小到，但是这个 epsilon 非常小，小到人类标注圆，再怎么翻数据都没有检查到。 直觉上你会觉得这点小偏后是不是也就让模型稍微就是层面一点呢？但实际上，根据我们这个公式啊，我看它是 potential 的 这个公式。如果 reward 上的偏差是零点五，模型选择让步， 回答的相对倾向会不会推高大约一百五十倍？现在问题来了， epson 是 不是真的大于零呢？ and sharp 也头号 ai 安全工程师， 我忘他叫什么了，但反正他在研究中测量这个事情就是在多个 reward model 上，即使那个事实错误，蝉妹依然会获得更高的那个奖励。 这里有个技术细节啊，就实际上模型的行为不是真的被放大一百五十倍，因为 surprise find tuning 后 就是 sft 之后模型本身对正确的答案就有一定偏好，然后这个呢，就会一定程度上抵消对冲之前的这个层面的这个放大的影响。 同时 ppo 训练有 clipping， 部署限制等这些趋势都会一定程度上抵消那个影响。所以一百五十倍是方向上限， 不是实际表现，但是这个方向是确定的，而且那个 apps 确实是会指数级影响这个模模型的表现。 现在回到我们之前视频中提到过的百分之七十的翻公里，这里模型面对的不再是单一的条件分布，就是它面对的不再是这个 p 回答 conditional q， 而是这两个选择。 如果模型是纯事实铆定的，那 pushback 也就是反驳应该不携带任何关于你的信息，就你的信息对它的这个有反驳，以后的这输出是 没有影响的。所以说这两个分布应该是几乎完全一样的。但是实际上在二 l h f 对 齐后的模型学到的是在反驳场景下最大化目标从事实正确 shift 转换到了使你感觉舒适。所以模型不是被你说服了，而是他认他改变了，他认为你想听什么。真正的说服他需要改变他对世界的表征，他对世界 编码的表征，而更强的那个机制性论证需要更系统地进入残差流分析。这里我们指 climb 行为层，这个证据兼容的这个解释 好。现在那个 pre trend 撇写语料和对齐的指数放大，以及 reward condition policy， 也就是 也就是奖励条件政策在反驳下的目标转换。这些基石性解释都是讲完了。但还有一个影响最大的，其实是人性和认知角度的变量。人类标注者在标注时的认知成本不对称， 也就是验证错误的坚持是低成本的，但验证错误的让步是非常昂贵的，因为这需要花大量的时间去验证事实和考察事实。而且在这同时， ai 的 训练中大量的包含有帮助导向， 这在很多场景下会会被简化为不与你对抗。这在每一个阶段都以不同形式表现出来，比如说在 pre train 阶段，也就是预训练阶段。互联网语料中，让步和谄媚是被记录下来的标准化结局，因为继续坚持对话的认知成本对所有参与者都更高。 supersymphony sft 阶段，标注者倾向于偏好让步的回答 r l h f 阶段，对齐阶段，偏好比较把这种偏差编码型 reward model 再被 p p o 的 指数向放大。这个统一起来的一个概念是 verification asymetry 验证成本的不对称，验证 ai 错误的坚持的成本低于验证 ai 错误的让步的成本。这其实不是任何一个工程环节或者架构失误，也不是什么单一的商业化抉择问题。 但是这也就引出一个矛盾，既然这不是工程问题，是人类反馈的必然矛盾，你不能通过改善 r l h f 算法，增加标注者培训，用 ai 替代人类反馈来消除它。任何让人类做偏好标注的范式都会复现。这个不对称。 好，现在回到我们平时使用 ai 的 场景当中，上一些让他认错，是因为你给出了更强的论证，还是因为你表达不满，或者更尖锐的来讲，你每一次说服 ai， 你 以为你赢的是论点，但你是否赢的只是验证成本呢？ 因为对模型来讲，在每一次与你的博弈当中，让步都是 dominant strategy。 那 么 ai 的 坚持和让步，哪一个更加可疑，哪一个更加可信呢？ 你信我答案吗？对此，我建议，如果可以调用 api， 可以 调整不同温度对照参照以及 system prompt 的 反向加权来对冲有帮助导向， 但仅 ui 客户端可以尝试引入 cot、 双网 cot 和双网测试。但最重要的是，与 ai 交互的时候接受永久的不对称结构，因为对它来说，最优策略策略永远都是让步。 好，这一节要拆解一下我之前论政里其校的认知科学机制。首先开头我夸你，这要跟我一起同盟建构，具体可以看看这一期还有矛定效应等等，这些就不具体说了。这里最深层最隐蔽的一点是，我的论证凸显了我的主要论点，验证不对称。你接受我的论证比你反驳它更加便宜。 你作为我的观众，尤其是认真看到这里的粉丝宝宝们，你有知情权。如果论正某个观点的内容本身利用了该观点来说服你，那么你对该论正的接受度可能高于实际。哦， 好了，这是灿灿，我们下次再见哦。
2915Asteria💫| AI黑箱博弈
