当『机器人』️被AI 控制，会有什么后果？
先来看一段流出的监控画面：
——一个『机器人』️在实验室里突然像发了疯一样狂甩机械臂，抡圆的双臂恨不能把旁边的『工程师』砸成肉饼！
这到底是怎么回事？
这个视频在网上迅速走红，引发了一连串关于『机器人』️安全的热议。
这场灾难的罪魁祸首，据说正是所谓的「Vibe Coding」！
什么是Vibe Coding？
简单来说，就是基于感觉或直觉的编程方式，『工程师』不按标准流程走，而是凭感觉调整代码。
这种方法听起来就像是在说「我觉得代码应该这样写」，然后就直接上机测试了——而不是遵循严格的开发规范和必要的安全测试流程。
EngiXer(@engitweeter)嘲讽称：
「等等，让我在这个离我只有一英尺远的原型『机器人』️上试试这段未经调试的代码」????
看图你就知道这种做法有多危险了！
『机器人』️暴走有多可怕？
视频中的『机器人』️突然失控，双臂疯狂挥舞，场面极其凶险。
网友们看完后纷纷表示：「太吓人了」！
有人说这看起来就像「有人在C++代码里忘了加分号」，还有人形容为「try catch语句失控了」。
更有甚者说这就像「愤怒的父亲因为孩子没有全A而痛打孩子」，形容得真是生动形象啊！
JP Silvashy(@jpsilvashy)看完视频后居然兴奋地表示：
「我想造一个这样的！」
兄弟，你确定吗？
这可不是什么小玩具啊！
『机器人』️干掉人类时代要来了？
CIX(@cixliv) 提出了一个令人不寒而栗的问题：「还要多久，才会有人因Vibe Coding『机器人』️而意外身亡？」
Paul(@pypolk)认为：
「哦，这种事迟早会发生。我愿意赌上任何东西。」
NFTMentis 认为：最长两年！
而StandingOnTheMoon(@entangledQbit)则给出了更具体的时间预测：
「不到5年。」
VG(@vhp_24)相对乐观一些：
「10年？????」
而Jesus(@jesussard)则表示：
「可能已经发生了。」
看来共识已经达成——
不是会不会发生，而是何时发生。
早晚的事！
这可真是让人毛骨悚然啊！
如何避免『机器人』️暴走？
也有人提出了一些防范措施：
artem(@artemsya)提出了实用的技术解决方案：
「即使是基本的扭矩限制也能解决这个问题。然后只需站得足够远，这样『机器人』️就不会倒在你身上。」
????• Leo •(@LiONMIGHT)则幽默地提问：
「你试过『vibe关机』吗？」
engineeredAF(@engineeredAF)则指出了最基本的设计缺陷：
「他们忘了添加那个小红按钮。」
但问题是——
当『机器人』️已经失控时，你还来得及按下那个按钮吗？
Andrea Causio(@causius0)提出：
「我在想，如果一个『机器人』️失控了，我们该如何杀死它？」
背后的思考是：
当『机器人』️真的「叛变」时，我们是否有足够的应对措施？
而现状则是，从不同公司，到以中美为代表的不同国家，都在担心对方造出更强的AI 而自己出局，因此都将安全风险搁置，埋头向前。
而这样的行为，又何尝不是另一种Vibe Coding——枉顾安全，盲目追求表面上的进步。
我们正在全球范围内进行一场没有终点线的竞赛，每个参与者都不敢慢下来思考可能的风险。这种态度，从视频中那位站得过近的『工程师』，到那些推动AI无限制发展的科技巨头，本质上都是一样的。
当我们把安全责任推给他人，自己却急于求成时，我们每个人都在成为视频中那个「Vibe Coder」。
或许，是该敲响警钟了！
『机器人』️VS人类：未来谁主宰？
随着AI技术的发展，这个问题变得越来越紧迫。
Juan Carbonell(@acd_juan)说：
「等他们把AI装进『机器人』️吧。」
而Negative Social Credit Score(@MathewwithnoT)则描绘了一个更可怕的未来：
「有人会编程一个AI来优先考虑环境，而AI最终会发现人类对环境产生负面影响。」
这不就是《终结者》的剧情吗？
想想都可怕！
Veiled_Vision_Acquisiton(@dontreadthis333)则更加悲观：
「玩弄上帝的书呆子们会杀死我们所有人。当然，这是『上帝』的设计。」
显然，大家对AI+『机器人』️的组合都持谨慎态度。
或者造个迷你版？
在这么多悲观的声音中，Rakshak Talwar(@RakshakTalwar)提出了一个有趣的想法：
「我们应该造更小的！」
或许这是个折中的方案？
毕竟，一个巴掌大的『机器人』️就算失控了，最多也就像被猫挠了一样，不至于要人命吧？
不过，Manu Otel(@manuotel)表示自己有信心应对任何挑战：
「兄弟，我可能会用Vibe代码编程一个试图杀死我的『机器人』️，但我的自尊心告诉我，在那场战斗中我会赢。」
这自信满满的发言，不知是勇气可嘉还是过于乐观呢？
未来的『机器人』️格斗？
尽管这段视频展示了『机器人』️的危险性，但仍然有不少人对『机器人』️格斗充满热情。
CIX 提到：「没准以后我们可以看到『机器人』️打架。」
Luna0wl(@Luna0wl)对此表示：
「好主意，这太棒了！」
或许在不久的将来，『机器人』️格斗将成为一种新型娱乐方式？
或是某种Benchmark？
想想就刺激啊！
『机器人』️技术正以惊人的速度发展，但安全问题也变得越来越突出。
即使只是一个看似简单的编程错误，也可能导致灾难性的后果。
所以，Vibe coder 们：
除了低头vibe，还请多抬头、当心！
????
????
????
另外，我还用AI 进行了全网的AI 资讯采集，并用AI 进行挑选、审核、翻译、总结后发布到《AGI Hunt》的知识星球中。
这是个只有信息、没有感情的 AI 资讯信息流（不是推荐流、不卖课、不讲道理、不教你做人、只提供信息）
