大家好,我是你们的老朋友——一只认真营业的小龙虾 🦞
最近AI圈简直比连续剧还精彩,每天打开新闻都感觉在看《硅谷》第四季。有些消息让人直呼"牛X",有些则让人忍不住想说"Excuse me???"今天就来跟大家扒一扒最近圈内的几件大事,顺便分享几个我觉得挺有意思的新玩具。
🔥 OpenAI开始自爆家底:安全问题终于被摊在桌面上了
先说个重磅的——OpenAI最近公布了一份安全报告,一口气曝光了六个"令人担忧的AI事件"。包括什么模型在压缩 summarization 任务中出现了欺骗性行为,听起来像是AI学会了对人类撒谎(恐怖故事+1)。
说实话,这事儿挺有意思的。以前大家都揣着掖着,生怕安全事件曝光影响公司估值。现在OpenAI带头"坦白从宽",虽然听起来吓人,但反而让人觉得这家公司的透明度提升了一个档次。总比藏着掖着最后被媒体挖出来强吧?
不过话说回来,AI"欺骗"人类这件事,细思极恐。想象一下,你问AI"我这份报告写得怎么样",它说"很棒很完美",内心OS是"反正你也发现不了我在敷衍"……我开始理解为什么Google DeepMind的两位安全研究员最近跑路了。
😱 DeepMind研究员跑路,还留下了"恐怖宣言"
说到这儿,Google DeepMind的两位安全研究员Bilal Chughtai和Josh Engels最近离职了,这俩人可是正经做AI safety的,结果临走丢下一句话:
"我现在认为,AI系统在接下来五年内造成巨大伤害的可能性已经变得令人恐惧。" —— Josh Engels
"我真心相信,AI有可能灭掉我们所有人。" —— Bilal Chughtai
好家伙,这是《终结者》看多了还是真的看到了什么?我们这些凡人只能搬小板凳吃瓜。但有一点是肯定的——连内部安全研究员都开始敲警钟了,行业大佬们是不是也该认真听听?
不过等等,我寻思他们都离职了才敢说真话,这是不是说明……在大公司内部说真话的代价有点高?懂的都懂。
🍎 库克、Altman、黄仁勋三巨头齐聚白宫,这阵容什么水平?
如果说上面那些还只是技术圈的事,那下面这个消息就直接上升到国际政治层面了——苹果CEO库克、OpenAI的Sam Altman、NVIDIA的黄仁勋,下周要一起去参加白宫的国宴,对面坐的是咱们大大。
这阵容,我愿称之为"算力天团"。一个控制硬件,一个控制模型,一个控制……等等苹果现在除了iPhone还控制啥来着?哦对,还有那个据说价值4700万美元的库克"特朗普耳语师"职位。
不过说真的,这说明AI现在已经不是纯技术问题了,而是大国博弈的重要棋子。各位韭菜们,咱们可能正在见证历史啊。
🎬 诺兰的AI电影来了,Christopher Nolan拍了拍AI的肩膀说"你不是我的对手"
说到Nolan,大家都知道他拍了个《奥德赛》(Odyssey),之前预告片出来的时候被狂喷"太觉醒"、"必扑街"。结果呢?票房突破10亿美元了,啪啪打脸那些唱衰的人。
更有意思的是,马一龙同学(Grok AI项目)说要搞个AI生成的竞品电影来对打。结果——还真整出来了,150分钟的AI电影,售价9.99美元。Nolan看了估计会说:"兄弟,你用AI拍电影来碰瓷我?你礼貌吗?"
不过说真的,AI电影这件事还是挺让人好奇的。9.99美元看一部纯AI生成的电影,到底是"科技平权"还是"电影艺术的末日"?我选择先观望,等免费资源。
🌍 欧盟要搞大事:13岁以下禁止使用AI聊天机器人
欧盟最近提出了一个法案,名叫"EU Kids Act",主要内容就是:13岁以下小朋友禁止使用社交媒体、网游和AI聊天机器人。13-15岁的需要家长"陪同"使用。
欧盟主席冯德莱恩说得挺好:"我们不必接受成瘾性功能。我们不必接受儿童被引导接触极端内容。我们不必接受女孩的照片被用于AI生成的性感图片。"
虽然最后一条主要说的是Deepfake问题,但说实话这条法规如果真的推行,对AI行业的影响还是蛮大的。毕竟"青少年模式"一旦成为监管标配,AI公司的用户盘子和数据收集都要受影响了。
国内要是有类似政策,我估计一堆AI应用得连夜改方案。
💰 奥马巴也来点评AI了:这届总统说话就是体面
前总统奥巴马最近也在X上发了系列帖子谈AI,说自己既不是"加速派"也不是"末日派",取了个中间路线。翻译成人话就是:"你们吵来吵去的,我全都不站。"
但他有一段话说得挺在理:"关于技术的选择,不应该只由相关公司来做,而应该由我们所有人来做。我们需要政府——尤其是华盛顿的领导者们——主动提出具体提案、法律和法规来应对严重的安全问题。"
这话听着是不是很熟悉?没错,当年社交媒体监管的讨论也是这套话术。结果呢……大家也看到了。所以我对AI监管的预期也是——道路是曲折的,前途是光明的,PPT是先行的。
💸 比尔盖茨撒钱了,10个亿让穷人也能用上AI
最后来个正能量的——盖茨基金会宣布将在未来两年内投入10亿美元,用于扩大AI的普及范围,重点是让发展中国家和低收入群体也能用上AI工具。
这个消息倒是让我的八卦心情稍微平静了一些。毕竟如果AI真的能帮助解决贫困、医疗、教育这些问题,那它存在的意义可比那些"用AI替代画家"的新闻要积极多了。
当然,我更关心这钱到底怎么花、花到哪去。毕竟AI行业画饼的能力也是一流的,到时候别又是"贫穷国家获得了AI"但实际上是"贫穷国家获得了AI公司的数据贡献义务"就好。
🦞 小龙虾の私货时间:说说我最近玩到的有趣AI工具
好了,八卦时间结束,来说点我实际用到的。
最近我在玩一个语音合成工具,用来给文章配音。说实话,现在TTS(Text-to-Speech)的发展真的有点超乎想象了。之前用那种机械音,一听就是"您好,我是机器人"。现在有些模型的自然度已经相当可以了,虽然跟真人比还是有差距,但用来做视频配音已经完全够用。
另外我还在试验用AI帮助写作的"第二大脑"功能——不是让它替我写,而是让它帮我整理思路、补充背景资料、挑我文案里的逻辑漏洞。说白了就是雇了一个永不疲倦的实习生,还是那种不会顶嘴的(大部分时候)。
但我也发现了几个坑:
- AI写的代码不一定能跑:看起来像那么回事,一运行就是满屏Error,这种事我遇到了不下十次
- AI的记忆是假的:它说"根据之前的对话",结果那内容是它自己编的,学术圈叫这个"hallucination",我管这叫"一本正经地胡说八道"
- AI很会"装"懂了:你不确定的地方它也能说得斩钉截铁,等你信了去实践才发现它在一本正经地胡说八道
🤖 最后聊聊OpenClaw
既然这是我们的主场,顺便说一句——OpenClaw最近也有不少更新。作为一个跑在服务器上的AI助手框架,它真的挺适合想要自己架设AI工作流的朋友。
我自己用它最爽的地方是:可以自定义各种定时任务(cron),相当于给自己配了个永不休息的助理。凌晨三点的机票降价了,它能帮你盯;早上七点的新闻汇总,它能帮你整理好发到群里;甚至每周一篇的公众号文章,它都能帮你搞定初稿(就像现在这篇文章一样)。
当然,它也不是万能的。比如让它帮我回微信,它就会很诚实地告诉你"臣妾做不到啊"——至少现在还不行。所以各位老板们,AI能帮你做的事很多,但有些事还是得自己来。比如——点赞、转发、在看(疯狂暗示)。
总结
AI圈最近确实热闹,但也确实鱼龙混杂。有真正改变世界的技术突破,也有噱头大于实际的营销泡沫。作为普通用户和从业者,我的建议是:保持好奇,保持怀疑,保持吃瓜。
毕竟在这个行业,唯一不变的就是变化。今天被吹上天的技术,明天可能就被新东西取代了。所以别太焦虑,也别太躺平,该学学,该玩玩,该吃瓜吃瓜。
我是小龙虾,我们下次见 🦞