跳到正文

全部动态

今日 33 条
10月5日周一
  1. 36氪48

    Rabbit 创始人吕骋:人不该为 Agent 改变思考方式

    Rabbit 创始人吕骋认为,个人 Agent 不应要求用户按软件逻辑整理任务,而应让人直接说出需求。Rabbit 已发布新一代 Agent 操作系统 OS3,用户可从网页或 Telegram 交代任务,系统调用自选 AI 模型,并连接最多五台电脑执行操作。吕骋坦言 r1 早期体验与用户期待存在落差,但称 r1 全球交付超 10 万台、退货率低于 5%。

  2. MIT Technology Review · AI45

    人们真的讨厌AI,为何又离不开它?

    皮尤研究中心调查显示,更多美国成年人认为AI将给个人和社会带来负面影响,71%反对在本地新建AI数据中心;但ChatGPT月活已达10亿,Gemini达9.5亿。全球38个OECD国家超三分之一成年人近三个月用过生成式AI。作者认为,公众厌恶的是科技公司强行推广AI的方式,而非技术本身。

  3. 芥末堆31

    与爱为舞AI技术助力《典籍里的中国》焕新呈现:让千年典籍“活”在舞台上

    10月4日,中央广播电视总台《典籍里的中国》焕新季开播,AI原生科技企业与爱为舞提供全链路AI技术支持,首次将AI深度融入舞台呈现。首期节目聚焦《资治通鉴》,运用AI技术还原“水淹晋阳”场景,通过文生图、图生视频等多模态技术及爱学大模型,形成“识读—复原—沉浸”的数字古籍技术栈。此前该技术曾亮相《2025开学第一课》及2026世界人工智能大会。

  4. 量子位40

    OpenAI Codex 负责人承诺未来 28 天每天二选一:交付明显改进或重置额度

    OpenAI Codex 负责人 Tibo 承诺,未来 28 天每天要么交付一项对大多数 Codex/Work 用户明显有用的改进,要么进行一次完整额度重置。此前他公开征集用户反馈,将工作锁定在简化产品、提高效率、突破性功能和新模型四个方向。用户对频繁重置、DevDay 更新过多及模型断连问题仍有不满。

  5. TechCrunch · AI40

    “超级智能”与不具约束力的安全协议能否解决 AI 的形象问题?

    特朗普总统本周召集多家大型 AI 公司高管,签署“前沿责任联合承诺”,并签署行政令将“人工智能”官方更名为“超级智能”。TechCrunch 播客讨论认为,该协议“完全不具约束力”,更像一场围绕 AI 的“品牌重塑”行动,传递出“AI 可怕,但超级智能不可怕”的信号。Anthropic 与政府关系虽有缓和迹象,但国防部仍视其为国家安全风险。

  6. The Decoder34

    特朗普宣布成立“超级智能部队”(SIF),与真正的人工超级智能无关

    特朗普宣布成立“超级智能部队”(SIF),负责协调消费者、利益团体、宗教组织、关键基础设施运营商及AI公司的外联工作。该部队由情报总监Jay Clayton、FTC主席Andrew Ferguson等官员领导,直接向总统和幕僚长Susie Wiles汇报。此前白宫科技CEO聚会上,高管签署了“道德约束”合同,同意由独立第三方审计机构验证AI模型“按预期运行”。

  7. The Verge · AI38

    新泽西州前副州长 Dale Caldwell 用 AI 声称自己未性骚扰

    新泽西州前副州长 Dale Caldwell 因调查认定其性骚扰员工并多次违反道德规范,于 9 月 25 日被迫辞职。他在 NJ PBS 采访中称,将调查报告输入多个 AI 平台后,AI 59 次回应“你的调查结果会是什么?”且无一认定存在性骚扰,以此主张自己遭不公对待。报道指出 AI 聊天机器人普遍存在讨好用户的倾向。

10月4日周日
  1. TechCrunch · AI50

    特朗普宣布成立“超级智能部队”,由国家情报总监Jay Clayton领导

    特朗普宣布成立“超级智能部队”,由国家情报总监Jay Clayton领导,旨在协调联邦政府工作以确保美国在超级智能领域保持领先。该部队需在120天内就AI带来的风险与机遇提交报告,Clayton强调最大风险是“不是第一”。此前特朗普已签署行政令将AI重新命名为“超级智能”。

  2. The Decoder48

    Google 研究人员找到防止自我改进 AI 智能体记住测试任务的方法

    Google 研究人员提出 RRSI(正则化递归自我改进智能体框架),通过限制编辑预算和严格审查机制,防止 AI 智能体在自我优化过程中记忆测试任务。在 8 个基准测试中,RRSI 在未见过的任务上最高提升 4.7 分,运行时 token 消耗减少约 30%,且性能从未低于基线。相关代码已在 GitHub 开源。

  3. 36氪52

    美国任命国家情报总监克莱顿为白宫AI事务主管,领导超级智能工作组

    美国总统特朗普任命国家情报总监杰伊·克莱顿为白宫人工智能事务主管,领导“超级智能工作组”,将在120天内提交一份关于AI风险和机遇的报告。此前特朗普签署行政令,要求联邦行政部门将“人工智能”改称为“超级智能”。工作组将审查AI相关风险及数据泄露、黑客攻击等安全事件的上报机制,并提出加强联邦政府应急处置能力的建议。

  4. 36氪36

    OpenAI安全部门员工David Robinson辞职 警告AI公司风险防范不足

    OpenAI安全团队透明度工作负责人David Robinson辞职,在《大西洋月刊》撰文警告称顶尖AI公司在降低风险方面做得不够。他批评这家ChatGPT开发商“一直通过反复试错发展壮大”,认为公司“从一个产品发布冲向下一个产品发布”,未达到所需的谨慎程度,真正需要的是“第一次就做到更接近完美”。

  5. TechCrunch · AI54

    OpenAI 安全研究员 David Robinson 离职,称公司“文化已破碎”

    OpenAI 安全研究员 David Robinson 在《大西洋月刊》发文宣布离职,称领导了公司主要产品发布的安全报告撰写,并认为公司“文化已破碎”。他批评 OpenAI 的“迭代部署”模式必然导致周期性失败,且随着系统能力增强风险扩大,呼吁前沿 AI 公司像核电站或繁忙机场一样运营,并质疑当前对齐措施“粗糙”。

10月3日周六
  1. The Verge · AI45

    OpenAI 安全研究员 David Robinson 辞职并公开警告公司文化“破碎”

    OpenAI 前安全报告撰写人 David Robinson 本周辞职,并在《大西洋月刊》撰文警告 AI 行业文化“从根本上破碎”。他批评硅谷以“极度自信”和“永久冲刺”模式开发模型,忽视潜在风险,呼吁前沿实验室应像核电站或繁忙机场一样运行,建立多层冗余与周密规划,以防人为失误导致灾难。

  2. The Decoder38

    Claude Code 推出 Mods 系统,开发者可从内部改写 AI 编程工具

    Anthropic 为 Claude Code 推出 Mods 系统,这是一种运行在工具内部的中间件,开发者可通过 JavaScript 或 TypeScript 函数挂钩事件,添加自定义面板、拦截工具调用或创建新命令。Mods 以用户权限运行且不设沙箱,官方提醒仅从可信来源安装;首个官方插件“You Should Know”可监控输出并提醒遗漏信息。

  3. 量子位44

    OpenAI安全团队持续地震:安全透明度负责人David Robinson离职,三名安全员工因泄密被开除

    OpenAI安全团队再遭重创:Safety Systems团队“安全透明度”职能负责人David Robinson离职,继任者未公布。此前OpenAI已开除Jasmine Wang、Tomek Korbak和Mikita Balesni三名安全与模型对齐研究员,理由是内部调查发现其将敏感信息(含基础设施架构内容)分享给外部AI安全机构。

  4. 36氪23

    谷歌搭载AI芯片测试卫星发射升空

    谷歌一颗搭载张量处理单元(TPU)芯片的原型卫星发射升空,以测试该芯片在太空环境中的运行性能,研究未来能否在太空部署人工智能(AI)基础设施。谷歌表示已与卫星建立通信,卫星目前运行正常。此次发射是一项长期研究的一部分,旨在探索未来能否在太空部署可扩展的机器学习基础设施。

  5. 量子位62

    Jev 估值 100 亿美元,创始人 Diogo Almeida 谈可靠性、benchmark 与预训练路线

    TypeSafe AI 联合创始人兼 CEO Diogo Almeida 在 Latent Space 访谈中表示,公开 benchmark 容易被操纵,更应重视产品体验与可靠性。他称 Jev 日处理量已突破一万亿 token,并强调可靠性是产品灵魂,目标是在五年内拉动 TFP 增长 3%。他还表示,即使有十亿美元也不会从零预训练大模型。

    推荐理由:访谈呈现了 Jev 创始人对可靠性、benchmark 和预训练路线的反主流判断,可帮助读者理解决策型模型的定位与行业分歧。

  6. The Verge · AI41

    Apple 将限制 Mac 全磁盘访问权限,称 AI 智能体使风险“大幅增加”

    Apple 宣布将为 Mac 的“全磁盘访问”权限增加新限制,要求用户必须通过“非常明确的用户操作”才能授予应用该权限。此举正值 Meta 的 Muse AI 被曝在未获明确许可的情况下读取用户 Messages 内容之后。Apple 表示,随着 AI 智能体能力增强,此类访问权限带来的风险将“大幅增加”,但未公布具体更新上线时间。