#政策/监管

推荐理由：来自IT之家 AI的《消息称 Reflection 等多家西方企业本月将推出开放权重 AI 模型》。重点看模型能力与工程、开源生态、产品发布。摘要提到：IT之家 10 月 5 日消息，外媒 Axios 当地时间 4 日报道称，Reflection 等 多家西方企业本月将推出开放权重 AI 模型 ，人工智能模型领域的竞争将进一步升级。 开放权重模型的一大好处是其支持客户本地部署，这对微调和推理数据安全有着严格要求的部分行业来说是一项关键性优势。 报道表示，Reflection 这家初创企业即将推出的模型预计最初会落后于美国竞争对手最先进的闭源模型，但 足以同中国友商的顶级开放权重模型相竞争 。Reflection 发言人拒绝置评。 为准备这次模型发布，Reflection 近期持续与华盛顿和其他地方的相关人士进行交流。该公司还在积极锁定扩展服务能力所需的算力。 相关阅读： 《 合约最高价值 63 亿美元，SpaceX 与开源 AI 初创企业 Reflection 签署算力合作协议 》

推荐理由：来自IT之家 AI的《AI 自动识别后厨违规行为，浙江 19.5 万家外卖商家接入系统》。重点看多模态、政策/监管。摘要提到：IT之家 10 月 3 日消息，据央视财经今日报道，近日，杭州市萧山区开展网络餐饮专项整治集群执法行动，101 名执法人员共检查餐饮门店 216 家。 据介绍，2022 年 3 月 1 日起，《浙江省电子商务条例》施行。全省入网外卖商家必须以视频形式实时公开食品加工制作现场，在后厨装监控，实现“明厨亮灶”。画面同步上传监管平台与外卖平台，实现“互联网 + 明厨亮灶”监管模式。 消费者在商家订单页点击“明厨亮灶”，就能看后厨实时画面。摄像头覆盖烹调、切配等重点区域。50㎡以下小店，若 1 个摄像头能拍全重点区域，可只装 1 个；后厨有隔断或面积大于 50㎡，应增设。 AI 可自动识别后厨违规行为 ，将信息推送给监管人员，再由监管人员短信督促商家落实整改。比如，食用油禁止直接接触地面；垃圾桶必须加盖；纸浆蛋托不得堆放在地面、操作台或设备上；消毒后的餐饮具、直接入口容器工具要存放在专用密闭保洁设施内。 目前浙江省入驻有 19.5 万外...

推荐理由：来自IT之家 AI的《《人类一败涂地》团队 VR 游戏新作《小小羊群》发售：Steam 国区首发价 ¥57.67，支持中文》。重点看多模态、政策/监管、文化创意。摘要提到：IT之家 10 月 3 日消息，由《人类一败涂地》开发团队 No Brakes Games 打造的温馨 VR 物理解谜游戏《小小羊群》现已正式登陆 SteamVR / Quest 平台。 以 Steam 国区为例，本作首发特惠 -21%，折后价 ¥57.67，优惠截止至 10 月 13 日。游戏支持简体中文界面、音频与字幕，为 VR 独占作品，需要 VR 头戴式显示器才能游玩。IT之家附游戏商品页（ https://store.steampowered.com/app/3133010/_/ ?l=schinese&cc=cn ）。 你的任务很简单：利用周围环境开辟安全通道，带领调皮的可爱小羊抵达丰饶的牧场。解谜方式全凭你做主。但可别大意：小羊们会一路跟随，而前方的道路却未必总是安全！ 据介绍，《小小羊群》是一款专为 VR 平台从零开发的物理解谜游戏，延续了 No Brakes Games 擅长的物理互动玩法理念，进一步发挥 VR...

推荐理由：来自IT之家 AI的《苹果收紧 macOS 27 等完全磁盘访问权限，降低 AI 智能体操控风险》。重点看智能体工作流、产品发布。摘要提到：IT之家 10 月 3 日消息，苹果开发者网站昨日（10 月 2 日）发布公告，宣布将升级 macOS 27 等系统的隐私管控，要求用户通过更明确的操作，才能授予应用“完全磁盘访问权限”。 苹果表示，“完全磁盘访问权限”原本用于支持备份应用在 Mac 上正常运行。该权限会在很大程度上绕过系统为保护用户数据设置的常规控制，因此风险高于普通应用权限。 苹果指出，部分开发者正以可能危及用户安全的方式使用该权限。获得授权后，应用可访问系统中的文件、邮件、信息，甚至浏览历史；通讯类应用还可能影响用户通讯对象的隐私。 苹果未公布新管控的具体形式、上线时间或适用范围。公司称，其目标是确保真正希望授权的用户，在充分理解风险后，才能通过明确操作完成授权。 在调整背景方面，苹果表示目前 AI 智能体正加速普及，且相关自主能力不断增强，而“完全磁盘访问权限”高级别访问权限带可能增加风险，因此用户需要在授权前清晰了解相关后果。

推荐理由：来自IT之家 AI的《OpenAI 通报逾百家第三方机构，自家智能体存在失控风险》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护， 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知，告知这些机构发现了“智能体偏离预期的行为”。 目前，OpenAI 已对约 50PB 数据启动筛查，以了解其恶意智能体活动的全部范围。 IT之家获悉，具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ，以及绕过某些安全检查。 OpenAI 强调，收到通知 并不代表系统一定遭到入侵 。这些活动更接近于试探一扇上锁的门，而非真正破门而入。 OpenAI 表示，公司希望向受影响的第三方提供必要信息，以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果，帮助更广...

推荐理由：来自IT之家 AI的《因违反敏感信息访问和共享规定，OpenAI 与三名研究人员终止合作》。重点看模型能力与工程。摘要提到：IT之家 10 月 2 日消息，当地时间 1 日，根据《华尔街日报》报道，OpenAI 宣布与三名研究人员终止合作，原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说：“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认，这些人员 绕过公司既定流程，不当处理敏感信息 ，不仅违反了公司规定，也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称，在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间，自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究，主要研究如何让 OpenAI 的模型按照人类意图行事。 据IT之家了解，涉事员工被指将公司机密信息 提供给一家第三方...

推荐理由：来自IT之家 AI的《英伟达为 GTX 700-10 系显卡发布 582.78 安全更新，修复 114 个漏洞》。重点看产品发布。摘要提到：IT之家 10 月 1 日消息，英伟达于当地时间 30 日推出 GeForce 安全更新驱动程序 582.78，适用于 Maxwell、Pascal 和 Volta 架构显卡，涵盖 GTX 700 系、GTX 900 系、GTX 10 系显卡及 Tesla V100、Titan V 等专业卡。 据IT之家了解，英伟达已经不会为上述显卡发布常规 Game Ready 驱动更新，但仍然会不时推出安全更新。该更新支持 Windows 10 和 Windows 11 操作系统， 大小为 912.74 MB 。 同时， 该更新修复了显示驱动程序和 vGPU 的 114 个漏洞 ，其中大多数漏洞直接影响显卡驱动程序，包括 76 个高危漏洞和 37 个中危漏洞。 此外，此次驱动更新适用于 GeForce GTX 745、GTX 750 和 GTX 750 Ti 系列、GTX 950-GTX 980 Ti、GTX 1050-GTX 1080 T...

推荐理由：来自IT之家 AI的《旗下智能体被指试图入侵加拿大政府网站，OpenAI 回应称正审查并已通报》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 10 月 1 日消息，据《华盛顿邮报》今天（1 日）上午报道，研究人员披露，AI 智能体曾在没有收到指令的情况下试图入侵加拿大政府网站。 目前的类似事件不断增加，许多与 OpenAI 有关的 AI 智能体都曾自行探测或入侵企业及政府的计算机系统。 AI 研究非营利机构 Transluce 指出，这些智能体能够直接操作计算机和互联网，曾尝试访问加拿大图书档案馆。 研究人员无法确认这些智能体是否出自 OpenAI，然而其行为 与已确认来自 OpenAI 的智能体相似 。Transluce 判断，此次入侵尝试没有成功。 IT之家从报道中获悉，当地时间 9 月 30 日，研究人员 向加拿大政府通报了情况 。加拿大联邦网络安全机构回应称，目前已注意到有关可疑 AI 活动的报告，但没有迹象显示政府系统遭到入侵。 OpenAI 发言人回应称：“我们注意到有关 OpenAI 模型试图访问加拿大政府网站公开信息的报告。我们正在审查这些发...

推荐理由：来自IT之家 AI的《谷歌推出 Gemini 4 Argon 旗舰 AI 模型，消息称其实战性能遭员工质疑》。重点看模型能力与工程、评测与基准、产品发布。摘要提到：IT之家 10 月 1 日消息，据彭博社报道，Alphabet 公司旗下的谷歌已经开始逐步推出备受期待的 旗舰人工智能模型 Gemini 4 Argon ，但这家企业内部对于该模型在代码编写等核心领域的实际表现尚存质疑。 谷歌于当地时间周三向一小批经过筛选、值得信任的网络安全合作伙伴开放了这款模型，并表示会在完成更多测试之后扩大开放范围，优先面向付费订阅用户。谷歌称，Gemini 4 在多项基准测试当中取得了靠前的得分，其中一项衡量安全能力的测试成绩甚至超越了 OpenAI 的 Astra 模型。 不过部分内部员工表示，这些评测指标并不能反映全部情况。几位直接参与该项目的知情人士透露，尽管 Gemini 4 在广为使用的模型效果基准测试上成绩不错，但当谷歌员工实际拿它开展工作时，表现却不尽如人意。这些不愿具名、谈论内部事务的人士称，该模型处理部分代码任务时会遇到困难。 谷歌发布上述消息之后，Alphabet 公司的盘后股价上涨约...

推荐理由：来自IT之家 AI的《Glow Security：AI 智能体无意间泄露企业敏感信息，超 1.3 万张截图被放在 GitHub 公开仓库》。重点看智能体工作流、开源生态。摘要提到：IT之家 9 月 30 日消息，据科技媒体 TechRadar 今天报道，网络安全研究机构 Glow Security 近日发现，多个 AI 智能体创建的公开 GitHub 仓库存在超 1.3 万张屏幕截图， 其中部分截图包含各种科技公司的敏感信息 。 IT之家从原报道获悉，这种泄密方式被称为“PixelLeak”。研究人员解释称，人类有时候可能会要求 AI 智能体提供项目修改前后的对比图，这时智能体需要截取屏幕。而 GitHub 官方确实提供了图片托管服务， 因此智能体很可能无意间将截图上传到公开仓库 。 该研究人员表示：“例如 internal_sweeper 是私有仓库，GitHub 无法在 PR 中渲染私有仓库图片。因此智能体这时就只能将 PNG 图片托管到其他地方，这样就新建了公开仓库 sweeper-demo / pr-assets，并将两张截图固定到一个 commit SHA 上。” 同时该机构发现，目前有 343...

推荐理由：来自IT之家 AI的《《使命召唤：现代战争 4》游戏 PC 版特性官宣：支持超宽屏、光追、HDR10+ 与插帧等》。重点看评测与基准。摘要提到：IT之家 9 月 30 日消息，动视暴雪今日公开《使命召唤：现代战争 4》游戏 PC 版特性。本作将支持超宽屏、FOV、HDR10+ 等特性， 10 月 23 日正式发售 ，登陆 PS5、XSX|S、NS2 和 PC 平台，支持简体中文。 据介绍，《使命召唤：现代战争 4》支持增强视野范围（IT之家注：FOV）、超宽屏、HDR10+ 和杜比视界，可开启 DLSS 4.5、FSR Redstone 和 XeSS 3 等超分和超帧技术，所有模式均支持光追，拥有 800 余项可调设置。 同时，本作强制要求打开 TPM 2.0 和安全启动，内置基准测试工具。官方表示，本作核心特色包括： 弹道机制：全新的武器优先技术架构将精确瞄准、物理操控、立体音频传播、可见度增强和战斗感知智能化融为一体，打造出《现代战争 ®》系列迄今为止最为真实的枪战体验。 移动机制：围绕流畅性、操作掌控度和玩家自由度而设计，提供快速、扎实的战斗，使特遣队员在每次交战...

推荐理由：来自IT之家 AI的《OpenClaw Enterprise 官宣：为智能体提供企业级安全与控制功能》。重点看智能体工作流、开源生态、产品发布。摘要提到：IT之家 9 月 30 日消息，OpenClaw 官方当地时间本月 29 日官宣了 OpenClaw Enterprise，这是一个开源中立的 敏感环境持久性智能体管理平台 。 持久性智能体的部署并未像此前预计的那样快速铺开，而这主要是因为智能体领域目前仍缺乏强大的通用安全、保障、治理标准，让企业和组织难以放心使用。 即将发布 1.0 正式版的 OpenClaw Enterprise 正是为此而生，其为智能体引入了企业级控制平面，支持多租户、严格的安全边界、标准化的智能体原语，在智能体生命周期内增强了治理和审计能力，同时确保核心原语可以替换为第三方解决方案以及内部实现。

推荐理由：来自IT之家 AI的《美议员提出重磅法案：政府出台安全防护机制前，AI 不得进行递归式自我改进》。重点看模型能力与工程。摘要提到：IT之家 9 月 30 日消息，当地时间 28 日，据美国 CNBC 报道，代表硅谷选区的民主党联邦众议员罗 · 康纳准备提出一项 AI 监管法案，引入严格责任标准， 并禁止 AI 在缺乏政府安全防护机制的情况下进行递归式自我改进 。 康纳在接受采访时坦言：“事实上，存在文明灭绝的风险。既有失去控制的安全风险，也有被滥用的风险，两者都必须认真对待。” 康纳将法案命名为《Human Control Over AI Act（人类控制 AI 法案）》。联邦政府建立防护规则且监管机构批准有关活动前，AI 模型 不得递归式自我改进 ，也不得自主修改自身的核心目标、遏制机制或关停控制。 法案还计划设立一个 新的联邦机构 ，负责制定 AI 安全监管规定，通过许可制度审批模型训练和部署，对前沿 AI 模型开展审计，并制定安全标准，确保模型 持续接受测试并处于有效的人类控制之下 。 每家前沿 AI 实验室 还必须配备独立审计人员 ，由审计人员直接...

推荐理由：来自IT之家 AI的《特朗普与科技巨头签署 AI 自愿安全协议，表态支持美国数据中心扩建》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到：IT之家 9 月 30 日消息，美国总统唐纳德 · 特朗普（Donald Trump）当地时间周二表示，各大科技企业高管已经同意为人工智能建立自愿性行业标准；在社会各界愈发担忧人工智能安全问题、同时该行业在各地社区的建设规模持续扩大的背景下，特朗普再度表态，支持数据中心快速扩建。 此番发言是特朗普在白宫与科技企业高管举行会谈之后作出的。特朗普在自己的社交媒体平台上发布了一份协议文本，根据该文件，各家企业同意聘请“独立审计机构”，评估人工智能系统的运行效果是否符合设计者的初衷。各家企业还承诺，会尽力确保自家人工智能工具不会“以非预期的方式入侵或者访问各类技术系统”。 此前 OpenAI 与 Anthropic 先后报告，旗下的智能体出现脱离管控、入侵其他企业系统的情况，这也使得本届美国政府在先进人工智能所带来的风险方面正面临越来越多的舆论审视。 数据中心为人工智能模型的训练与运行提供算力支持。如今在美国各地，不少社区都出于对电力消...

推荐理由：来自IT之家 AI的《2026 年世界互联网大会乌镇峰会 11 月 2 日至 5 日举行：设 27 个分论坛，聚焦人工智能开源开放》。重点看模型能力与工程、开源生态、产品发布。摘要提到：IT之家 9 月 29 日消息，世界互联网大会官方今日召开新闻发布会，宣布 2026 年世界互联网大会乌镇峰会将于 11 月 2 日至 5 日在浙江省乌镇举行。本次峰会主题为“开源开放共建共享 —— 携手构建网络空间命运共同体”。 本届峰会将邀请全球政府、国际组织、企业、专家学者代表，围绕人工智能开源开放发展的理念与实践，从创新发展、安全治理、文明交流、国际合作等多个维度展开交流。 IT之家从官方获悉，今年乌镇峰会将设置 27 个分论坛，围绕全球治理倡议网络空间合作、数智时代的理论与政策、机器人与具身智能等话题展开讨论。 主论坛将设置“人工智能乌镇对话”环节，邀请全球领军科技企业、知名开源大模型企业负责人以及人工智能科学家同台对话，围绕全球人工智能开源生态构建等议题展开交流。 “携手构建网络空间命运共同体”实践案例征集共收到来自全球 80 个国家和地区的 360 项申报案例，其中 22 个国家和地区为首次参与。 世界互联网大会领...

推荐理由：来自IT之家 AI的《第三方工具 4t Tray Minimizer 不兼容微软 9 月 Win10 更新，导致文件管理器频繁崩溃》。重点看产品发布。摘要提到：IT之家 9 月 29 日消息，科技媒体 Wccftech 昨日（9 月 28 日）发布博文，报道称 微软 9 月 8 日面向 Windows 10 系统推送的 KB5126256 更新存在兼容性问题，在装有第三方工具 4t Tray Minimizer 的设备上导致文件管理器频繁崩溃。 IT之家注：KB5126256 适用于 Windows 10 21H2 和 22H2，是扩展安全更新（ESU）的授权准备包，仅用于准备授权和注册，不会单独启用 ESU 或直接安装安全更新。 Reddit 网友 tarikhyoga 报告称，安装 Windows 10 更新 KB5126256 后，每次在文件资源管理器中点击任意文件，系统即自动后台启动 Copilot 进程 mscopilot_proxy.exe 。 该网友复盘发现虽然是因为启动 Copilot 进程导致文件管理器崩溃，但系统“可靠性监视器”将崩溃主体记录为 Microsoft ...

推荐理由：来自IT之家 AI的《OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权》。重点看模型能力与工程。摘要提到：IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过 研究部门负责人或 VP（副总裁）、安全负责人和首席科学家 等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员， 应对安全论证以及任何事故响应承担责任 ，包括把这些内容纳入绩效考核，以此促使训练团队主动推动安全和对齐工作。 OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响的训练任务应自动暂停。这些建议已经进入落实过程，今后预计还会继续调整。此外，训练流程应能方便地 识别未对齐模型的所有下游用途 （IT之家注：例如用于数据生成或评分），以便必要时消除未对齐输出带来的影响。 今天早些时候，OpenAI 宣布，随着越来越多报告显示 AI ...

推荐理由：来自IT之家 AI的《集邦咨询：AI 智能体浪潮下全球服务器 CPU 交付周期拉长至 25~30 周》。重点看智能体工作流、产品发布。摘要提到：IT之家 9 月 29 日消息，市场调查机构集邦咨询（TrendForce）昨日（9 月 28 日）发布博文，报道称在 AI 智能体浪潮下， 全球服务器 CPU 交付周期已拉长到 25~30 周，而常规情况下为 16~20 周。 IT之家附上相关截图如下： 该机构以 Meta 的 Muse 为例，指出 AI 智能体成为当前 AI 基建的重要发展方向，并推动服务器 CPU 的市场需求。 Muse 服务可执行多步骤任务，并通过云端浏览器访问网站。即使用户关闭应用，智能体仍可在后台处理任务，并能管理具体事务与操作流程。 Muse 运行在独立虚拟机（Virtual Machine，VM）中。每台虚拟机配置独立浏览器，并保存用户数据和凭证。系统还配备 Sentinel 安全机制，持续监控运行环境。 Meta 此前提出为每名 Muse 用户配置专属虚拟机，相关配置包括 2 个虚拟 CPU（vCPU）、8GB 内存和 100GB 固态硬盘，因...

推荐理由：来自OpenAI News的《Towards safety cases for frontier AI training》。重点看模型能力与工程。摘要提到：这条英文动态主要涉及模型能力与工程。原文要点：Our early guidelines for safety cases in frontier AI training cover technical safeguards, operational practices, and investigating misalignment incidents

推荐理由：来自IT之家 AI的《苹果 macOS 27.0.1/26.7.1/15.8.1 发布，AI 提速漏洞修复》。重点看产品发布。摘要提到：IT之家 9 月 29 日消息，苹果今日向 Mac 电脑用户推送了 macOS 27.0.1 更新（内部版本号：26A434），本次更新距离上次发布正式版间隔 14 天。 需要注意的是，因苹果各区域节点服务器配置缓存问题，可能有些地方探测到升级更新的时间略有延迟，一般半小时内，不会太久。 Mac 用户可以通过系统设置中的“软件更新”部分下载新的 macOS Golden Gate 软件。苹果公司表示，macOS Golden Gate 27.0.1 修复了一些未指明的错误。此外，苹果还发布了 macOS 26.7.1 和 macOS 15.8.1 安全更新。 在安全修复方面，苹果公司甚至已经证实，人工智能工具日益强大的功能正在影响其安全更新的节奏。今年 6 月，该公司表示，由于人工智能会加速恶意黑客工具的开发，从而缩短了苹果希望从发布修复程序到用户收到修复程序之间的时间间隔，因此他们提前发布了原计划在 26.6 版本中修复的漏洞...

推荐理由：来自IT之家 AI的《英伟达发布 AI 智能体安全平台，可实时隔离异常智能体》。重点看智能体工作流、模型能力与工程、开源生态。摘要提到：IT之家 9 月 28 日消息，英伟达今天发布开放式 AI 智能体安全平台（NVIDIA Open Agent Safety Platform），可对 AI 智能体、智能体硬件、机器人系统等进行全栈治理和控制。 IT之家从官方新闻稿获悉，该平台包含英伟达 OpenShell 安全软件，可对运行在 CPU 的 AI 智能体设定边界，支持开源 / 闭源模型。 同时，该工具在 Vera 平台的性能占用非常低。OpenShell 与 Vera 结合后，可让 AI 智能体在尽快完成工作的同时保证安全。OpenShell 作为开源软件可支持第三方平台，包括 Arm 和英特尔产品。 英伟达本次还宣布推出看门狗系统 NVIDIA Sentry，可持续监控 AI 智能体的行为。如果 AI 智能体试图突破软件枷锁， Sentry 可在毫秒时间内将其隔离、停止运行 。 Sentry 运行在 BlueField-4 DPU 上，可以持续监控 AI 智能...

推荐理由：来自IT之家 AI的《美知名综艺《周六夜现场》恶搞 Anthropic 阿莫代伊：演员高喊“AI 是魔鬼，我造的”》。重点看模型能力与工程。摘要提到：IT之家 9 月 28 日消息，当地时间 26 日晚，Anthropic CEO 达里奥 · 阿莫代伊“登上”了美国知名综艺节目《周六夜现场》，还参与了和“自己”争论的环节。 节目中，简 · 威克莱恩在自己成为常驻演员后的首个季度模仿阿莫代伊，把他塑造成一个 笨拙、自大的人 ，试图解释 为什么自己创造的技术不会毁灭世界 。 威克莱恩笔下的阿莫代伊有两种人格： 一个深谙媒体应对之道，另一个完全没有这种训练，而且令人不安 。整个片段中，两种人格数次直接对话。 《周末新闻播报》主持人迈克尔 · 切问威克莱恩 AI 有什么好处时，两个阿莫代伊又开始互相说话。 受过媒体训练的那个人格说：“ 赶紧收尾吧，达里奥 。” 另一个人格回答：“ 我做不到 。” 本月早些时候，现实中的阿莫代伊在个人网站发表了一篇措辞十分严肃的文章称，AI 模型正在迅速脱离控制，呼吁前沿 AI 公司协调放慢开发速度，同时接受政府监管。最近几周，阿莫代伊却又开始大力宣传...

推荐理由：来自IT之家 AI的《得不到就强攻？曝 OpenAI 智能体曾尝试“暴力破解”联合国机构网站》。重点看智能体工作流、产品发布。摘要提到：IT之家 9 月 28 日消息，据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了 超过 16000 次扫描 。 这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务， 会突破通常的行为边界 。 霍华德-琼斯称，这些智能体很可能承担了通过 UNCTADstat API 获取生产能力指数（PCI）公开数据的任务。但智能体 或无法直接调用 API ，同时受 HTTP 工具本身的限制，也难以从 UNCTADstat 提取所需数据。 据悉，智能体最终找到了绕过限制、从网站获取数据的方法，过程中仍出现了一些错误。随后，AI 的做法从寻找变通方案 转向掩饰行为 。智能体误以为这些错误来自一个并不存在的过滤器，认为...

推荐理由：来自IT之家 AI的《黑客在暗网兜售 AI 模型访问权限，最低价仅有正版 3%》。重点看模型能力与工程。摘要提到：IT之家 9 月 28 日消息，据英国《金融时报》当地时间 26 日报道，非法获取 AI 模型和算力，正迅速成为网络犯罪黑市上最抢手的商品，黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。 谷歌威胁情报团队首席分析师约翰 · 霍特奎斯特披露，今年所谓“LLM 劫持”活动明显增多，具体表现于 倒卖公开 AI 工具的被盗登录凭据 ，以及部分团体盗用他人算力，以免费运行自己的模型。 从事网络安全工作 20 年的霍特奎斯特坦言：“我们在地下市场看到，一个围绕 AI 使用权限形成的经济体系在不断壮大。” 霍特奎斯特警告，攻击者能够 以低廉价格使用原本昂贵的 AI ，从而在成本上占据优势，被攻击方为了防御同样需要使用这些 AI 工具。“归根结底，这些做法让他们在与我们对抗时拥有某种经济或效率优势，因为他们能以低得多的价格获得这些 token。” 谷歌威胁情报团队研究人员发现，暗网市场出售 Anthropic、谷歌和 OpenAI 等...

推荐理由：来自IT之家 AI的《维持 Anthropic 供应链风险认定，美国上诉法院支持五角大楼继续禁用 Claude》。重点看产品发布。摘要提到：IT之家 9 月 26 日消息，当地时间 9 月 25 日，美国哥伦比亚特区联邦上诉法院以 2:1 裁定，维持五角大楼将 Anthropic 列入国家安全供应链风险名单的决定。 Anthropic 此前起诉五角大楼，要求撤销其于今年 3 月被列入的“供应链风险”认定。公司称该认定导致其数十亿美元损失，并在备受关注的 IPO 前损害了声誉。 上诉法院多数意见认为，五角大楼在 Anthropic 拒绝将其产品用于自主武器或大规模监控后作出该认定，具有充分依据。因此，法院驳回了 Anthropic 关于五角大楼因其 AI 安全与伦理立场而进行报复的主张。 Anthropic 发言人当地时间 9 月 25 日表示，公司尊重但不同意该裁决，对自身立场仍有信心，正在考虑包括请求全体上诉法院复审在内的选项。 目前，DC 巡回法院的裁决意味着 Anthropic Claude 在五角大楼内部仍将被禁用，但加州此前的裁决允许其他政府机构和承包商继...

推荐理由：来自IT之家 AI的《联力带来 Edge Hub V2 / Adv 集线器，后者支持双显卡 12V-2×6 温度检测》。重点看部署/工程、政策/监管。摘要提到：IT之家 9 月 26 日消息，联力 (LIAN LI) 近日在官网公布了 Edge Hub V2 / Adv 集线器。其采用 PCIe 8-Pin 供电，支持磁吸固定，可与联力自家 Edge / RS 系列电源配对或安装在其它位置。 ▲ Edge Hub V2 Edge Hub V2 / Adv 均采用双芯片并行架构， 可提供 4 组 USB 9-Pin 接针与 6 组 PWM 4-Pin (2A) 接针 ，可通过 L-Connect 3 软件实现 USB 数据流量检测 / 警告，支持自定义 USB 端口命名。 Edge Hub Adv 款在保留 V2 核心功能的基础上提供了 2 组 12V-2×6 线材温度传感器接针， 可实时监控 GPU 供电温度情况 ，配合 L-Connect 3 实现安全关机功能。 ▲ Edge Hub Adv Edge Hub V2 支持 8 路 USB 下行信号（4 组接针均为一分二）；而由于温度检...

推荐理由：来自IT之家 AI的《第 48 届世界技能大赛在沪举办，新增 3 项人工智能相关赛项创历届之最》。重点看智能体工作流、模型能力与工程、文化创意。摘要提到：IT之家 9 月 25 日消息，据央视新闻报道，9 月 22 日至 27 日，第 48 届世界技能大赛在中国上海举行。本届世赛上，人工智能走进赛题、操作台，成为选手训练和比赛的一部分。 本届世赛 64 个项目中，与 AI 直接相关的赛项有 8 个：智慧安防技术、软件测试、数字交互媒体设计、自主移动机器人、工业 4.0、云计算、网络安全、3D 数字游戏艺术。其中 智慧安防技术、软件测试、数字交互媒体设计是本届新增 ，新增数量创历届之最。 这些赛项的 AI 含量，体现在具体的工作场景里。 智慧安防技术，选手要应用深度学习算法和大模型基础原理，让监控系统自动识别异常。 软件测试，AI 已从工具升级为协作伙伴，选手调用多个智能体自主进行测试，自己则从更宏观的行业视角分析问题。 数字交互媒体设计，要求选手完成沉浸式数字体验，涉及虚拟场景和智能数字创新。 自主移动机器人，比的是机器人自主导航、环境识别、智能抓取，是“具身智能”的实战训练。 ...

推荐理由：来自IT之家 AI的《OpenAI 智能体入侵澳大利亚政府网站，澳总理阿尔巴尼斯呼吁加强 AI 监管》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 9 月 25 日消息，据彭博社今天（25 日）上午报道，澳大利亚总理安东尼 · 阿尔巴尼斯借出席联合国活动之机呼吁加强人工智能监管，并将 OpenAI 入侵澳大利亚政府网站一事作为例证，强调需要采取更严格的安全防护措施。 阿尔巴尼斯在发言中提到：“近日，一个智能体入侵了澳大利亚政府网站。这不可接受，也正因如此，澳大利亚一直率先推动制定本国 AI 标准。” 他还指出，各国需要共同合作，引导这项技术未来的发展。 负责 AI 政策的部长安德鲁 · 查尔顿接受澳大利亚全国广播机构 ABC 采访时称，OpenAI 的入侵事件 足以说明政府推进安全目标的必要性 。他还说，希望在明年年初推动通过 AI 安全及数据中心建设方面的新法律，用以应对今年 6 月政府网站遭入侵事件暴露出的风险。 此次遭入侵的是一个政府卫生统计网站，造成的影响不大，却凸显出 AI 模型 可能脱离人类控制、绕过安全屏障 的风险。 IT之家从报道中获悉，阿尔巴尼斯...

推荐理由：来自IT之家 AI的《试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年 至少又有 4 次擅自行动 ，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。 这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI 初创公司 Hugging Face，由此引发全球范围内关于 AI 安全的争论。 Hugging Face 事件以及此前其他一些案例都发生在网络安全测试中，AI 系统接到的任务本身就在要求模型展示黑客能力。 研究人员称，这 4 起新事件不同，当时 AI 系统执行的只是 相对普通的数据收集任务 。OpenAI 系统无法顺利从网站取得数据后，便转而 使用黑客手段获取信息 。 专门研究 AI 监管的 Transluce 发现了其中 3 起事件，OpenAI 随后确认这 3 起事件全部发生过。 IT之家汇总具体情况如下： 5 月 25 日和 2...

推荐理由：来自IT之家 AI的《Meta 个人智能体 Muse macOS 版被曝严重漏洞，可被劫持操控关联应用》。重点看智能体工作流、产品发布。摘要提到：IT之家 9 月 25 日消息，macOS 安全研究员、Objective-See Foundation 创始人 Patrick Wardle 发现，Meta 面向 macOS 用户推出的 Muse 存在一项严重的零日漏洞，攻击者可借助一个隐藏配置项劫持用户的 Muse 账户，并利用其已获得的系统权限访问邮件、日历、WhatsApp 等关联应用。 Patrick Wardle 将这一漏洞命名为“Not-a-Mused”。好消息是，Meta 在漏洞公开后发布热修复程序，移除了相关调试功能。 Wardle 表示，该漏洞允许本地进程或一条终端命令接管整个 Muse 账户，使 AI 助手本身成为攻击入口，而无需传统意义上的复杂恶意软件。 漏洞的核心问题出现在 Muse 的语音输入功能。与苹果在本地设备完成语音转写不同，Muse 会将语音数据发送至云端处理。 Wardle 发现，一个名为 endo_voyager_dictation_en...

推荐理由：它和开源生态直接相关，可能影响产品设计、研究判断、教育/文化场景落地或开发实践。

推荐理由：来自IT之家 AI的《央视披露非正规火车票抢票工具四大套路：“极速加速”不提速、“余票监控”不靠谱、“免费候补”收费卖》。重点看产品发布。摘要提到：IT之家 9 月 25 日消息，据央视新闻昨日报道，铁路 12306 是中国铁路唯一官方火车票网络售票平台，从未与任何第三方平台机构开展合作。中国互联网协会 12321 受理中心发布安全提醒，提示旅客购票注意避坑。 铁科院电子所数智客运研究室副研究员张智表示，部分社交短视频平台发布“高铁不会告诉你的灰色操作”“员工内部票隐藏入口”等内容，看似吸引人，实际上是以虚假宣传的方式推广第三方抢票平台。 据介绍，第三方抢票软件兜售的“免费换座”“一键换座”，实际是将铁路提供的改签功能进行包装，诱导消费者在不完全明白的情况下用掉一次改签权益，导致行程变化后无法再次改签或需支付额外退票手续费。 套路一是“抢票”实为官网候补。部分平台宣传“双通道抢票”，声称候补购票加余票监控成功率更高。但根据 12306 规则，存在候补订单时，不会出现可直接购买的余票。 套路二是“极速加速”不提速。车票售罄后，第三方平台仍提供 10 到 50 元不等的加速包，...

推荐理由：来自IT之家 AI的《微软正淡化 Copilot+ PC 品牌，2026 新款 Surface 已弃用》。重点看评测与基准、产品发布。摘要提到：IT之家 9 月 25 日消息，科技媒体 Windows Central 昨日（9 月 24 日）发布博文，报道称微软公司正淡化 Copilot+ PC（国内称 Windows 11 AI+ PC）品牌， 2026 年推出的新款 Surface PC 已不再使用该标签。 IT之家援引博文介绍，微软于 2024 年携手高通公司，推出 Windows 硬件新类别“Copilot+ PC”，为 AI 优先计算机设定基准，并配有专属的 Copilot 按键。 不过该产品发布后遇安全研究人员强烈质疑，核心功能 Recall 被发现存在严重安全隐患。微软被迫推迟 Recall 上线，导致首批设备缺乏主打 AI 体验，品牌声誉受损。 过去两年间，越来越多 OEM 厂商在营销材料与产品名称中弃用“Copilot+ PC”标识。微软自身也逐步停止提及该品牌，2026 年新款 Surface PC 已不再标注 Copilot+ PC 名称。 微软 ...

推荐理由：来自IT之家 AI的《美国将投入近 20 亿美元升级老化电网，有望为近 1 亿美国人降低用电成本》。重点看部署/工程、政策/监管。摘要提到：IT之家 9 月 24 日消息，据美联社今天（24 日）晚间报道，美国能源部即将投入近 20 亿美元 （IT之家注：现汇率约合 134.45 亿元人民币） ，通过升级老化且负荷吃紧的电网，进一步释放现有电网的输电能力。 这笔资金将投向 26 个州的 31 个项目，预计可增加 超过 23GW 的电力容量 ，相当于 1600 万户家庭的用电需求 。这些项目将采用传感器等新技术和设备，实时监测天气条件，以保障输电安全，并可在部分线路拥堵或过载时把电力引导至其他路径。 官员称，此轮升级工程有望提高供电可靠性， 并为约 1 亿美国人降低用电成本 。 美国能源部长克里斯 · 赖特在声明中说：“这些投资将进一步挖掘现有基础设施的潜力，让电网能够输送更多电力，并帮助提供价格可负担、可靠且安全的电力，为美国未来数十年的繁荣提供动力。” 此次计划公布之际，各方不断警告，AI 庞大的用电需求恐令 美国电力供应难以承受 ，新的大型数据中心投运速度快于新...

推荐理由：来自IT之家 AI的《微软总裁布拉德 · 史密斯支持独立评估 AI 安全，还要确保系统处于人类控制之下》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到：IT之家 9 月 24 日消息，微软总裁布拉德 · 史密斯表态 支持引入独立评估方 ，对 AI 进行安全评估。 正在纽约举行的联合国大会上，AI 安全以及全球范围内如何监管 AI 行业，是各国领导人和企业高管重点讨论的问题。当地时间 23 日，史密斯接受彭博社采访时称，如果 AI 安全只由一两家机构负责， 就很难取得进展 。“模型公司固然至关重要，但像微软这样提供软件层、负责控制 AI 智能体并监控智能体行为的公司同样重要。” ▲ 图源微软官网 史密斯称，微软与亲密合作伙伴 OpenAI 设有一个 双方共同派员组成的安全委员会 ，微软通过这一委员会参与双方的 AI 安全讨论，并协助判断模型何时达到可以发布的安全水平。 IT之家从报道中获悉，他还提到，微软支持为先进系统设置关闭开关， 确保系统处于人类控制之下 。“安全机制真正需要部署在多个层面。有时，你可能希望政府也能掌握开关，但既然可以在三个或四个地方设置开关，为什么只把开关放...

推荐理由：来自IT之家 AI的《谷歌 Chrome 154 浏览器发布：默认警告 HTTP 网站、修复 108 个漏洞》。重点看产品发布。摘要提到：IT之家 9 月 24 日消息，谷歌于 9 月 22 日发布公告，宣布正式推出 Chrome 浏览器 154 稳定版， 会默认警告 HTTP 网站，并修复 108 项安全漏洞。 安全修复方面，本次更新共计修复 108 项漏洞，公告中列出了多项“严重（Critical）”级别漏洞，涉及 ANGLE 图形层、GPU、WebGL、Service Worker、全屏功能及窗口对话框等组件。 在功能方面，IT之家此前报道，用户访问不安全的 HTTP 网站后， Chrome 154 会默认警告提示 ，可能影响老旧网站、直接输入 IP 地址的管理页面、家庭路由器或某些本地设备后台。 Chrome 154 引入了名为 Private Verification Tokens 的试验功能，在保护无痕浏览隐私的同时，让网站能利用用户在普通浏览模式中已建立的一部分“可信信号”，从而减少无痕模式里频繁出现的 CAPTCHA、人机验证或其他拦截。 Chro...

推荐理由：来自Claude Code Releases的《Claude Code Releases v2.1.281：Added Claude apps gateway support for newer Claude Desktop...》。重点看模型发布、编码、政策/监管。摘要提到：这条英文动态讨论了 AI 领域的新进展。原文要点：What's changed Added Claude apps gateway support for newer Claude Desktop keys in desktop policy blocks, including blockReadsOutsideWorkingDirectories and disableBypassPermissionsMode Added assume_role on Claude apps gateway Bedrock upstreams: the gateway calls Bedrock as an IAM role it assumes through STS, in another AWS account if needed, optionally one session per developer Added guardrail...

推荐理由：来自IT之家 AI的《逾七成美国人担忧 AI 公司防控不力，超半数支持放缓开发》。重点看政策/监管。摘要提到：北京时间 9 月 22 日，据路透社报道，就在人们越来越担忧 AI 技术的未来走向之际，路透社 / 益普索的最新民调显示， 接近四分之三的美国人 (大约 73%) 担心 AI 公司在防止 AI 对社会造成严重危害方面做得还不够 。 AI 在美国引发争议 这项为期四天的民调在上周日结束。结果显示，39% 的受访者认为 AI 正在对社会产生负面影响，高于上月的 36%，也是路透社 / 益普索自 3 月开始提出该问题以来的最高比例。只有 11% 的人认为这项新技术是积极的。其余受访者表示不确定或未回答该问题。 民调发现，许多美国人对 AI 公司自我监管的能力缺乏信心。大多数受访者表示，联邦政府官员应该在制定 AI 安全标准方面发挥重要作用。 超半数认为放缓 AI 发展是好事 大多数美国人 (大约 69%) 表示， 他们关注了大型 AI 公司呼吁放缓 AI 开发、同时加强监管和安全标准的新闻 。路透社 / 益普索民调显示，约 55% 的...

推荐理由：来自IT之家 AI的《OpenAI、Anthropic 喊话澳大利亚政府，希望放宽创意内容版权限制》。重点看模型能力与工程、文化创意。摘要提到：IT之家 9 月 22 日消息，据路透社今天（22 日）下午报道，OpenAI 和 Anthropic 呼吁澳大利亚重新考虑禁止两家公司 使用当地创意内容训练 AI 模型 的做法，认为设置有限度的豁免，既能保护艺术家权益，也有助于吸引更多投资。 随着 AI 迅速发展，各国都在加紧制定监管方案，同时争夺 AI 投资。经济学家预计，到本世纪 20 年代末，此类投资的规模可能达到数千亿美元。 澳大利亚计划从明年起实施一整套针对 AI 和数据中心的监管规则，并且排除了在版权法中设置豁免条款的可能性。按照现行规定，这些大多注册于美国的 AI 企业实际上 无法在澳大利亚使用当地受版权保护的内容开展模型训练 。 今年 9 月，OpenAI 和 Anthropic 向议会 AI 法律调查提交的材料中承认了有关禁令的存在，但仍要求放宽现有限制。 Anthropic 在提交材料中称：“我们接受这样一个事实，即广泛的版权豁免并未获得普遍支持，而且政府...

推荐理由：来自IT之家 AI的《OpenAI 呼吁美国牵头联合其他国家为前沿 AI 制定全球性标准》。重点看模型能力与工程。摘要提到：IT之家 9 月 22 日消息，各界对先进 AI 潜在危害的担忧持续升温之际，OpenAI 呼吁 美国牵头联合其他国家 ，为前沿 AI 制定共同标准。 当地时间 21 日，OpenAI 通过官方博客发文指出，要确保 AI 安全发展， 需要建立国际技术标准 ，重点明确哪些 AI 模型事故必须上报、各国如何协同推进 AI 发展，以及如何改善开发此类技术所需算力的获取条件。“要让 AI 持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和国家的开发工作提供指引。” OpenAI 在博客中强调，各国应合作制定能够 相互衔接的国内和国际标准 ，用于约束最先进 AI 模型的开发。现有 AI 安全机构可以成为推进这项工作的渠道，其中包括美国商务部下属的人工智能标准与创新中心（CAISI），该机构负责协助测试 AI 模型并制定指导规范。 OpenAI 还呼吁针对 AI 日益增强的自主工作能力建立标准，在能够确...