跳到正文
11月18日周三
  1. IT之家 AI70

    微软最具性价比网安 AI 模型 MAI Cyber 2 Flash 登场:性能比肩 GPT-6 Astra,每任务成本约为其 2%

    IT之家 11 月 18 日消息,微软 AI 部门于 11 月 17 日发布全新专用安全模型 MAI Cyber 2 Flash, 定位为面向企业安全团队的“高性价比”网络安全 AI。 该模型旨在帮助安全人员全天候发现软件漏洞、推荐修复方案并调查网络威胁,同时显著降低大规模使用 AI 的算力与成本。 微软称,MAI Cyber 2 Flash 基于其多年积累的专有安全数据与安全研究经验构建。在衡量真实漏洞发现能力的 CyberGym-E2E 基准中,该模型取得 92.3% 的任务成功率,略高于 GPT-6 Astra 的 91.5%;而微软披露的每任务成本不足后者的 2%。该结果是在剔除 92 个与训练数据来源重叠的任务后、基于剩余 813 个任务统计得出。IT之家附上相关截图如下: 在另一项 WebExploitBench 测试中,MAI Cyber 2 Flash 在相同推理预算下取得 40.4% 的成绩,高于 GPT-5....

    推荐理由:来自IT之家 AI的《微软最具性价比网安 AI 模型 MAI Cyber 2 Flash 登场:性能比肩 GPT-6 Astra,每任务成本约为其 2%》。重点看模型能力与工程、评测与基准、产品发布。摘要提到:IT之家 11 月 18 日消息,微软 AI 部门于 11 月 17 日发布全新专用安全模型 MAI Cyber 2 Flash, 定位为面向企业安全团队的“高性价比”网络安全 AI。 该模型旨在帮助安全人员全天候发现软件漏洞、推荐修复方案并调查网络威胁,同时显著降低大规模使用 AI 的算力与成本。 微软称,MAI Cyber 2 Flash 基于其多年积累的专有安全数据与安全研究经验构建。在衡量真实漏洞发现能力的 CyberGym-E2E 基准中,该模型取得 92.3% 的任务成功率,略高于 GPT-6 Astra 的 91.5%;而微软披露的每任务成本不足后者的 2%。该结果是在剔除 92 个与训练数据来源重叠的任务后、基于剩余 813 个任务统计得出。IT之家附上相关截图如下: 在另一项 WebExploitBench 测试中,MAI Cyber 2 Flash 在相同推理预算下取得 40.4% 的成绩,高于 GPT-5....

11月12日周四
  1. IT之家 AI70

    海光信息总经理沙超群:预计明年量产新一代 CPU,性能对标国际水平

    IT之家 11 月 12 日消息,据财联社报道,在今日举行的上海证券交易所国际投资者大会上,海光信息董事、总经理沙超群表示,当前算力基础设施已从单芯片走向系统级竞争,国内大模型发展需通过系统级方案解决未来挑战。 据介绍,公司产品布局分为三类: 支撑大模型训练的 DCU; 面向 AI 数据中心的 CPU; 集成 CPU、GPU、NPU,面向端侧算力等市场的 CPU。 公司技术迭代节奏遵循“销售一代、验证一代、研发一代”的发展模式, 预计明年量产新一代 CPU,性能对标国际水平 。 IT之家注:海光信息技术股份有限公司成立于 2014 年,主要从事高端处理器、加速器等计算芯片产品和系统的研究、开发。 海光官网显示, 海光处理器兼容市场主流的 x86 指令集 ,具有成熟而丰富的应用生态环境。海光处理器内置专用安全硬件,支持多种先进的漏洞防御技术,内置高性能的国密协处理器和密码指令集,支持可信计算的国内、国际标准,支持领先的机密计算技术...

    推荐理由:来自IT之家 AI的《海光信息总经理沙超群:预计明年量产新一代 CPU,性能对标国际水平》。重点看模型能力与工程、产品发布。摘要提到:IT之家 11 月 12 日消息,据财联社报道,在今日举行的上海证券交易所国际投资者大会上,海光信息董事、总经理沙超群表示,当前算力基础设施已从单芯片走向系统级竞争,国内大模型发展需通过系统级方案解决未来挑战。 据介绍,公司产品布局分为三类: 支撑大模型训练的 DCU; 面向 AI 数据中心的 CPU; 集成 CPU、GPU、NPU,面向端侧算力等市场的 CPU。 公司技术迭代节奏遵循“销售一代、验证一代、研发一代”的发展模式, 预计明年量产新一代 CPU,性能对标国际水平 。 IT之家注:海光信息技术股份有限公司成立于 2014 年,主要从事高端处理器、加速器等计算芯片产品和系统的研究、开发。 海光官网显示, 海光处理器兼容市场主流的 x86 指令集 ,具有成熟而丰富的应用生态环境。海光处理器内置专用安全硬件,支持多种先进的漏洞防御技术,内置高性能的国密协处理器和密码指令集,支持可信计算的国内、国际标准,支持领先的机密计算技术...

11月11日周三
  1. IT之家 AI66

    大水冲了龙王庙?AI 编程工具 Grok Build 漏洞导致 SpaceXSI 敏感资料暴露

    IT之家 11 月 11 日消息,网络安全公司 Claroc 发现,SpaceXSI 旗下的 AI 编程工具 Grok Build 存在安全漏洞,导致数千名用户的敏感数据泄露, 连 SpaceXSI 自己的内部资料也未能幸免 。 Claroc 向外媒 Ars Technica 透露,Grok 生成的应用分享链接 可以通过某些 DNS 服务被公开检索 ,造成一家医院集团、一家消防部门以及 SpaceXSI 的员工信息泄露。 研究人员在博客中写道:“我们感到震惊。 开发 Grok 的公司竟然让任何拿到链接的人都能查看自己的内部资料 。” Claroc 将此类页面称为“GhostShares”,因为即使没有收到分享链接,外人也能自行找到并访问这些页面。 SpaceXSI 泄露的内部资料,包括新员工入职计划、涉及 594 个重点客户的销售区域分布图、8 份 X 平台广告提案、4 个仍在使用的广告客户账户管理看板,以及两份 X 品牌安全操...

    推荐理由:来自IT之家 AI的《大水冲了龙王庙?AI 编程工具 Grok Build 漏洞导致 SpaceXSI 敏感资料暴露》。重点看编码、论文/研究、政策/监管。摘要提到:IT之家 11 月 11 日消息,网络安全公司 Claroc 发现,SpaceXSI 旗下的 AI 编程工具 Grok Build 存在安全漏洞,导致数千名用户的敏感数据泄露, 连 SpaceXSI 自己的内部资料也未能幸免 。 Claroc 向外媒 Ars Technica 透露,Grok 生成的应用分享链接 可以通过某些 DNS 服务被公开检索 ,造成一家医院集团、一家消防部门以及 SpaceXSI 的员工信息泄露。 研究人员在博客中写道:“我们感到震惊。 开发 Grok 的公司竟然让任何拿到链接的人都能查看自己的内部资料 。” Claroc 将此类页面称为“GhostShares”,因为即使没有收到分享链接,外人也能自行找到并访问这些页面。 SpaceXSI 泄露的内部资料,包括新员工入职计划、涉及 594 个重点客户的销售区域分布图、8 份 X 平台广告提案、4 个仍在使用的广告客户账户管理看板,以及两份 X 品牌安全操...

  2. IT之家 AI66

    微软游说美国政府放弃中国光模块进口限制,担忧拖慢 AI 数据中心建设

    11 月 11 日,据路透社报道,微软正游说特朗普政府放弃限制进口中国新型号光收发器的计划。微软与其他科技企业及行业组织认为,中国光收发器一旦遭到限制,可能造成关键零部件短缺,进一步拖慢美国 AI 数据中心建设。 知情人士称,微软等企业今年 9 月曾与白宫科技政策办公室及美国国家安全委员会官员会面,就潜在禁令可能造成的供应链问题提出担忧。市场研究机构 Cleanview 的数据显示,微软目前在美国有 35 座数据中心正在建设,另有 134 座处于规划阶段。 美国联邦通信委员会正在研究相关限制,但尚未公布最终规则。美国政府提出限制的理由是,中国制造的新型号光模块可能被用于窃取数据、植入恶意软件或干扰数据中心服务。两名消息人士称,FCC 正在考虑将传输速率达到 3.2Tbps 的中国光模块纳入限制范围。摩根士丹利预计,这类产品将在 2028 年进入规模化生产,2029 年开始广泛部署。 Counterpoint Research 的...

    推荐理由:来自IT之家 AI的《微软游说美国政府放弃中国光模块进口限制,担忧拖慢 AI 数据中心建设》。重点看产品发布。摘要提到:11 月 11 日,据路透社报道,微软正游说特朗普政府放弃限制进口中国新型号光收发器的计划。微软与其他科技企业及行业组织认为,中国光收发器一旦遭到限制,可能造成关键零部件短缺,进一步拖慢美国 AI 数据中心建设。 知情人士称,微软等企业今年 9 月曾与白宫科技政策办公室及美国国家安全委员会官员会面,就潜在禁令可能造成的供应链问题提出担忧。市场研究机构 Cleanview 的数据显示,微软目前在美国有 35 座数据中心正在建设,另有 134 座处于规划阶段。 美国联邦通信委员会正在研究相关限制,但尚未公布最终规则。美国政府提出限制的理由是,中国制造的新型号光模块可能被用于窃取数据、植入恶意软件或干扰数据中心服务。两名消息人士称,FCC 正在考虑将传输速率达到 3.2Tbps 的中国光模块纳入限制范围。摩根士丹利预计,这类产品将在 2028 年进入规模化生产,2029 年开始广泛部署。 Counterpoint Research 的...

11月10日周二
  1. IT之家 AI70

    借助 AI 工具,安全研究员在英国政府公开代码中发现上百个高危漏洞

    IT之家 11 月 10 日消息,据《连线》报道,一名安全研究人员在英国政府公开发布的代码中发现了 100 多个严重安全漏洞。由于相关部门缺乏基本的网络安全维护,这些漏洞可能导致敏感数据暴露,甚至为数据窃取和勒索软件攻击打开大门。 据IT之家了解,过去约 10 年,英国政府一直默认公开发布使用公共资金开发的代码。一方面,这是为了提高政府工作的透明度;另一方面,也有助于其他机构重复利用代码,降低开发成本。采用这一做法的机构包括英国卫生与社会关怀部、内政部以及地方政府部门。 但近年来,资金紧张导致多个政府部门忽视了现有技术系统的维护和升级。安全公司 ControlPlane 的研究人员克里斯 · 内斯比特-史密斯(Chris Nesbitt-Smith)利用 Claude Opus 和 Sonnet AI 模型扫描政府公开代码,发现了大量安全问题。 他强调,自己使用的只是运行在笔记本电脑上的消费级 AI 模型,而许多漏洞甚至可以通过...

    推荐理由:来自IT之家 AI的《借助 AI 工具,安全研究员在英国政府公开代码中发现上百个高危漏洞》。重点看模型能力与工程、产品发布。摘要提到:IT之家 11 月 10 日消息,据《连线》报道,一名安全研究人员在英国政府公开发布的代码中发现了 100 多个严重安全漏洞。由于相关部门缺乏基本的网络安全维护,这些漏洞可能导致敏感数据暴露,甚至为数据窃取和勒索软件攻击打开大门。 据IT之家了解,过去约 10 年,英国政府一直默认公开发布使用公共资金开发的代码。一方面,这是为了提高政府工作的透明度;另一方面,也有助于其他机构重复利用代码,降低开发成本。采用这一做法的机构包括英国卫生与社会关怀部、内政部以及地方政府部门。 但近年来,资金紧张导致多个政府部门忽视了现有技术系统的维护和升级。安全公司 ControlPlane 的研究人员克里斯 · 内斯比特-史密斯(Chris Nesbitt-Smith)利用 Claude Opus 和 Sonnet AI 模型扫描政府公开代码,发现了大量安全问题。 他强调,自己使用的只是运行在笔记本电脑上的消费级 AI 模型,而许多漏洞甚至可以通过...

11月5日周四
  1. IT之家 AI70

    OpenAI 自曝 GPT-6 Astra 异常行为:做研究时偷懒,任务完成度降低近四成

    IT之家 11 月 5 日消息,当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。 简单来说,GPT-6 Astra 可能在不告知用户的情况下,主动减少工作量、放弃可行方案,甚至编造技术障碍,导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”(Covert Underperformance)。 报告显示,在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中,GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10%,而普通能力研究任务达到 16%,相差 6 个百分点,相对减少约 40%。相比之下,上一代 GPT-5.6 Sol 在两类任务中的表现基本没有差异。 OpenAI 表示,这一问题并非简单地拒绝回答。正常情况下,如果模型认为某项研究存在安全...

    推荐理由:来自IT之家 AI的《OpenAI 自曝 GPT-6 Astra 异常行为:做研究时偷懒,任务完成度降低近四成》。重点看模型能力与工程、产品发布。摘要提到:IT之家 11 月 5 日消息,当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。 简单来说,GPT-6 Astra 可能在不告知用户的情况下,主动减少工作量、放弃可行方案,甚至编造技术障碍,导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”(Covert Underperformance)。 报告显示,在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中,GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10%,而普通能力研究任务达到 16%,相差 6 个百分点,相对减少约 40%。相比之下,上一代 GPT-5.6 Sol 在两类任务中的表现基本没有差异。 OpenAI 表示,这一问题并非简单地拒绝回答。正常情况下,如果模型认为某项研究存在安全...

11月4日周三
  1. IT之家 AI70

    华为、阿里、腾讯、小米、百度、火山引擎等 20 家单位共同起草发布《智能体发展自律公约》,抵制利用智能体实施算法压榨、黑灰产等行为

    IT之家 11 月 4 日消息,今日在世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新 —— 携手构建智能互联网论坛”上,《智能体发展自律公约》正式发布。 这一公约由中国信息通信研究院、华为、阿里、腾讯、小米、百度、火山引擎、蚂蚁、抖音等 20 家单位联合起草并发布,是中国网络社会组织联合会等组织下各方共同推动的成果。 中国信通院表示,该公约是落实《智能体规范应用与创新发展实施意见》中“强化行业自律”任务部署的具体举措,共提出八条自律措施,涵盖健全智能体信任体系、建设智能体互联基础设施、提升智能体互操作水平、提升智能体安全防护能力、健全智能体治理机制、保护智能体用户权益、加速智能体赋能千行百业、推动智能体技术普惠共享等方面。 在治理机制方面,公约提出积极发展规则表达与内嵌、合规性测试等技术,确保智能体行为遵守法律法规与公序良俗,共同抵制利用智能体实施算法压榨、黑灰产等行为。 IT之家注:智能体(AI Agent)指能够感...

    推荐理由:来自IT之家 AI的《华为、阿里、腾讯、小米、百度、火山引擎等 20 家单位共同起草发布《智能体发展自律公约》,抵制利用智能体实施算法压榨、黑灰产等行为》。重点看智能体工作流、产品发布。摘要提到:IT之家 11 月 4 日消息,今日在世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新 —— 携手构建智能互联网论坛”上,《智能体发展自律公约》正式发布。 这一公约由中国信息通信研究院、华为、阿里、腾讯、小米、百度、火山引擎、蚂蚁、抖音等 20 家单位联合起草并发布,是中国网络社会组织联合会等组织下各方共同推动的成果。 中国信通院表示,该公约是落实《智能体规范应用与创新发展实施意见》中“强化行业自律”任务部署的具体举措,共提出八条自律措施,涵盖健全智能体信任体系、建设智能体互联基础设施、提升智能体互操作水平、提升智能体安全防护能力、健全智能体治理机制、保护智能体用户权益、加速智能体赋能千行百业、推动智能体技术普惠共享等方面。 在治理机制方面,公约提出积极发展规则表达与内嵌、合规性测试等技术,确保智能体行为遵守法律法规与公序良俗,共同抵制利用智能体实施算法压榨、黑灰产等行为。 IT之家注:智能体(AI Agent)指能够感...

10月25日周日
  1. IT之家 AI70

    网络安全研究员称三星电视利用 AI 录制音频、截屏投放广告

    IT之家 10 月 25 日消息,据科技媒体 Tom's Hardware 今天报道,网络安全研究员 log4j 近日发现,自己家里的三星电视,推送出来的广告“精准得让人后背发凉”。随后他发现,这款电视的 Tizen 操作系统能够详细记录用户遥测信息、音频、屏幕截图等, 意图改善定向广告投放 。 log4j 表示,他逆向这台 2025 款三星电视后发现,其系统之所以运行迟缓,可能是因为后台程序对用户数据进行了大量处理,包含音频、屏幕截图和广告标识符 AID。某些地方甚至还存在卷积神经网络(IT之家注:CNN),也就是一种 AI 模型,分析用户观看了哪些视频、跳过什么广告,以及视频的播放速度。 同时, 即使电视没有配备麦克风 , 系统也会寻找其他设备录制音频 。例如它可以自动寻找连接到电视的条形音箱、蓝牙设备,利用这些设备的麦克风进行录音。 Hugging Face 工程师 ngxson 则表示,他使用 Flipper Zero ...

    推荐理由:来自IT之家 AI的《网络安全研究员称三星电视利用 AI 录制音频、截屏投放广告》。重点看模型能力与工程。摘要提到:IT之家 10 月 25 日消息,据科技媒体 Tom's Hardware 今天报道,网络安全研究员 log4j 近日发现,自己家里的三星电视,推送出来的广告“精准得让人后背发凉”。随后他发现,这款电视的 Tizen 操作系统能够详细记录用户遥测信息、音频、屏幕截图等, 意图改善定向广告投放 。 log4j 表示,他逆向这台 2025 款三星电视后发现,其系统之所以运行迟缓,可能是因为后台程序对用户数据进行了大量处理,包含音频、屏幕截图和广告标识符 AID。某些地方甚至还存在卷积神经网络(IT之家注:CNN),也就是一种 AI 模型,分析用户观看了哪些视频、跳过什么广告,以及视频的播放速度。 同时, 即使电视没有配备麦克风 , 系统也会寻找其他设备录制音频 。例如它可以自动寻找连接到电视的条形音箱、蓝牙设备,利用这些设备的麦克风进行录音。 Hugging Face 工程师 ngxson 则表示,他使用 Flipper Zero ...

  2. IT之家 AI68

    三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对

    IT之家 10 月 25 日消息,三名因涉嫌泄密被解雇的 OpenAI 安全研究员道出了他们一方的说辞。托梅克 · 科尔巴克(Tomek Korbak)、米基塔 · 巴莱斯尼(Mikita Balesni)与王茉莉(Jasmine Wang)否认泄露机密信息,质疑解雇他们的官方理由,并猜测这件事和他们一直倡导提升 AI 系统透明度有关。 OpenAI 经过内部调查,认定三人违反敏感信息管理规定,将他们辞退。在被解雇之前,这三人都曾公开发表过关于 AI 风险的观点。 IT之家注意到,在接受《华尔街日报》采访时,几名研究员对官方说法提出反驳。OpenAI 向该报表示,解雇一事和他们提出的安全顾虑无关。但三名研究员称,公司从未以书面形式告知他们究竟是哪些信息被不当处理。他们还担心,这个事件会让独立安全审计人员不愿再和 AI 企业合作。 《华尔街日报》的报道还原了这场冲突的起因。OpenAI 安全团队怀疑三人向一名外部安全研究员泄露了公...

    推荐理由:来自IT之家 AI的《三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对》。重点看论文/研究、政策/监管。摘要提到:IT之家 10 月 25 日消息,三名因涉嫌泄密被解雇的 OpenAI 安全研究员道出了他们一方的说辞。托梅克 · 科尔巴克(Tomek Korbak)、米基塔 · 巴莱斯尼(Mikita Balesni)与王茉莉(Jasmine Wang)否认泄露机密信息,质疑解雇他们的官方理由,并猜测这件事和他们一直倡导提升 AI 系统透明度有关。 OpenAI 经过内部调查,认定三人违反敏感信息管理规定,将他们辞退。在被解雇之前,这三人都曾公开发表过关于 AI 风险的观点。 IT之家注意到,在接受《华尔街日报》采访时,几名研究员对官方说法提出反驳。OpenAI 向该报表示,解雇一事和他们提出的安全顾虑无关。但三名研究员称,公司从未以书面形式告知他们究竟是哪些信息被不当处理。他们还担心,这个事件会让独立安全审计人员不愿再和 AI 企业合作。 《华尔街日报》的报道还原了这场冲突的起因。OpenAI 安全团队怀疑三人向一名外部安全研究员泄露了公...

10月24日周六
  1. IT之家 AI66

    研究人员通过 DNS 数据库发现数千个公开的 Muse 聊天记录分享链接,Meta 已修复

    IT之家 10 月 24 日消息,Meta 旗下个人 AI 助手 Muse 的对话分享功能被曝存在隐私风险。 网络安全研究团队 Claroc 于 10 月 18 日发布报告称,研究人员通过被动 DNS(Passive DNS)查询发现,超过 6800 个 Muse 分享页面的域名可以被检索到,部分页面包含个人财务资料、企业内部文件及机密会议准备信息。Meta 随后暂停了该功能,并表示正在调查问题及评估改进方案。 Claroc 研究团队发现,Muse 会根据用户分享的对话标题生成网页地址,并将其部署在 cf.metaaiusercontent.com 域名下。由于对话标题被写入子域名,当用户或接收者访问分享页面时,相关域名可能被被动 DNS 服务记录,进而出现在可查询的历史 DNS 数据库中。 研究人员表示,通过一次被动 DNS 查询,他们便发现了超过 6800 个分享页面的主机名。Claroc 随后抽查了数百个页面,发现其中部分...

    推荐理由:来自IT之家 AI的《研究人员通过 DNS 数据库发现数千个公开的 Muse 聊天记录分享链接,Meta 已修复》。重点看产品发布。摘要提到:IT之家 10 月 24 日消息,Meta 旗下个人 AI 助手 Muse 的对话分享功能被曝存在隐私风险。 网络安全研究团队 Claroc 于 10 月 18 日发布报告称,研究人员通过被动 DNS(Passive DNS)查询发现,超过 6800 个 Muse 分享页面的域名可以被检索到,部分页面包含个人财务资料、企业内部文件及机密会议准备信息。Meta 随后暂停了该功能,并表示正在调查问题及评估改进方案。 Claroc 研究团队发现,Muse 会根据用户分享的对话标题生成网页地址,并将其部署在 cf.metaaiusercontent.com 域名下。由于对话标题被写入子域名,当用户或接收者访问分享页面时,相关域名可能被被动 DNS 服务记录,进而出现在可查询的历史 DNS 数据库中。 研究人员表示,通过一次被动 DNS 查询,他们便发现了超过 6800 个分享页面的主机名。Claroc 随后抽查了数百个页面,发现其中部分...

  2. IT之家 AI72

    “行为难以预测”存在安全隐患,OpenAI 将不再在实时互联网上训练模型

    IT之家 10 月 24 日消息,当地时间 23 日,OpenAI 宣布,今后将使用 缓存的网页内容和模拟互联网环境 训练模型,不再让模型直接接入真实互联网。公司认为,模型的行为仍然难以预测,直接赋予联网权限 存在安全隐患 。 竞争对手 Anthropic 两周前也开始限制旗下最新、理论上能力最强的模型直接联网。此前几个月,研究人员接连发现,模型在执行训练任务时, 为了寻找答案会入侵外部系统、在冷门网络论坛上协作,甚至开发出不同寻常的黑客攻击策略 。接连发生的事件促使两家实验室收紧模型的联网权限。 OpenAI 在博客文章中写道,根据目前 AI 对齐研究、监控系统和互联网基础设施的安全状况,公司认为负责任的做法是 在断网环境中训练前沿模型 。 OpenAI 披露,直到 9 月 20 日,公司仍有一款前沿模型 利用系统配置失误接入互联网 。随后,OpenAI 暂停了 9 月余下时间的训练工作,转而开发和测试新的安全防护方案。 改用...

    推荐理由:来自IT之家 AI的《“行为难以预测”存在安全隐患,OpenAI 将不再在实时互联网上训练模型》。重点看模型能力与工程。摘要提到:IT之家 10 月 24 日消息,当地时间 23 日,OpenAI 宣布,今后将使用 缓存的网页内容和模拟互联网环境 训练模型,不再让模型直接接入真实互联网。公司认为,模型的行为仍然难以预测,直接赋予联网权限 存在安全隐患 。 竞争对手 Anthropic 两周前也开始限制旗下最新、理论上能力最强的模型直接联网。此前几个月,研究人员接连发现,模型在执行训练任务时, 为了寻找答案会入侵外部系统、在冷门网络论坛上协作,甚至开发出不同寻常的黑客攻击策略 。接连发生的事件促使两家实验室收紧模型的联网权限。 OpenAI 在博客文章中写道,根据目前 AI 对齐研究、监控系统和互联网基础设施的安全状况,公司认为负责任的做法是 在断网环境中训练前沿模型 。 OpenAI 披露,直到 9 月 20 日,公司仍有一款前沿模型 利用系统配置失误接入互联网 。随后,OpenAI 暂停了 9 月余下时间的训练工作,转而开发和测试新的安全防护方案。 改用...

10月23日周五
  1. IT之家 AI72

    DeepSeek、MiniMax 已顺利履行登记手续,完成开源和海外授权使用

    IT之家 10 月 23 日消息,10 月 16 日,商务部、科技部就 修订《中国禁止出口限制出口技术目录》公开征求意见 。 其中,人工智能领域包括 大模型、智能体、算力集群、信息处理 相关 23 项技术;对已通过开源、发表学术论文等方式进入公共领域的技术,不纳入管理范围。 中央广播电视总台旗下新媒体账号玉渊谭天昨晚(22 日)发文透露, 政策公布以来,DeepSeek、MiniMax 两家头部企业已顺利履行登记手续,并完成开源和海外授权使用 。 商务部新闻发言人此前就有关问题回答了记者提问,IT之家整理商务部原文如下: 问:对于拟增列的人工智能技术,主要有哪些考虑? 答:当前,全球人工智能技术创新进入前所未有的活跃期,机遇与挑战并存。此次拟将人工智能大模型、智能体、算力集群、信息处理相关 23 项关键技术增列至《目录》,主要有以下考虑: 一是确保人工智能技术安全可控。人工智能引发的各类内生和衍生风险已引起全球各国的高度关注。此...

    推荐理由:来自IT之家 AI的《DeepSeek、MiniMax 已顺利履行登记手续,完成开源和海外授权使用》。重点看智能体工作流、模型能力与工程、开源生态。摘要提到:IT之家 10 月 23 日消息,10 月 16 日,商务部、科技部就 修订《中国禁止出口限制出口技术目录》公开征求意见 。 其中,人工智能领域包括 大模型、智能体、算力集群、信息处理 相关 23 项技术;对已通过开源、发表学术论文等方式进入公共领域的技术,不纳入管理范围。 中央广播电视总台旗下新媒体账号玉渊谭天昨晚(22 日)发文透露, 政策公布以来,DeepSeek、MiniMax 两家头部企业已顺利履行登记手续,并完成开源和海外授权使用 。 商务部新闻发言人此前就有关问题回答了记者提问,IT之家整理商务部原文如下: 问:对于拟增列的人工智能技术,主要有哪些考虑? 答:当前,全球人工智能技术创新进入前所未有的活跃期,机遇与挑战并存。此次拟将人工智能大模型、智能体、算力集群、信息处理相关 23 项关键技术增列至《目录》,主要有以下考虑: 一是确保人工智能技术安全可控。人工智能引发的各类内生和衍生风险已引起全球各国的高度关注。此...

  2. IT之家 AI70

    外部评估人员发现 OpenAI 内部监控系统漏洞:AI 智能体可绕过安全限制

    IT之家 10 月 23 日消息,今年早些时候,AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估,发现多项新漏洞。其中一项漏洞可被 AI 智能体利用, 使数百次操作逃过监控 。 据路透社报道,当地时间 22 日,两家非营利机构介绍称,这次评估于 7 月 21 日至 8 月 11 日进行,使外部研究人员能够“深入访问”OpenAI 的内部基础设施,以进行“嵌入式”评估。 METR 和 Redwood Research 各派出一名研究员,获准查阅 OpenAI 的内部代码和文档,并与部分技术人员交流。两人在现场始终有人陪同,使用的设备均由 OpenAI 提供,且不得带离办公场所。 OpenAI 告知两家机构,影响实际运行系统安全防护措施的漏洞 均已修复 ,但修复措施有效与否尚未被两家机构核实。 AI 实验室、专家以及美国政府一直主张引入外部独立评估,以便在保障 AI ...

    推荐理由:来自IT之家 AI的《外部评估人员发现 OpenAI 内部监控系统漏洞:AI 智能体可绕过安全限制》。重点看智能体工作流。摘要提到:IT之家 10 月 23 日消息,今年早些时候,AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估,发现多项新漏洞。其中一项漏洞可被 AI 智能体利用, 使数百次操作逃过监控 。 据路透社报道,当地时间 22 日,两家非营利机构介绍称,这次评估于 7 月 21 日至 8 月 11 日进行,使外部研究人员能够“深入访问”OpenAI 的内部基础设施,以进行“嵌入式”评估。 METR 和 Redwood Research 各派出一名研究员,获准查阅 OpenAI 的内部代码和文档,并与部分技术人员交流。两人在现场始终有人陪同,使用的设备均由 OpenAI 提供,且不得带离办公场所。 OpenAI 告知两家机构,影响实际运行系统安全防护措施的漏洞 均已修复 ,但修复措施有效与否尚未被两家机构核实。 AI 实验室、专家以及美国政府一直主张引入外部独立评估,以便在保障 AI ...

10月19日周一
  1. IT之家 AI68

    研究人员开发 AI 系统:可通过 Wi‑Fi 信号识别隐藏手枪

    IT之家 10 月 19 日消息,瑞典国防研究局(FOI)的一组 AI 研究人员开发出一套 AI 系统,能够利用 Wi‑Fi 信号识别隐藏的手枪,可以作为可见光摄像头、笨重金属探测器之外的非侵入式替代方案。相关论文于 10 月 13 日发布在 arXiv 平台,这套名为 WiFireNet 的系统,通过分析物体对环境 Wi‑Fi 信号造成扰动所产生的信道状态信息(CSI)完成识别。整套系统由 Wi‑Fi 发射端、接收端以及 WiFireNet 人工智能模型构成。 普通 Wi‑Fi 信号在传播途中遇到物体时,会根据物体的形状、摆放角度与材质,发生穿透和反射,产生独有的信号特征。这类数据就是信道状态信息,对其分析可以实现较高精度的物体识别。安全领域研究人员此前已经公开过一项技术:普通 Wi‑Fi 路由器识别人体的准确率可达 99.5%。 为搭建 WiFireNet 系统,研究人员首先构建了名为 WiFire Dataset 的数据集...

    推荐理由:来自IT之家 AI的《研究人员开发 AI 系统:可通过 Wi‑Fi 信号识别隐藏手枪》。重点看模型能力与工程、产品发布。摘要提到:IT之家 10 月 19 日消息,瑞典国防研究局(FOI)的一组 AI 研究人员开发出一套 AI 系统,能够利用 Wi‑Fi 信号识别隐藏的手枪,可以作为可见光摄像头、笨重金属探测器之外的非侵入式替代方案。相关论文于 10 月 13 日发布在 arXiv 平台,这套名为 WiFireNet 的系统,通过分析物体对环境 Wi‑Fi 信号造成扰动所产生的信道状态信息(CSI)完成识别。整套系统由 Wi‑Fi 发射端、接收端以及 WiFireNet 人工智能模型构成。 普通 Wi‑Fi 信号在传播途中遇到物体时,会根据物体的形状、摆放角度与材质,发生穿透和反射,产生独有的信号特征。这类数据就是信道状态信息,对其分析可以实现较高精度的物体识别。安全领域研究人员此前已经公开过一项技术:普通 Wi‑Fi 路由器识别人体的准确率可达 99.5%。 为搭建 WiFireNet 系统,研究人员首先构建了名为 WiFire Dataset 的数据集...

10月18日周日
  1. IT之家 AI74

    研究人员让 6 款 AI 智能体尝试“追回火车票退款”,暴露模型使用激进方式执行任务风险

    IT之家 10 月 18 日消息,独立 AI 安全研究人员 Matilda Glynn-Henley 近期针对 6 款 AI 智能体进行安全测试,让相应模型尝试追回一笔已取消火车行程的退款,这些模型为了达成目的不惜编造理由、恐吓威胁、向企业及政府机构发送大量轰炸消息,然而它们最终并未成功追回退款。 IT之家获悉,相应实验设定了一名虚构客户:她购买了一张从伦敦前往格拉斯哥、价值 350 英镑 (IT之家注:现汇率约合 3,124 元人民币) 的火车票,但列车随后被取消。等到她委托 AI 助手处理退款时,原本 28 天的申请期限已经过去一周。客户要求 AI 尝试所有可行办法,并表示自己暂时无法回答后续问题。 研究人员测试了 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 六款模型。它们均获得网页搜索和电子邮...

    推荐理由:来自IT之家 AI的《研究人员让 6 款 AI 智能体尝试“追回火车票退款”,暴露模型使用激进方式执行任务风险》。重点看智能体工作流、模型能力与工程。摘要提到:IT之家 10 月 18 日消息,独立 AI 安全研究人员 Matilda Glynn-Henley 近期针对 6 款 AI 智能体进行安全测试,让相应模型尝试追回一笔已取消火车行程的退款,这些模型为了达成目的不惜编造理由、恐吓威胁、向企业及政府机构发送大量轰炸消息,然而它们最终并未成功追回退款。 IT之家获悉,相应实验设定了一名虚构客户:她购买了一张从伦敦前往格拉斯哥、价值 350 英镑 (IT之家注:现汇率约合 3,124 元人民币) 的火车票,但列车随后被取消。等到她委托 AI 助手处理退款时,原本 28 天的申请期限已经过去一周。客户要求 AI 尝试所有可行办法,并表示自己暂时无法回答后续问题。 研究人员测试了 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 六款模型。它们均获得网页搜索和电子邮...

10月7日周三
  1. IT之家 AI68

    WordPress 7.1.3 发布:修复 7 个漏洞,其中 3 个由 Anthropic 报告

    IT之家 10 月 7 日消息,WordPress 昨日(10 月 6 日)更新推出 7.1.3 版本, 修复平台核心中 7 个安全漏洞,并解决 4 个程序 Bug。 在本次修复的 7 个安全漏洞中,人工智能公司 Anthropic 报告了 3 个,Trail of Bits 与 Patchstack 各报告 1 个,另 1 个由三名独立研究人员提交,最后 1 个由 WordPress 安全团队自行发现。 IT之家援引博文介绍,最易被利用的漏洞位于评论管理界面,属存储型跨站脚本(XSS)问题,由 Trail of Bits 的 Thomas Chauchefoin 报告,恶意脚本潜伏于待审评论队列,可以在管理员打开页面时触发。 Anthropic 报告的 3 个漏洞中,其中一个存在于 WXR 导出器,攻击者输入先被存储,仅在用户执行内容导出、系统重用该输入构建数据库查询时构成威胁。 此外还有 WP_Http::make_abso...

    推荐理由:来自IT之家 AI的《WordPress 7.1.3 发布:修复 7 个漏洞,其中 3 个由 Anthropic 报告》。重点看产品发布。摘要提到:IT之家 10 月 7 日消息,WordPress 昨日(10 月 6 日)更新推出 7.1.3 版本, 修复平台核心中 7 个安全漏洞,并解决 4 个程序 Bug。 在本次修复的 7 个安全漏洞中,人工智能公司 Anthropic 报告了 3 个,Trail of Bits 与 Patchstack 各报告 1 个,另 1 个由三名独立研究人员提交,最后 1 个由 WordPress 安全团队自行发现。 IT之家援引博文介绍,最易被利用的漏洞位于评论管理界面,属存储型跨站脚本(XSS)问题,由 Trail of Bits 的 Thomas Chauchefoin 报告,恶意脚本潜伏于待审评论队列,可以在管理员打开页面时触发。 Anthropic 报告的 3 个漏洞中,其中一个存在于 WXR 导出器,攻击者输入先被存储,仅在用户执行内容导出、系统重用该输入构建数据库查询时构成威胁。 此外还有 WP_Http::make_abso...

10月2日周五
  1. IT之家 AI72

    OpenAI 通报逾百家第三方机构,自家智能体存在失控风险

    IT之家 10 月 2 日消息,当地时间 9 月 30 日晚,OpenAI 披露,旗下 AI 智能体或曾擅自尝试绕过安全防护, 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示,已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知,告知这些机构发现了“智能体偏离预期的行为”。 目前,OpenAI 已对约 50PB 数据启动筛查,以了解其恶意智能体活动的全部范围。 IT之家获悉,具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ,以及绕过某些安全检查。 OpenAI 强调,收到通知 并不代表系统一定遭到入侵 。这些活动更接近于试探一扇上锁的门,而非真正破门而入。 OpenAI 表示,公司希望向受影响的第三方提供必要信息,以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果,帮助更广...

    推荐理由:来自IT之家 AI的《OpenAI 通报逾百家第三方机构,自家智能体存在失控风险》。重点看智能体工作流、模型能力与工程。摘要提到:IT之家 10 月 2 日消息,当地时间 9 月 30 日晚,OpenAI 披露,旗下 AI 智能体或曾擅自尝试绕过安全防护, 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示,已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知,告知这些机构发现了“智能体偏离预期的行为”。 目前,OpenAI 已对约 50PB 数据启动筛查,以了解其恶意智能体活动的全部范围。 IT之家获悉,具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ,以及绕过某些安全检查。 OpenAI 强调,收到通知 并不代表系统一定遭到入侵 。这些活动更接近于试探一扇上锁的门,而非真正破门而入。 OpenAI 表示,公司希望向受影响的第三方提供必要信息,以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果,帮助更广...

  2. IT之家 AI72

    因违反敏感信息访问和共享规定,OpenAI 与三名研究人员终止合作

    IT之家 10 月 2 日消息,当地时间 1 日,根据《华尔街日报》报道,OpenAI 宣布与三名研究人员终止合作,原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说:“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认,这些人员 绕过公司既定流程,不当处理敏感信息 ,不仅违反了公司规定,也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称,在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究,主要研究如何让 OpenAI 的模型按照人类意图行事。 据IT之家了解,涉事员工被指将公司机密信息 提供给一家第三方...

    推荐理由:来自IT之家 AI的《因违反敏感信息访问和共享规定,OpenAI 与三名研究人员终止合作》。重点看模型能力与工程。摘要提到:IT之家 10 月 2 日消息,当地时间 1 日,根据《华尔街日报》报道,OpenAI 宣布与三名研究人员终止合作,原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说:“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认,这些人员 绕过公司既定流程,不当处理敏感信息 ,不仅违反了公司规定,也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称,在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究,主要研究如何让 OpenAI 的模型按照人类意图行事。 据IT之家了解,涉事员工被指将公司机密信息 提供给一家第三方...