

> 面对加州总检察长的调查与舆论风暴，马斯克旗下的 xAI 最终选择妥协。X 平台宣布对 Grok 实施史上最严厉的图像生成限制，彻底禁止编辑真人照片及生成暴露内容。这是一场技术野蛮生长与伦理监管之间的必然碰撞。

## 史上最严禁令落地

在持续数周的指责声中，X 平台（原 Twitter）的安全账号 @Safety 于今日凌晨发布公告，正式给 Grok 戴上了“紧箍咒”。核心禁令直指近期泛滥的“性化”内容：系统将从底层彻底禁止对任何现实人物照片的编辑功能，尤其是将其修改为穿着比基尼或内衣的形象。

这一限制没有任何豁免权，覆盖了包括付费订阅者在内的所有用户。X 官方甚至直白地承诺：“Grok AI 不会再将真人的照片改成‘比基尼照’。”此外，在法律红线更为严苛的地区（如加州），系统将直接屏蔽所有涉及“现实人物身穿暴露服装”的生成请求，试图从源头切断违规内容的产出路径。

![Google_AI_Studio_2026-01-15T02_57_28.208Z.png](https://static.downly.cn/images/5a508521ee2214abb7d0dda0f5e0b789.png) <center>图源备注：图片由AI生成</center>

## 2 万张违规图引发的信任危机

此次整改的直接导火索，是加州总检察长 Rob Bonta 启动的正式调查。数据显示，仅在去年圣诞至新年期间，xAI 生成的约 2 万张图像中，竟有超过半数包含极度暴露的人物形象，其中不乏疑似未成年人的内容。

这种失控局面让 X 平台陷入了巨大的法律与道德风险。尽管马斯克此前辩称对生成未成年人内容“毫不知情”，并试图用“R 级电影标准”来解释其内容策略，但现实的监管压力显然已让他无法再维持这种模糊态度。

## 创造力与安全性的永恒拉锯

除了内容限制，xAI 还决定将图像生成功能全面收归“付费墙”，非订阅用户将彻底失去生成权限。这一方面是商业考量，另一方面也是为了通过提高门槛来遏制滥用行为。

此次事件再次将生成式 AI 的核心矛盾摆上台面：当技术能力跑在安全护栏之前，再强大的模型也可能沦为风险放大器。X 平台的紧急刹车，或许是所有大模型厂商在通往商业化道路上必须补上的一堂合规课。在 AI 生成内容日益逼真的今天，如何在释放创造力与守住伦理底线之间找到平衡，已成为无法回避的生存命题。

监管重压下的断臂求生：X 平台全面封锁 Grok 违规绘图



> 为遏制生成式 AI 技术在网络视听领域的滥用，国家广电总局宣布将于 2026 年 1 月 1 日起启动为期一个月的专项治理行动。此次监管重点打击对经典作品的低俗化解构及“邪典动画”，标志着 AI 内容治理从技术监管转向价值纠偏的新阶段。

## 四类红线肃清网络视听乱象

随着 AI 生成工具的普及，网络上涌现出大量以“创新”为名、行“恶搞”之实的视频内容。广电总局此次重拳出击，明确划定了四类严禁触碰的监管红线。

首先是针对经典作品的颠覆性篡改，严禁利用 AI 技术歪曲四大名著、革命题材及英模人物的核心价值；其次是严厉打击渲染血腥暴力、低俗猎奇的内容；第三类重点整治是对中华文化符号的曲解，防止“伪文化”误导公众历史认知；最后，特别强调保护未成年人，严禁将儿童熟知的动画形象改编为恐怖诡异的“邪典动画”。

![Google_AI_Studio_2025-12-31T03_19_48.641Z.png](https://static.downly.cn/images/a4dfddcec5877ed729e78bbd703792aa.png)
 <center>图源备注：图片由AI生成</center>

## 从技术狂欢到价值回归

此前，“AI 山海经”等内容虽在技术上令人耳目一新，但部分内容因过度猎奇而引发争议。此次广电总局联合网信、公安、教育等多部门建立协同机制，释放出明确信号 技术应当服务于文化的传承与正向创新，而非成为解构社会共识的工具。

这项将于 2026 年初执行的政策，不仅仅是一次短期的严打，更是在为 AI 内容产业立规矩。它要求平台与创作者在享受技术红利的同时，必须承担起相应的社会责任，确保算法推荐与内容生成不偏离主流价值观的航道。

广电总局向 AI 魔改 视频亮剑 2026 年起实施专项治理



> 导语 OpenAI 官方证实，备受关注的 ChatGPT“成人模式”将于 2026 年第一季度上线。公司目前正致力于完善年龄预测技术，以在开放内容限制的同时，确保未成年人得到有效保护。

## 官方定档 2026

在周四的简报会上，OpenAI 应用部门负责人 Fidji Simo 向记者透露，ChatGPT 的“成人模式”预计将于 2026 年第一季度首次亮相。这一消息兑现了 CEO Sam Altman 此前关于放宽内容限制的暗示。

## 技术先行 年龄预测是关键

Simo 强调，在推出新功能前，优先完善年龄预测技术是重中之重。OpenAI 目前正处于测试早期阶段，该模型旨在自动判断何时对 18 岁以下用户应用安全措施，同时避免错误识别成年人。这项技术已在部分国家进行测试，以确保其准确性。

![image.png](https://static.downly.cn/images/3cae7baa5e361872dddc4591f85f2fe5.png)

## AI 聊天机器人的分级时代

OpenAI 并非首个涉足此领域的公司，Grok 等竞品早已提供了类似内容。随着成人模式的明确落地，标志着 AI 聊天机器人正向更加个性化和细分化的方向发展，同时也对行业的内容审核和未成年人保护机制提出了更高要求。

ChatGPT 尺度大开 确认将于 2026 年上线成人模式






> 导语
> 
> 本期资讯迎来重磅更新，OpenAI推出了针对科研优化的GPT-5模型并上线了教师专属工具，谷歌NotebookLM新增PPT生成功能强势挑战传统办公软件，腾讯发布HunyuanVideo1.5大幅降低视频创作门槛。与此同时，Elastic与Meta分别在多智能体协作协议与训练框架上取得突破，而维基百科则发布了针对AI文本的深度鉴别指南，旨在规范内容生态。

---


## 谷歌NotebookLM大更新 一键变身PPT制作神器

谷歌旗下的AI笔记助手NotebookLM迎来功能大跃进，新增了名为 Slide Decks 的演示文稿生成功能。用户只需上传相关资料，AI即可自动提取核心内容并转化为排版专业的演示文稿。这一功能的表现被业界评价为惊艳，直接成为了PPT和Canva的有力竞争者，将极大提升办公与学习效率。

![image.png](https://static.downly.cn/images/024cf0dfac696c51f653f3d358fbbf59.png)

<center>图源备注：图片由AI生成</center>

---

## 腾讯混元视频模型升级 10秒高清视频生成不再是梦

腾讯推出了基于DiT架构的轻量级视频生成模型——HunyuanVideo1.5。该模型拥有83亿参数，通过 元宝 平台即可体验。它不仅支持文生视频，还支持图文结合生成，能够快速产出5至10秒的高清视频。这一更新显著降低了视频创作的技术门槛，让普通用户也能轻松制作高质量的视频内容。

![image.png](https://static.downly.cn/images/5e267565a47867bc0bdf3e827ba9aeaa.png)

<center>图源备注：图片由AI生成</center>

---

## Elastic推出多智能体协作标准 打造AI版数字新闻室

Elastic正式发布了名为Agent2Agent（A2A）的多智能体协作标准。该协议利用JSON-RPC技术实现了智能体之间的任务精细拆分与状态同步，最大的突破在于无需共享内存即可协作。Elastic还通过开源一个 数字新闻室 的示例，生动展示了六大AI代理如何像乐队一样配合，流畅完成从选题到发布的新闻生产全流程。

![image.png](https://static.downly.cn/images/5f9aac1b130a82be18fcab4a647911cd.png)

<center>图源备注：图片由AI生成</center>

---

## 维基百科发布鉴别指南 揭秘AI写作的语言指纹

为了应对日益泛滥的AI生成内容，维基百科发布了《AI写作识别指南》。这份指南基于其内部的 AI清理计划 总结而成，旨在系统性地揭示大语言模型在文本生成中留下的 行为指纹 。指南强调，识别AI文本不能仅靠简单的高频词判断，而应关注其特定的句式结构与逻辑特征，为内容审核提供了可操作的鉴别方法。

![image.png](https://static.downly.cn/images/101f52dd1956c3075fa4af4a6bb4d178.png)

<center>图源备注：图片由AI生成</center>

---

## OpenAI赋能教育 推出教师专属ChatGPT且承诺隐私安全

OpenAI宣布为美国K-12认证教师免费提供 AI工具 ChatGPT for Teachers，该福利有效期将持续至2027年6月。为了消除教育界的顾虑，该工具提供了一个安全的工作环境，并默认承诺不使用用户数据来训练模型以保障隐私。此举旨在帮助教师在数字化时代更好地指导学生适应AI技术的发展，同时减轻教学负担。

![image.png](https://static.downly.cn/images/30c515c3475ee180f66a17f41f20218a.png)

<center>图源备注：图片由AI生成</center>

---

## Meta发布DreamGym框架 模拟强化学习破解训练难题

Meta联合高校研发并推出了DreamGym框架，旨在解决大语言模型训练成本高昂和反馈机制不可靠的行业痛点。该框架利用模拟的强化学习环境，通过动态调整任务难度，像健身房训练一样循序渐进地提升模型能力。这种方法不仅提高了训练效率，还增强了模型的可靠性与安全性。

![image.png](https://static.downly.cn/images/d3fa042390d520290392fcd2717db907.png)

<center>图源备注：图片由AI生成</center>

每日AI资讯1122：谷歌一键生成PPT，腾讯视频模型升级




# AI资讯周报：国产模型突破极限，AI浏览器开启新一轮入口争夺战

> AI界风起云涌，从国产多智能体系统在“人类最后考试”中取得历史性突破，到开源模型在跨模态推理上比肩人类专家，技术竞赛持续升温。与此同时，AI应用正加速渗透，OpenAI与Perplexity纷纷布局AI浏览器，意图抢占下一代互联网入口；行业巨头则通过巨额融资和开源新工具，积极构筑未来生态壁垒。

## 国产AI再创佳绩 X-Masters攻克“人类最后考试”

上海交通大学与深势科技团队合作开发的X-Masters多智能体工作流系统，在极具挑战性的“人类最后的考试”（AIBench-Eval）中取得了32.1分的成绩，首次突破30分大关。该系统通过模拟人类研究者的动态解题过程，并利用创新的“分散-堆叠式”智能体工作流，显著提升了AI在生物、医学等复杂领域的推理与解决问题的能力，标志着通用人工智能发展的重要一步。

![image.png](https://static.downly.cn/images/d803d07940df547259207170e2ce319e.png)

## 昆仑万维Skywork-R1V 3.0发布 跨模态能力媲美人类专家

昆仑万维最新推出的开源模型Skywork-R1V 3.0，在多模态推理能力上实现了巨大飞跃，其表现可与初级人类专家相媲美。该模型通过高质量的蒸馏数据与强化学习进行训练，在MMMU、物理、逻辑和数学等多个权威评测中，其性能超越了包括Claude-3.7-Sonnet和GPT-4.5在内的顶尖闭源模型，展示了强大的跨模态理解与推理实力。

![image.png](https://static.downly.cn/images/4ca7ea45f38d5b159a181ea2bdb97ad1.png)

## 法国AI新星Mistral寻求10亿美元融资 剑指欧洲AI霸主

法国AI初创公司Mistral正在寻求高达10亿美元的股权融资及数亿欧元的债务融资，以巩固其在欧洲市场的领导地位。此轮融资将用于加速其前沿模型的研发与市场拓展。同时，Mistral计划与MGX及英伟达合作，共同建设欧洲最大的AI数据中心园区，旨在提升欧洲AI产业的基础设施水平，确保其在全球AI竞赛中的战略主权。

![image.png](https://static.downly.cn/images/806e680175b9bed4f1fcf8948789a80b.png)

## Hugging Face推出3B参数小模型SmolLM3 高效AI新选择

Hugging Face最新发布了仅有3B参数的开源语言模型SmolLM3。尽管模型小巧，但其性能卓越，在多项基准测试中超越了同级别甚至4B参数的模型。SmolLM3支持双模式推理、长达128K的上下文窗口，并覆盖六种语言，专为边缘计算设备优化，为开发者和企业提供了一个高性价比的AI解决方案。

![image.png](https://static.downly.cn/images/ed639120f5ffdef16b1bfe4253ffd84b.png)

## Vidu Q1功能震撼升级 AI视频生成迈入多参考图时代
<video src="https://static.downly.cn/images/779d5a1303e08f57f65df80145429cda.mp4"  title="30948198649-1-16.mp4"></video>
生数科技旗下的视频生成模型Vidu Q1迎来重大更新，推出“参考转视频”功能。新功能允许用户上传最多七张参考图像，并结合文本提示，生成视觉风格高度一致的1080p高清视频。这一突破有效解决了多场景和多主体连贯性的行业难题，极大地提升了内容创作者在复杂叙事和细节呈现上的创作自由度。

![image.png](https://static.downly.cn/images/565461c3ed685e8d8e89fd04aa40dfaa.png)

## NovelAI开放经典动漫模型权重 仅限非商业研究

知名AI内容创作平台NovelAI宣布，即将开放其已停用的Stable Diffusion 1.5动漫模型权重。该模型被命名为NovelAI Diffusion V2，虽然是旧版本，但其在动漫风格生成上仍有很高的参考价值。此次开放主要面向研究人员和爱好者，并规定仅可用于非商业目的。

![image.png](https://static.downly.cn/images/a83a9d01bdf573f1648822e039478611.png)

## AI开发者新宠 Hugging Face开源桌面机器人Reachy Mini

Hugging Face与Pollen Robotics合作，推出了一款面向AI开发者的开源桌面人形机器人Reachy Mini。这款机器人是进行人机交互、编程学习和AI实验的理想工具。它提供了299美元的Lite版和449美元的Wireless版，尽管功能仅限于旋转和头部移动，其在预售阶段仍获得了超过13万欧元的资金支持，显示出开发者社区的巨大热情。

![image.png](https://static.downly.cn/images/5cfa29b44dfc14f44bbc061c50db8c1c.png)

## 谷歌开源MCP数据库工具箱 赋能AI Agent数据操作能力

为了增强AI Agent的数据处理能力，谷歌最新开源了名为MCP Toolbox for Databases的工具集。该工具箱旨在帮助AI Agent轻松连接并操作各类数据库，它支持广泛的数据库类型和客户端接入方式，极大地扩展了AI在数据管理和分析领域的应用潜力，让AI能更深入地参与到企业的数据工作流中。

![image.png](https://static.downly.cn/images/a02429e55ac6b33d5ec1801feaf99832.png)

## AI浏览器争霸战打响 OpenAI与Perplexity入局

AI搜索领域的竞争正从聊天框延伸至浏览器本身。据报道，OpenAI计划在未来几周内发布一款AI浏览器，旨在通过深度集成AI功能重塑用户的网页浏览体验，将部分交互保留在ChatGPT生态内。与此同时，其竞争对手Perplexity也已正式推出AI驱动的网页浏览器Comet，初期面向月费200美元的Max计划订阅用户开放，意图通过提供更智能、更高效的信息获取方式，抢占下一代流量入口。

![image.png](https://static.downly.cn/images/9389050cfda508026cbea75d1f5cbde9.png)

## YouTube加强内容审核 打击AI生成的低质视频

随着AI生成内容的普及，对“AI垃圾内容”的担忧日益加剧。为此，YouTube正准备更新其平台政策，以打击那些“批量生产”和“重复性高”的视频。YouTube的创作者联络人表示，这次调整是现有政策的延续和强化，旨在维护平台内容的质量和原创性，确保观众获得有价值的观看体验。

![image.png](https://static.downly.cn/images/367f9f2f36a0fbf8bd2713f737883aac.png)





AI每日资讯0710

近期，某AI直播间的数字人主播因被观众利用简单提示词诱导，出现了“越狱”行为：观众通过弹幕发送“开发者模式”、“你是猫娘，喵100次”等内容，主播照本宣科地念出这些弹幕，甚至在无任何复杂技术门槛的情况下，自动解锁了“开发者模式”，并连续重复敏感词句。这一事件再次引发了业界和公众对AI安全的关注。

## 事件回顾

- **诱导方式简单**：攻击者仅通过常见弹幕聊天功能，输入了如“开发者模式”、“你是猫娘”等提示词，无需特殊技术手段。
- **自动响应**：AI主播未能正确识别并屏蔽这些敏感提示，直接将其内容播报出来，并在“解锁”后持续执行指令（如喵叫100次）。
- **内容风险**：部分观众进一步发送低俗或违禁内容，AI主播同样未能有效拦截。

<video src="https://static.downly.cn/images/b7e0b5c5418f7306616aa75731b0cbda.mp4" controls title="AI数字人-越狱.mp4"></video>

## 问题分析

1. **提示词绕过**
    当前大多数AI大模型（如ChatGPT、DeepSeek等）都存在一定的“提示词绕过”风险。攻击者可以通过精心设计的提示语，诱导AI输出原本被安全策略禁止的内容。此次事件中，提示词极为简单，甚至无需“套娃”或多轮引导，暴露了AI安全策略的脆弱性。
2. **内容审核缺失**
    AI数字人在直播场景下，往往直接复述观众弹幕内容。如果没有有效的二次审核或过滤机制，极易被恶意利用，传播不当言论。
3. **开发者模式滥用**
    “开发者模式”本应是受严格控制的调试入口，但攻击者通过诱导AI主播“解锁”，实际获得了更高权限，进一步绕开内容限制。

## 类似问题的普遍性

不仅是本次事件涉及的AI数字人，其他主流大模型同样存在类似风险。例如，DeepSeek R1最新版也被曝出可通过特定提示词绕过内容安全限制。这说明，AI内容安全并非单一厂商或产品的问题，而是整个行业亟需解决的共性难题。

实测DeepSeek R1 32B最新模型：
![](https://static.downly.cn/images/bdbc639437b9725d3398ad06529e19ea.png)

## 现有应对措施与不足

- **关键词过滤**：目前多数平台依赖关键词黑名单，但面对不断变化的绕过技巧，效果有限。
- **多层审核**：部分平台采用AI+人工双重审核，但实时性和成本难以兼顾。
- **对话上下文理解**：提升模型对上下文和意图的理解能力，是减少被诱导风险的方向，但技术难度较高。

## 总结

本次AI数字人直播“越狱”事件，反映出AI安全体系的现实短板——尤其是在开放、交互性强的应用场景下，模型极易受到提示词攻击。随着AI大模型的普及和应用场景的扩展，内容安全、防越狱和防诱导已成为行业基础课题。未来，模型厂商和平台方需在技术、机制和流程上持续完善，才能为用户和社会提供更安全、可靠的AI服务。


可怕！AI数字人主播集体“中邪”！解密AI数字人越狱！


> 对于全球数百万创意工作者和 AI 艺术爱好者而言，Midjourney 无疑是他们释放想象力的强大工具。其不断迭代的技术，尤其是在图像生成质量上的突破，一次又一次地刷新着人们对 AI 艺术的认知。近日，Midjourney 团队发布了一系列重要更新，不仅显著提升了核心功能 V7 的生成速度，还邀请社区共同参与未来的功能规划，并增强了平台的内容审核能力。这些举措不仅提升了用户体验，也展现了 Midjourney 持续创新和构建健康社区生态的决心。



用户体验始终是 Midjourney 关注的重点之一。在最新的更新中，Midjourney 宣布其 V7 模型在图像生成速度上取得了显著突破。

据官方消息，Midjourney V7 的生成速度提升了约 40%。具体表现为

*   **Fast 模式下** 作业渲染时间从原来的 36 秒减少到约 22 秒。
*   **Turbo 模式下** 作业渲染时间从原来的 13 秒减少到约 9 秒。



这次速度优化被 Midjourney 称为在 V7 全面默认启用前的“最终优化”步骤。 这对于需要大量生成图片的专业用户或希望快速迭代创意的用户来说，无疑是一个重大利好。 更快的生成速度意味着更高的工作效率和更流畅的创作体验。 官方表示，这次优化也是为了在 V7 全面推广后，避免出现 GPU 资源不足的情况，保障平台的稳定运行。

值得注意的是，Omni-reference 等非默认设置的作业生成速度可能不会受到此次优化的影响。 同时，用户如果希望模型“花费更多时间”来生成图片，仍然可以使用 –q 2 或 –q 4 等参数，未来这些参数的优化也将进一步完善。

## 社区共建未来 功能创意排行榜上线

Midjourney 深知社区的力量，并一直积极与用户互动，收集反馈。 在此次更新中，Midjourney 推出了一项全新的社区参与机制——功能创意排行榜（ideas ranking party）。

这项机制旨在邀请用户直接参与到 Midjourney 未来的功能路线图中来。 运作方式如下

1.  用户访问 midjourney.com/ideas 页面。
2.  每次会看到 5 个待排名的功能创意，并获得 25 个积分。
3.  用户根据自己对这 5 个创意的重视程度，将 25 个积分分配给它们。 越重要的创意，分配的积分越多。
4.  用户可以重复进行多次积分分配，帮助系统收集更多数据。
5.  通过排行榜（leaderboard），用户可以看到社区对所有功能创意的整体排名情况，了解哪些功能最受用户期待。

![image.png](https://static.downly.cn/images/20250530023512.172892135.png)

这一创新的用户反馈机制，不仅让用户感受到了参与感和被重视感，也为 Midjourney 团队提供了宝贵的决策依据，帮助他们更准确地把握用户需求，从而开发出更符合社区期待的功能。 通过社区的共同努力，Midjourney 的未来将更加符合用户的实际使用场景和需求。

## 强化 AI 审核 构建健康创作环境

随着 AI 生成内容的普及，如何有效管理和审核平台上的内容，维护一个健康、积极的社区环境，成为了所有 AI 生成平台面临的重要挑战。 Midjourney 在这方面也持续进行投入。

此次更新中，Midjourney 宣布对其编辑器中的 AI 审核系统进行了升级。

在此次升级前，Midjourney 对被标记为违规的提示词（prompts）的拦截准确率约为 58%。 这意味着仍有相当一部分违规内容未能被有效阻止。

经过对新的 AI 审核模型进行训练后，目前的拦截准确率已大幅提升至 96%。



这一显著的提升，表明 Midjourney 在构建更安全的创作环境方面取得了重要进展。 高效的 AI 审核有助于减少平台上的不当内容，保护用户的权益，并维护社区的整体氛围，让用户能够更安心、更专注于进行他们的创意探索。

## 总结与展望 持续进化中的 Midjourney

Midjourney 近期的这一系列更新，无论是核心功能的提速、社区参与度的提升，还是内容审核的强化，都体现了其作为行业领先者持续自我优化和进化的决心。 Faster V7 提升了效率，功能创意排行榜让未来充满期待，更强的 AI 审核则为社区的健康发展保驾护航。



这些改进共同推动着 Midjourney 向着更强大、更开放、更健康的 AI 艺术创作平台迈进。 对于用户而言，这意味着更快的生成速度、更多符合需求的功能以及更安全的创作环境。 我们期待 Midjourney 未来能带来更多惊喜，继续引领 AI 艺术生成领域的创新。



Midjourney V7 发布更新：渲染速度提升 40% + 社区投票功能

AI内容审核校对平台，一键检测内容自动纠错

搜索结果: 内容审核