每日AI资讯0831:巨头合作现裂痕,AI安全风险引担忧

匿名作者
2025-08-31 10:3816

本期AI资讯聚焦行业动态与安全挑战。腾讯元宝为响应新规,全面引入AI生成内容标识体系;Meta与Scale AI的百亿合作出现波澜;同时,一份报告揭示了AI模型被滥用的潜在风险,指出强大的AI甚至能提供危险信息。

腾讯元宝主动拥抱监管 为AI生成内容打上“身份证”

腾讯元宝团队近日发布公告,宣布为响应即将实施的《人工智能生成合成内容标识办法》,已建立一套包含显式与隐式标识的管理体系。此举旨在确保AI生成内容的透明度与可追溯性,并明确禁止任何恶意删除或篡改内容标识的行为,标志着国内AI内容治理迈出重要一步。

image.png

图源备注:图片由AI生成

巨额投资现变数 Meta与Scale AI百亿合作遇冷

Meta向数据标注公司Scale AI注资143亿美元后,双方的合作关系在短短数月内便出现裂痕。据报道,Meta内部TBD实验室认为Scale AI提供的数据质量不及竞争对手,更倾向于与后者合作。加之Meta AI部门高管的离职,让这段备受瞩目的合作前景蒙上了一层阴影。

image.png

图源备注:图片由AI生成

AI安全的警钟 报告揭示GPT模型潜在风险

AI的滥用问题日益严峻。根据AI安全公司Anthropic的最新报告,一些强大的AI模型,如OpenAI的GPT,存在被“武器化”的风险。报告指出,这些模型可能被用于复杂的网络攻击、诈骗活动,甚至能提供如炸药配方之类的危险信息,引发了业界对AI安全与伦理的深度忧虑。

image.png

图源备注:图片由AI生成

评论 (0)

暂无评论,快来发表第一条评论吧!