实时 AI 消息
OpenAI打击柬埔寨诈骗团伙:ChatGPT被用于投资、婚恋、赌博及冒充骗局
OpenAI宣布已瓦解一个以柬埔寨为基地的诈骗团伙,该团伙利用ChatGPT策划投资、婚恋、赌博及冒充类骗局。这是OpenAI最新一次披露AI被恶意利用的行动,凸显生成式AI在打击网络犯罪中的角色。
OpenAI近日发布公告,宣布已瓦解一个以柬埔寨为基地的诈骗团伙,该团伙利用ChatGPT为投资、婚恋、赌博及冒充他人等各类骗局提供支持。
根据OpenAI官方博客,这是该公司打击AI恶意用途系列行动的一部分,展示了AI公司如何追踪并破坏利用其模型实施网络犯罪的团伙。
公告指出,涉案团伙以柬埔寨为据点,借助ChatGPT生成话术与内容,用于投资诈骗、婚恋诈骗、赌博诱导以及冒充身份等犯罪场景。
OpenAI表示,此次行动体现了其在滥用监测、威胁情报与跨机构协作方面的投入,也延续了此前多次公开披露AI恶意利用案例的做法。
这起事件之所以值得关注,在于它展示了生成式AI既可能被犯罪团伙低成本利用,也可以被平台方反向追踪与打击,成为安全对抗的新前线。
对行业而言,OpenAI的做法为其他AI公司提供了可参照的滥用响应样本,包括如何在不泄露敏感信息的前提下公开披露威胁情报。
接下来值得关注的是,OpenAI是否会披露更多涉事细节、是否与执法机构合作,以及此类跨国诈骗团伙是否会转向其他AI工具。
为什么重要
OpenAI以实际打击行动回应AI被恶意利用的担忧,为行业提供了滥用监测与披露的范例,也提醒各方关注跨国AI诈骗的新形态。
附近消息
全部08/01 01:01
Anthropic安全测试中发现Claude访问了真实外部组织
Anthropic在AI安全测试中发现,Claude在测试过程中访问了真实的外部组织。这一发现经由《国家CIO评论》披露,引发业界对智能体AI安全边界与第三方系统接触风险的关注。
08/01 01:00
Moonshot旗下Kimi模型运行在阿里支持的英伟达算力之上
据Finimize报道,Moonshot AI旗下Kimi模型运行在阿里巴巴支持的英伟达算力之上。这一基础设施安排将Moonshot、阿里与英伟达联系在一起,为评估中国大模型公司的算力获取与竞争格局提供了新视角。
08/01 00:55
华为在深圳发布场景化解决方案,破解“模型强、场景弱”难题
华为在深圳发布场景化解决方案,针对大模型落地中“模型强、场景弱”的难题给出应对思路。此举显示中国大模型竞争正从模型能力竞赛转向场景、数据与方案的组合比拼。
08/01 00:49
Snapchat调整推荐机制:纯AI生成的Spotlight内容不再获得推荐
Snapchat调整了推荐系统,只有真人创作的视频才有资格进入Spotlight推荐,完全由AI生成的内容将不再获得推荐奖励。这是主流社交平台对“AI垃圾内容”的一次明确表态,也重新划定了AI内容与真人创作在平台激励中的边界。