郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI在印度上线API推理驻留,数据与算力都留在境内

OpenAI推出API推理驻留能力,让印度企业提交的数据和产生答案的计算都留在境内,而不必路由到海外数据中心。该能力目前只覆盖GPT-6 Luna一个模型的文本任务,主要面向受数据本地化规则约束的银行等机构。

发布时间

OpenAI现在可以在印度境内的服务器上处理来自印度企业客户的AI请求。公司把这项安排称为API推理驻留:企业提交的数据和产生答案的计算都留在印度境内,而不再被路由到海外数据中心。

这个细节对银行和其他金融机构最为关键。涉及客户信息的监管规则通常要求数据在境内存储和处理,这使许多在海外处理请求的AI工具被排除在核心业务之外,机构也因此对把AI用于正经业务保持谨慎。

OpenAI印度企业业务负责人Nitin Bawankule表示,一些公司此前正是因为信息必须在境内处理,才没有把AI用于重要任务。在他看来,本地推理让企业能更好地控制受支持的工作负载在哪里运行,也应该给印度开发者和初创公司更多空间,去构建面向本地与企业需求的产品。

目前这项能力只覆盖一个模型GPT-6 Luna,聚焦文本类工作,例如压缩长文档、起草回复和分析内部材料。范围是明确的文本场景,而不是全模型、全模态的本地化。

使用方式也不是一个开关,而是一套设置:企业在OpenAI平台新建一个API项目,把存储和处理区域都选为印度,再通过专门的印度端点接入;进出GPT-6 Luna的文本由Responses和Chat Completions两个API提供支持。

这一步被放在“OpenAI for India”计划之下。该计划今年早些时候公布,目标是加强印度本地的AI基础设施和企业采用;为搭建本地容量,OpenAI此前还与塔塔集团合作建设印度境内的AI数据中心。

印度由此加入澳大利亚和日本的行列,成为OpenAI扩大境内处理工具的市场之一;公司近期还通过AWS Bedrock提供过类似的驻留选项。把这些动作放在一起看,仅在境内处理正在从一次性的让步,变成一套可复制的区域部署模式。

接下来的看点是覆盖范围。如果驻留能力从单一模型扩展到更多模型和模态,印度金融、医疗以及贴近政府的行业采用节奏可能明显加快;如果长期只限文本,它能撬动的场景就会被压缩。

为什么重要

数据本地化一直是跨国AI公司在印度金融等受监管行业落地的最大卡点,推理驻留把这堵墙打开了一道口子。影响将取决于OpenAI把该能力从单一模型扩展到多少模型与模态。

微博邮件

OpenAIIndiaEnterprise
返回实时消息

附近消息

全部