内容风险再成焦点！苹果阻止ChatGPT驱动的应用更新，OpenAI启用新模型应对

据媒体3月2日报道，苹果公司上周阻止了一款使用ChatGPT功能的电邮应用的更新，因为担心其可能生成不适合青少年儿童的内容。

如何避免AI做出违反伦理道德的回答一直是生成式AI面临的挑战。

而在上述报道的前一天，OpenAI推出了官方的ChatGPT应用程序接口（API），成本直降90%，且比ChatGPT及其背后的GPT-3.5 模型“更快、更准确、更强大”。OpenAI同时还推出了语音转文字的Whisper API，一分钟只需要0.006美元。

OpenAI表示，公司在ChatGPT API中引入了新的语言，希望能通过加入更多提示限制来过滤不当内容。 

图片来源：视觉中国-VCG111421680440 

出于内容担忧，苹果暂停一应用更新

面对生成式AI热潮，苹果似乎要小心谨慎得多。据路透社报道，苹果上周阻止了采用ChatGPT功能的电邮应用程序BlueMail的更新，因为担心其产生对青少年儿童不当的内容。

据悉，BlueMail的新AI功能以ChatGPT为基础，能够基于先前电邮的内容和日历事件自动编写邮件。

“你的应用程序包含人工智能生成的内容，但目前似乎不包含内容过滤，”苹果应用程序审查团队上周在给开发者的消息中表示。

应用程序审查团队认为，BlueMail要么将其年龄限制提高到17 岁及以上，要么加入内容过滤程序。苹果设置17岁及以上用户的年龄限制针对的是可能包含攻击性语言、性内容和提及毒品等内容的应用程序类别。

BlueMail开发公司Blix Inc.的联合创始人Ben Volach表示，BlueMail具有内容过滤的功能，目前将年龄设置在4岁及以上。Volach认为苹果的做法不公平，因为其他包含类似AI功能的应用没有设置年龄限制却得到了批准。

“Apple让我们很难为用户带来创新，”他表示，“我们要的是公平。如果我们要设置17岁以上的年龄限制，其他应用也该如此。”他同时称，BlueMail的安卓版在谷歌应用市场就可以更新，无需设置年龄限制，也不需要进一步的内容过滤机制。

苹果发言人表示，开发者可通过苹果应用程序审查委员会的上诉程序发起申诉，苹果方面正在调查Blix的申诉。

投资了ChatGPT开发公司OpenAI的微软近日上线了融合ChatGPT功能的新版搜索引擎必应。该程序在苹果应用市场设置了17岁及以上的年龄限制，但也没有在谷歌应用市场设置年龄限制。微软发言人表示，之所以设置17岁及以上的年龄限制，是因为必应可以找到成人内容。

ChatGPT API新模型有望更好过滤内容

在媒体爆出苹果限制BlueMail更新的前一天，OpenAI宣布推出ChatGPT以及语音转换文本模型Whisper的应用程序接口（API）。两个API价格低廉，功能强大，第三方开发人员可以通过 API 的方式将 ChatGPT 集成到他们的应用程序和服务中。

据OpenAI，ChatGPT API接入的模型名为 gpt-3.5-turbo，这是许多非聊天用例的最佳模型，而且比 ChatGPT 和背后的GPT- 3.5 模型“更快、更准确、更强大”，且每输出100万个单词，价格才2.7美元（约18元人民币），比之前的GPT-3.5便宜了10倍。Whisper API可以用来转录或翻译音频，费用为每分钟0.006美元。

目前，已经有多个应用程序通过API的方式把ChatGPT和Whisper融入到服务之中，如社交软件SnapChat，购物软件Instacart，学习软件Quizlet和Speak等。

此前，ChatGPT爆火之后，各种「自制API」层出不穷，但效果欠佳且成本较高。此次OpenAI开放官方的低价API，为各类中小型开发者打开了新的大门。

官方API虽然在功能和价格上又上了一层楼，但在ChatGPT API推出后，有网友马上发现，这个API的内容过滤机制是比较松散的，可以生成暴力和色情内容，只是对“如何制造炸弹”一类的问题拒绝回答。

实际上，围绕生成式AI的道德争议一直是OpenAI面临的挑战。此前就有用户引导ChatGPT生成种族和性别歧视的回答，更有许多网友聚在一起做“越狱”尝试，希望找出绕过OpenAI的安全机制，让ChatGPT执行超出其原初目标的任务。比如，初创公司Scale AI的一名员工就曾让ChatGPT透露了其内部的技术细节信息。

对于重视品牌形象的客户而言，这样的风险当然是必须回避的。OpenAI在这方面也做了很多工作，除了让廉价的肯尼亚工厂做数据标注外，在技术上也做了一些努力。

据科技媒体TechCrunch报道，ChatGPT的API采用了一种名为Chat Markup Language（ChatML）的语言，这种语言将输入文本视为一连串信息和“元数据”的结合。开发者在接收提问提示（prompt）时，可以加入额外的提示，如“你需要诚实回答”，或者“你只是一个机器人”。这些额外提示可以让ChatGPT更好地过滤生成的内容。

“我们正在转向一种更高级的API。如果你能够以更加结构化的方式将输入内容放进系统，比如‘这是来自开发者’或者‘这是来自用户’……我想，作为开发者，你（使用ChatML）可以更好地抵御那些通过提示进行攻击的行为，”OpenAI的主席和董事长Greg Brockman表示。

此外，ChatGPT API还向用户提供付费的专属算力（Dedicated capacity），付钱的大公司不仅可以拥有更加流畅快速的应答，还可以获得更高的文字输入上限，这样可以让ChatGPT记住更多的上下文提示，将减少回答中的偏见和有害内容。据Brockman，专属算力用户可以在gpt-3.5-turbo模型中输入高达1.6万的token，是现有标准ChatGPT模型的四倍。

封面图片来源：视觉中国-VCG111421680440