正文

重磅！ChatGPT官方API發(fā)布：輸出100萬(wàn)詞只要2.7美金，成本砍掉90%

發(fā)布時(shí)間：2023-03-03 16:25:08 稿源：互聯(lián)網(wǎng) 閱讀： 700 問(wèn)大家

智東西

編譯 | 程茜

編輯 | 心緣

智東西3月2日?qǐng)?bào)道，今日凌晨，OpenAI放出了真正的ChatGPT API，不是背后的GPT-3.5大模型，是ChatGPT的本體模型！ChatGPT API價(jià)格為1k tokens/$0.002，等于每輸出100萬(wàn)個(gè)單詞，價(jià)格才2.7美金（約18元人民幣），比已有的GPT-3.5模型便宜10倍。手快的開(kāi)發(fā)者可以沖了！

這將大大降低開(kāi)發(fā)人員將ChatGPT集成到自家應(yīng)用和服務(wù)的門(mén)檻，構(gòu)建屬于自己的AI聊天機(jī)器人。而且OpenAI將ChatGPT從去年12月至今的成本砍掉了90%，令此前許多靠開(kāi)發(fā)私有ChatGPT API接口賺差價(jià)的中間商們?cè)贌o(wú)用武之地。

ChatGPT官方API基于GPT-3.5-turbo模型，是GPT-3.5系列中最快速、最便宜、最靈活的模型。開(kāi)發(fā)者可以通過(guò)OpenAI Playground和OpenAI Codex來(lái)使用和測(cè)試ChatGPT OpenAI。

此前一些公司已經(jīng)率先接入ChatGPT API，包括生鮮電商平臺(tái)Instacart、跨境電商平臺(tái)Shopify、照片分享應(yīng)用Snap、單詞背誦應(yīng)用Quizlet等，用于提高客戶(hù)服務(wù)、營(yíng)銷(xiāo)、教育等效率及體驗(yàn)。

OpenAI還在不斷改進(jìn)其ChatGPT模型，并希望將增強(qiáng)功能也提供給開(kāi)發(fā)人員。

使用該gpt-3.5-turbo模型的開(kāi)發(fā)人員將始終獲得OpenAI發(fā)布的穩(wěn)定模型，同時(shí)仍然可以靈活地選擇特定模型版本。例如，今天發(fā)布的gpt-3.5-turbo-0301，它至少會(huì)在6月1日之前推出特定版本，OpenAI會(huì)將gpt-3.5-turbo在4月更新到新的穩(wěn)定版本。

此外，OpenAI還推出了基于large-v2模型的Whisper官方API。Whisper是OpenAI去年9月發(fā)布的開(kāi)源自動(dòng)語(yǔ)音識(shí)別（ASR）模型。開(kāi)發(fā)者可用該功能來(lái)轉(zhuǎn)錄或翻譯音頻，費(fèi)用為每分鐘0.006美元。

API地址： https://api.openai.com/v1/chat/completions

一、ChatGPT官方API來(lái)了！輸出100萬(wàn)個(gè)Tokens只要2美金

OpenAI官方宣布，其發(fā)布的ChatGPT模型系列與ChatGPT產(chǎn)品中使用的模型相同，對(duì)于許多非聊天應(yīng)用場(chǎng)景，這仍然是他們的最佳模型。

一些早期的開(kāi)發(fā)人員，從“text-davinci-003”模型遷移至“gpt-3.5-turbo”只需根據(jù)提示進(jìn)行少量調(diào)整。

一般情況下，GPT模型數(shù)據(jù)使用的是電子郵件文本、推特信息、博客、新聞等信息中的非結(jié)構(gòu)化文本，這些文本在模型中表現(xiàn)為一系列的“Tokens”，tokens可以被看作將文本切分成的若干個(gè)片段，1000個(gè)tokens大約是750個(gè)單詞。

而ChatGPT則改為使用一系列消息和元數(shù)據(jù)的新格式。在底層，輸入仍然以tokens序列呈現(xiàn)給模型，模型使用的原始格式就變?yōu)橐环N聊天標(biāo)記語(yǔ)言ChatML的新格式。

OpenAI創(chuàng)建了一個(gè)新端點(diǎn)來(lái)與ChatGPT模型進(jìn)行交互。

值得注意的是，雖然0.002美元1000個(gè)tokens的價(jià)格并不貴，但1000個(gè)tokens在實(shí)際使用中數(shù)量并不算多，發(fā)送一段文本供API響應(yīng)就可能會(huì)花費(fèi)多個(gè)tokens。

例如一個(gè)簡(jiǎn)單的字符串“ChatGPT is great！”，就被編碼為六個(gè)tokens：“Chat”、“G”、“PT”、“ is”、“ great”、“!”.

OpenAI提供了一種工具來(lái)檢查解釋一串文本需要多少標(biāo)記，并介紹稱(chēng)一般的經(jīng)驗(yàn)法則是一個(gè)token通常對(duì)應(yīng)于約4個(gè)字符。

二、為高需用戶(hù)提供專(zhuān)用實(shí)例，性?xún)r(jià)比更高

OpenAI還將為希望控制特定型號(hào)版本和系統(tǒng)性能的用戶(hù)提供專(zhuān)用實(shí)例（Dedicated instances），也就是希望通過(guò)API運(yùn)行大量數(shù)據(jù)的開(kāi)發(fā)人員。

默認(rèn)情況下，開(kāi)發(fā)人員是按照需求來(lái)付費(fèi)，并且這些需求會(huì)執(zhí)行在共享的計(jì)算基礎(chǔ)設(shè)施之上。使用專(zhuān)用實(shí)例，開(kāi)發(fā)人員將按照時(shí)間段支付，分配計(jì)算基礎(chǔ)設(shè)施的費(fèi)用，而這些基礎(chǔ)設(shè)施就是專(zhuān)門(mén)為這些開(kāi)發(fā)人員保留的。

專(zhuān)用實(shí)例下，開(kāi)發(fā)人員可以更好地控制使用的模型，包括希望它響應(yīng)請(qǐng)求需要的時(shí)間以及與機(jī)器人對(duì)話(huà)可以持續(xù)多長(zhǎng)時(shí)間等。

對(duì)于每天運(yùn)營(yíng)超過(guò)4.5億tokens的開(kāi)發(fā)人員來(lái)說(shuō)，專(zhuān)用實(shí)例可能性?xún)r(jià)比更高。

此外，這一條件下還可以根據(jù)硬件性能直接優(yōu)化開(kāi)發(fā)人員的工作負(fù)載，這可以顯著降低與共享基礎(chǔ)設(shè)施相關(guān)的成本。

三、社交、學(xué)習(xí)、配送、購(gòu)物程序，均已接入ChatGPT API

此前已經(jīng)有幾家公司接入ChatGPT API來(lái)創(chuàng)建聊天界面。

照片分享應(yīng)用Snap，本周推出通過(guò)ChatGPT API接入的“My AI for Snapchat ”功能，其提供了一個(gè)友好的、可定制的聊天機(jī)器人。用戶(hù)通過(guò)手機(jī)就可以與它聊天獲得建議，并在幾秒內(nèi)為朋友寫(xiě)一個(gè)笑話(huà)。

單詞背誦應(yīng)用Quizlet推出了Q-Chat，可以讓學(xué)生通過(guò)有趣的聊天體驗(yàn)中提供的學(xué)習(xí)材料，來(lái)提出相應(yīng)問(wèn)題獲得知識(shí)。

生鮮電商平臺(tái)Instacart計(jì)劃在今年晚些時(shí)候推出“Ask Instacart”，這一功能可以幫助用戶(hù)在詢(xún)問(wèn)食物相關(guān)問(wèn)題時(shí)獲得一些想法，例如用戶(hù)可以問(wèn)“對(duì)我的孩子來(lái)說(shuō)，什么是健康的午餐？”

跨境電商平臺(tái)Shopify的新購(gòu)物助手，將會(huì)根據(jù)購(gòu)物者的需求進(jìn)行個(gè)性化推薦，通過(guò)掃描數(shù)百萬(wàn)種產(chǎn)品來(lái)簡(jiǎn)化應(yīng)用程序內(nèi)購(gòu)物的步驟，以快速找到買(mǎi)家正在尋找的東西。

四、語(yǔ)音轉(zhuǎn)文本每分僅0.006美元，API數(shù)據(jù)不用于模型訓(xùn)練

除了引人關(guān)注的ChatGPT API外，OpenAI AI驅(qū)動(dòng)的語(yǔ)音轉(zhuǎn)文本模型也可以通過(guò)API接入，該公司正在對(duì)其開(kāi)發(fā)人員服務(wù)條款進(jìn)行一些重要更改。開(kāi)發(fā)人員可以使用這一功能來(lái)轉(zhuǎn)錄或翻譯音頻，費(fèi)用為每分鐘0.006美元。

從技術(shù)上講，Whisper模型是開(kāi)源的，因此開(kāi)發(fā)人員無(wú)需支付任何費(fèi)用也可以在自己的硬件上運(yùn)行它。

但是，如果在一些特殊情況下，例如開(kāi)發(fā)人員對(duì)接入效率的要求較高以及需要在手機(jī)等低功率設(shè)備上轉(zhuǎn)錄。就可以通過(guò)OpenAI提供的更強(qiáng)大API。

除了開(kāi)放API外，OpenAI還基于開(kāi)發(fā)人員反饋宣布了一些政策變更：通過(guò)API提交的數(shù)據(jù)不再用于服務(wù)改進(jìn)（包括模型訓(xùn)練），除非相應(yīng)的公司選擇或者統(tǒng)同意加入；為API用戶(hù)實(shí)施默認(rèn)的30天數(shù)據(jù)保留政策，并根據(jù)用戶(hù)需求提供更嚴(yán)格的保留選項(xiàng)；通過(guò)改進(jìn)自動(dòng)監(jiān)控解鎖來(lái)刪除OpenAI發(fā)布前審查；改進(jìn)開(kāi)發(fā)人員文檔；簡(jiǎn)化其服務(wù)條款和使用政策，包括有關(guān)數(shù)據(jù)所有權(quán)的條款：用戶(hù)擁有模型的輸入和輸出。

結(jié)語(yǔ)：OpenAI為開(kāi)發(fā)者打開(kāi)AI應(yīng)用大門(mén)

此前，一些開(kāi)發(fā)人員已經(jīng)找到了在自己的應(yīng)用程序中接入聊天機(jī)器人的解決辦法，那就是使用OpenAI的常規(guī)GPT API，但從應(yīng)用和開(kāi)發(fā)難度來(lái)看，都沒(méi)有達(dá)到最佳效果。

對(duì)于大多人開(kāi)發(fā)人員來(lái)說(shuō)，開(kāi)發(fā)如同ChatGPT這樣的自己的聊天機(jī)器人模型是完全遙不可及的，但此次官方將ChatGPT API正式打開(kāi)，且其花費(fèi)的價(jià)格并不高，為開(kāi)發(fā)人員構(gòu)建聊天機(jī)器人打開(kāi)大門(mén)。

OpenAI的官方博客中也談道，他們認(rèn)為人工智能可以為每個(gè)人提供難以置信的機(jī)會(huì)，而實(shí)現(xiàn)這一目標(biāo)的最佳方式就是讓每個(gè)人都可以利用它進(jìn)行開(kāi)發(fā)。