上周,OpenAI的CEOSamAltman和AI開發平臺HumanLoop的創始人RazaHabib等20多位開發者開展了一次閉門討論會,主要聊了OpenAI的使命、AI的影響以及一些在開發過程中的實際問題。
會后RazaHabib做了一份詳細的會議要點整理,其中提到了OpenAI接下來的重要工作安排以及時間節點,我們對其進行了全文編譯,Enjoyit!
劃重點:
1.OpenAI嚴重受限于GPU,需要更多的GPU來解決突破ChatGPT遇到的技術問題
2.給GPT-4降本提效是OpenAI當前的首要任務
3.很快ChatGPT能支持輸入更多的文字(最高可達100萬tokens)
4.GPT-4的多模態功能(視覺識別等)要到2024年才會公開
5.OpenAI正在考慮開源GPT-3
以下是RazaHabib的全文記錄:
上周,我有幸與SamAltman和其他20位開發者一起坐下來,討論OpenAI的API和他們的產品計劃。Sam對此非常開放。討論涉及到了開發者實際遇到的問題以及與OpenAI的使命和AI對社會影響相關的大問題。以下是關鍵要點:
1.OpenAI目前嚴重受限于GPU
在整場討論中,一個反復提到主題是OpenAI目前極度依賴GPU,這讓他們很多短期計劃都延遲了。
OpenAI收到最多的用戶投訴都是關于API的可靠性和速度。Sam理解他們的擔憂,并解釋說問題的大部分是由于GPU資源短缺造成的。
ChatGPT此前支持的32ktokens上下文功能還不能推廣給更多的人,OpenAI還有一些問題需要解決,因此,盡管他們可能很快就會有100k-1M的tokens上下文窗口(今年內),但還都需要在研究上取得突破。
微調API也目前受限于GPU資源。他們還沒有使用像Adapters或LoRa這樣的高效微調方法,因此微調運行和管理非常消耗計算資源。未來會有更好的微調方式。他們甚至可能會主持一個社區貢獻模型的市場。
專用容量供應同樣受限于GPU資源。OpenAI為有私有需求的客戶提供了專用容量,可以讓客戶在專用的空間運行私人數據。要訪問此服務,客戶需要承諾預支10萬美元。
2.OpenAI路線圖
Sam分享了OpenAIAPI的暫定的短期路線圖。
2023:
更便宜、更快的GPT-4——這是他們的首要任務?偟膩碚f,OpenAI的目標是盡可能降低‘智能的成本’,因此他們將努力繼續降低‘API’的成本。
更長的上下文窗口——在不久的將來,最高可達100萬個tokens的上下文窗口是可能的。
微調API——微調API將擴展到最新的模型,但具體形式將由開發者實際需求的決定。
有狀態的API——當你今日調用聊天API時,你必須反復傳遞相同的對話歷史,并反復支付相同的tokens。將來將有一個記住對話歷史的API版本。
2024:
多模態ーー這是作為GPT-4發行版的一部分演示的,但是在獲得更多的GPU資源之前不能擴展到所有人。
3.插件‘沒有PMF’,短期內應該不會出現在API中
很多開發人員都對通過API訪問ChatGPT插件感興趣,但Sam說他認為這些插件短期內不會發布。除了瀏覽之外,插件的使用表明他們還沒有PMF。
他指出,很多人認為他們希望自己的應用程序位于ChatGPT之內,但他們真正想要的是應用程序中的ChatGPT。
4.除了與‘類ChatGPT’競爭外,OpenAI將避免與其客戶競爭
有不少開發者表示,他們擔心在OpenAI可能最終發布與他們競爭的產品的情況下使用OpenAI的API。Sam表示,OpenAI不會發布ChatGPT之外的更多產品。
Sam表示,按照慣例偉大的平臺都會有殺手級應用,ChatGPT將允許他們通過成為自己產品的客戶來使API更好。ChatGPT的愿景是成為工作的超級智能助手,但OpenAI不會涉及其他許多GPT用例
不少開發人員表示,他們擔心未來OpenAI針對他們的產品會開發出強大的競品,因此他們對使用OpenAIAPI持著謹慎的態度。對此,Sam說OpenAI不會在ChatGPT之外發布更多的產品。
5.監管是必要的,但開源也是必要的
雖然Sam呼吁對AI的未來進行監管,但他并不認為現有模式是危險的,并認為監管或禁止現有模式將是個大錯誤。
他重申了他對開源重要性的信念,并表示OpenAI正在考慮將GPT-3開源。他們之所以還沒有開源是因為他們覺得沒多少人和公司有能力妥善管理如此大型的大語言模型。
6.模型比例定律仍然成立
最近許多文章聲稱‘巨型人工智能模型的時代已經結束’。但這并不準確。
OpenAI的內部數據表明,模型性能的與規模成比例的規律仍然成立,并且使模型更大性能更強。
值得注意的是,由于OpenAI在短短幾年內就將模型擴大了數百萬倍,這樣的擴展速度不可能持續下去。OpenAI會繼續嘗試把模型做得更大,但它們每年的規?赡苤粫黾右槐痘騼杀,而不是增加很多數量級。
事實上,擴大模型規模對AGI開發的時間表有重大影響。擴大規模的理念是,我們可能已經有構建AGI所需的大部分工作,剩下的大部分工作將采用現有的方法,并將它們擴展到更大的模型和更大的數據集。
如果規模擴張的時代已經結束,那么我們應該預期AGI會很遙遠。比例定律仍然成立的事實也表示我們會用更短的時間實現AGI。