當(dāng)前簡訊:OpenAI CEO：未來十年內(nèi) AGI 將會超過 90 年代初人類所具備的專業(yè)水平
2023-06-10 17:43:51|
來源：IT之家 作者：
(資料圖片僅供參考)
IT之家 6 月 10 日消息，在今日舉辦的 2023 智源人工智能大會上，OpenAI 聯(lián)合創(chuàng)始人兼 CEO，薩姆?奧特曼（Sam Altman）以視頻連線的方式發(fā)表了演講，這也是 Altman 首次對中國觀眾發(fā)表演講。
他表示，世界的注意力主要集中在解決當(dāng)今的人工智能問題上，很多問題的解決非常迫切。人工智能能力正在迅速增長，現(xiàn)在需要負責(zé)任地將其應(yīng)用到世界中去。
他認為，未來十年內(nèi) AGI 將會超過 90 年代初人類所具備的專業(yè)水平，最終可能超過人類最大體量公司的總體生產(chǎn)力，潛在收益是巨大的。他還強調(diào)，推進 AGI 安全是行業(yè)尋找共同立場的最重要領(lǐng)域之一。
對于 GPT-4 從完成預(yù)訓(xùn)練到部署，奧特曼稱 OpenAI 團隊花了八個月的時間來研究如何前置預(yù)判風(fēng)險并給出對策的問題，團隊走在正確的道路上，GPT-4 的對齊程度超過當(dāng)前所有的代碼。但對于更高級的系統(tǒng)來說，對齊仍是一個尚未解決的問題，需要新的技術(shù)方法以及加強治理監(jiān)督，畢竟未來的 AGI 可能是一個十萬行二進制代碼的系統(tǒng)，人類監(jiān)督者很難判斷如此規(guī)模的模型是否在做一些損害的事情。
至于 OpenAI 會否會開放 GPT 源碼，奧特曼表示：目前 OpenAI 開源了部分模型，隨著時間的推移，可以期望更多模型開源。未來隨著模型變得越來越大，確保正確性將變得昂貴，開源一切可能不是最優(yōu)路徑。
標簽：
