北京時間5月11日凌晨,谷歌在2023年I/O開發者大會上發布了全新一代的大語言模型PaLM2,稱其可在移動設備上使用,成為了備受關注的焦點。
谷歌用了大量數學和科學數據集對PaLM2進行訓練,相比2022年的PaLM模型,PaLM2在多語言處理、推理和編碼能力上有了很大的提升。
(資料圖)
據官方測試,PaLM2在某些結果處理(例如數學問題)上表現比GPT-4更優秀。谷歌對PaLM2做了算法優化,使得它在體積上比PaLM要小但整體性能更好,計算效率更高。
PaLM2支持100多種不同的語言和20多種編程語言,包括JavaScript、Python、Prolog、Verilog、Fortran等。
同時,支持多模態的PaLM2還可以看懂和生成音視頻內容,其中音視頻內容包括曲調、編碼器、mimes、字幕、媒體類型和剪輯。
PaLM 2進行了更多多語言能力方面的訓練,文本橫跨100多種語言,極大程度上提高了PaLM2理解、生成和翻譯細微差異化文本的能力,解決了對成語、詩歌和謎語等具有高難度文本處理門檻的問題。與此同時,PaLM2能夠通過高級別的語言能力考試。
在推理能力方面, 由于PaLM 2在包含科學論文和數學表達式的網頁上進行了訓練并進行模擬推理,因此具備了在邏輯、常識推理和數學方面的改進能力。
而在編碼能力上,PaLM 2支持20多種編程語言。由于它是基于大量公開可用的源代碼數據集進行預訓練,因此擅長處理Python和JavaScript等流行編程語言,同時也可進行Prolog、Fortran和Verilog等小眾語言的編程。
據CEO皮查伊介紹,PaLM 2將擁有從小到大四種尺寸,分別為Gecko、Otter、Bison和Unicorn。Gecko是PaLM 2中體積最小的模型,可以在移動設備上運行,速度足夠快,即使離線狀態也可以進行交互應用。
Otter是中等大小模型,適合各種任務,包括自然語言處理、機器翻譯和代碼生成。
Bison是更大的模型,可以處理更復雜任務,例如生成逼真的圖像和視頻。
Unicorn是最大尺寸,可用于處理最復雜的任務,比如編寫創意文本,如詩歌、代碼、腳本、音樂作品、電子郵件、信件等。
此次發布會,谷歌在多項產品和服務方面推出了重磅更新,涉及谷歌地圖、人工智能、搜索、安卓、谷歌云和Pixel等領域。
谷歌CEO皮查伊表示,此次發布的PaLM 2是目前最先進的語言模型,也是其PaLM語言模型的第二個版本。新版本具有升級的多語言、推理和編碼能力,將為25種谷歌產品提供支持,進一步擴展谷歌的AI生態圈。
前瞻經濟學人APP資訊
更多本行業研究分析詳見前瞻產業研究院《2023-2028年中國AIGC產業發展前景預測與投資戰略規劃分析報告》同時前瞻產業研究院還提供產業大數據、產業研究、政策研究、產業鏈咨詢、產業圖譜、產業規劃、園區規劃、產業招商指南、IPO募投可研、IPO業務與技術撰寫、IPO工作底稿咨詢等解決方案。
標簽: