對話亞馬遜生成式AI產品研究院院長Sherry Marcus：Titan大模型不開源 更看重參數質量丨WAIC 2023

【資料圖】

7月6日至7月8日，2023世界人工智能大會在上海舉辦。在本屆大會評選出的九大鎮館之寶中，亞馬遜的“Amazon Bedrock”就位列其中。據悉，Amazon Bedrock是亞馬遜云科技推出的一項完全托管的生成式AI服務，通過API提供來自領先的AI初創公司和亞馬遜自研的基礎模型，幫助客戶便捷安全地構建和擴展生成式AI應用。

7月6日晚間，亞馬遜云科技生成式AI產品研究院院長Sherry Marcus接受了每日經濟新聞在內的媒體采訪。

目前，不少大模型的參數級別已經達到千億級別。那么，是否參數級別越高越好呢？此外，亞馬遜的大模型是否開源呢？

Sherry Marcus回復記者表示：“首先，亞馬遜自研Titan模型不是開源的。關于參數數量是否代表模型好壞，這個問題確實有意思。實際上，這取決于具體情況。根據文獻當中所記載的，如果你使用大語言模型對這些數據進行訓練，關鍵在于使用的數據質量。如果只是使用了網絡上的一些數據，那么即便使用了非常大的模型，可能最后的準確度并不會很理想。相比來說，如果使用的是相對比較小的模型，但使用的是高質量數據，可能結果未必會輸給前者。但是如果說能夠用一些高質量的數據，不僅有網絡上的數據，還有課本上數據，還有科學數據，即便使用小的模型也能夠獲得比較高的準確度。”

此外，目前國際上有很多排行榜，這些排行榜對亞馬遜的意義又是什么呢？Sherry Marcus認為：“現在有很多的LLM排行榜，這些排行榜評估模型的好壞需要具備出色的性能。然而，這些評估通常是基于特定的案例和任務。我們認為這些排行榜可能展示了模型在特定訓練任務上的表現，但并不代表模型的全部價值。我們的觀點是，在將這些模型應用于客戶的數據之后，才能真正評判其結果所在。”

“我相信未來的語言模型會變得更龐大，也會有更多不同的模型出來，包括多模態的模型，它們使用了不同的數據集。也會有更多量身定制的模型涌現。另外，我們對于如何在特定商業中更好地使用這些模型，也將有更深入的理解。”Sherry Marcus補充表示。

值得注意的是，亞馬遜云科技也在自己的平臺上提供第三方的模型。那么，在第三方模型的安全性方面，亞馬遜是如何考慮的？此外，如何跟模型提供者進行安全責任的劃分？

對此，Sherry Marcus認為：“如果客戶使用第三方的模型，這些數據是存儲在亞馬遜云科技的EC2的服務器上面的，因此數據是比較安全的。”

關于責任劃分的問題，Sherry Marcus表示：“第三方的模型提供商負責確保準確性和訓練結果的質量，而亞馬遜負責的是基礎架構和模型相關的數據方面。因此，我們與第三方共同承擔模型的責任，就是安全責任共擔模型。”

標簽：