3月11日 ,亞馬遜云科技宣布,DeepSeek-R1現已作為完全托管的無(wú)服務(wù)器大語(yǔ)言模型(LLM)在A(yíng)mazon Bedrock上正式可用, 亞馬遜云科技是首個(gè)將該模型作為完全托管服務(wù)推出的云服務(wù)提供商。DeepSeek-R1是人工智能初創(chuàng )公司深度求索推出的一系列模型之一。它是公開(kāi)可用模型,在處理復雜任務(wù)時(shí)具有高精度的復雜推理能力和對上下文的深度理解。
DeepSeek在過(guò)去幾個(gè)月一直是業(yè)界關(guān)注的焦點(diǎn),其快速發(fā)展的態(tài)勢及其訓練技術(shù)受到全球媒體的廣泛報道,據報道這些技術(shù)使其模型比同類(lèi)產(chǎn)品的成本降低了90-95%,具有更高的性?xún)r(jià)比。
此次的發(fā)布進(jìn)一步擴展了客戶(hù)在A(yíng)mazon Bedrock上使用DeepSeek-R1及其蒸餾版本(即經(jīng)過(guò)訓練、類(lèi)似于DeepSeek-R1的小型模型)的方式?,F在,亞馬遜云科技的客戶(hù)可以在A(yíng)mazon Bedrock上輕松訪(fǎng)問(wèn)完全托管的、無(wú)服務(wù)器的DeepSeek-R1模型,并將其應用于企業(yè)級部署。
任何客戶(hù)均可利用其強大的功能解決復雜的問(wèn)題、編寫(xiě)代碼、處理數據、分析數據等。完全托管的方式使得客戶(hù)無(wú)需擔心任何背后復雜的技術(shù)設置或運維。通過(guò)在A(yíng)mazon Bedrock上使用DeepSeek-R1,客戶(hù)還可以受益于亞馬遜云科技企業(yè)級的安全性,包括數據加密和嚴格的訪(fǎng)問(wèn)控制,從而確??蛻?hù)的數據隱私與合規??蛻?hù)可以完全控制自己的數據,并可以設置如Amazon Bedrock Guardrails等亞馬遜云科技推薦的保護措施,以檢測和防止模型幻覺(jué)。
此前,DeepSeek-R1已在A(yíng)mazon Bedrock Marketplace上推出,客戶(hù)可使用自己管理的基礎設施運行該模型。此外,客戶(hù)還可以通過(guò)Amazon Bedrock自定義模型導入功能,上傳自己微調的DeepSeek-R1蒸餾版Llama模型,將其作為完全托管的模型運行,該功能使客戶(hù)通過(guò)單一API導入和使用其自定義模型以及現有模型。
自1月下旬該模型推出以來(lái),已有數千名客戶(hù)使用Amazon Bedrock的自定義模型導入功能部署了DeepSeek-R1模型。
如果將DeepSeek-R1擬人化,他們會(huì )是一位專(zhuān)家級軟件工程師,能夠輕松地用Python編寫(xiě)代碼、用通俗易懂的語(yǔ)言解釋復雜算法,或者搖身一變,輕松撰寫(xiě)關(guān)于經(jīng)典哲學(xué)家的論文,甚至可將項目需求翻譯為中文供國際團隊使用。特別值得一提的是,他們全天候可用,并且絲毫不介意被反復詢(xún)問(wèn)上百遍。
亞馬遜云科技生成式AI副總裁Vasi Philomin表示:“我們很高興將DeepSeek-R1引入Amazon Bedrock,它是一款非常先進(jìn)的模型,不但顯著(zhù)降低了推理成本,同時(shí)還具備前沿推理性能。通過(guò)與Amazon Bedrock Guardrails等功能結合使用,客戶(hù)可以實(shí)施AI安全護欄,同時(shí)獲得Amazon Bedrock提供的內置安全與隱私保護。借助這種完全托管的實(shí)現方式,客戶(hù)能夠以無(wú)服務(wù)器按token付費的模式使用該模型,幫助他們無(wú)需管理任何基礎設施即可實(shí)現從實(shí)驗到生產(chǎn)的規模擴展?!?/p>
通過(guò)將DeepSeek-R1作為完全托管的無(wú)服務(wù)器模型在A(yíng)mazon Bedrock中提供,亞馬遜云科技持續為廣泛的客戶(hù)提供行業(yè)領(lǐng)先的生成式AI模型的最新創(chuàng )新,無(wú)論是初創(chuàng )公司還是大型企業(yè),無(wú)論其技術(shù)能力如何。
亞馬遜云科技通過(guò)提供來(lái)自業(yè)界領(lǐng)先AI公司廣泛的完全托管的模型選擇,持續賦能企業(yè)根據自身需求選擇合適的工具,并成為客戶(hù)構建和擴展生成式AI最便捷的方式。
亞馬遜云科技強烈建議客戶(hù)將Amazon Bedrock Guardrails和Amazon Bedrock模型評估功能與DeepSeek-R1結合使用,以保護其生成式AI應用程序。Amazon Bedrock Guardrails就像高速公路上的護欄能防止車(chē)輛偏離道路一樣,有助于防止應用程序生成有害或不恰當的內容。這包括屏蔽攻擊性語(yǔ)言、露骨的內容或其他被認為不適合最終用戶(hù)的內容,以及識別和刪除個(gè)人數據以保護用戶(hù)隱私。
此外,客戶(hù)還可以根據公司政策或行業(yè)法規設置特定規則。評估工具則可幫助客戶(hù)評估AI模型在特定需求下的表現。如需了解更多信息,請參閱Amazon Bedrock Guardrails和Amazon Bedrock評估工具。