發揮GPU優秀的并行計算能力,使用容器可以快速獲得需要的應用環境,是目前推薦的深度學習與數據科學開展研究的方式。它便于資源的分配與調度,優化異構資源調度:提供彈性、高效、細粒度(支持GPU共享)、簡化異構資源管理復雜性;提升可觀測性和使用效率, 可移植、可組裝、可重現的AI流程;可加載多種深度學習預訓練模型模塊,預安裝pytorch、tensoflow等深度學習框架與相關計算庫。
隨著人工智能與邊緣計算的發展,各種數據科學的應用落地,在在線教育行業中部署相關的服務去支持業務開展已成為大勢所趨——深度學習下的圖像識別、NLP等技術給行業帶來新發展空間。
數據規模在不斷增長,使用公有云部署業務是一種便捷的模式。但越來越多企業用戶發現,大規模使用公有云基礎及其深度學習API服務,已成為每年開支中的大頭。混合云部署的模式業務的模式可能成為更合理的選擇,把部分重要業務部署在企業私有云中,不僅可獲得對業務與數據安全的全面控制,據第三方測評,對中小型規模集群、私有部署甚至可能降低高達70%的運維服務費用。把部分業務私有部署,已成為在線教育行業中穩健的選擇。
在混合云部署中,云原生計算成為先行崛起的理念。云原生計算依靠資源云化(虛擬化),應用云化(標準化、自動化、可拓展、高可用),云原生(互聯網規模、敏捷,彈性)的優勢,逐漸成為人工智能深度學習、數據科學等應用及服務的載體。