Running vLLM on Oracle Kubernetes Engine with RDMA

Cloud Run is a fully managed application platform that enables you to run your applications, including your AI and machine learning models, with on-demand access to GPUs. It abstracts away all...

AI Platform samples, which has guides on how to bring your code from various ML frameworks to Google Cloud AI Platform using different products such as AI Platform Training, Prediction, Notebooks and AI Hub.

Cloud Machine Learning 是 Google Cloud Platform 對於深度學習提供的管理服務。 它可以讓您建立作用於任何大小、任何資料的學習模型，並藉由 TensorFlow 框架打造您的服務。 您立即可以將訓練模型放置於全球的 prediction 平台，能支持成千上萬的使用者與 TB 等級的資料。

今天，我要介紹如何用雲端的機器學習引擎 (Cloud Machine Learning Engine)訓練機器學習的模型。 首先我們要將我們收集準備好的訓練數據集放在Cloud Machine Learning Engine可以訪問到的位置，例如Cloud storage，這樣CMLE才讀得到我們的檔案。 接著，我要用CMLE進行訓練時，會使用兩個文件，分別是task.py和model.py。 Task.py是一些運作的信息，例如，如何訓練會進行多長的時間、輸出的位置在哪裡等；Model.py負責我們機器

另外，在GoogleCloud平台上，你可以使用Cloud Machine Learning Engine在TensorFlow和其他PythonML庫 (如Scikit-Learning)中訓練機器學習模型，而無需操心任何基礎設置。

Google Cloud Machine Learning Engine is a managed service that enables you to easily build machine learning models that work on any type of data, of any size. Create your model with the powerful TensorFlow framework that powers many Google products, from

總而言之，CMLE 為平行機器學習模式訓練提供了一個強大的平台。 但需要手動取得和配置資源，且不處理訓練結束後的資源關閉。 使用者需要使用 Compute Engine 或 Kubernetes Engine 等 GCP 服務來配置必要的資源，並根據自己的特定要求管理其生命週期。