云服务器价格_云数据库_云主机【优惠】最新活动-搜集站云资讯

网站建设_自己做云服务器_稳定性好

小七 141 0

介绍mlflow应用程序:mlflow示例应用程序的存储库

介绍在这个机器学习平台上实习的机器工程师Ricki。作为我实习生项目的一部分,我建立了一套MLflow应用程序,展示了MLflow的功能,并提供了可供学习的社区示例。在这个博客中,我将讨论这个可插入的ML应用程序库,它们都可以通过MLflow运行。此外,我还将分享我在实习期间如何实现两个MLflow特性:从Git子目录运行MLprojects和TensorFlow集成。mlflow应用程序:一组mlflow应用程序示例mlflow apps是可通过mlflow运行的可插入ML应用程序的存储库。它通过提供如何使用MLflow的具体示例,帮助用户快速开始使用MLflow。通过一行MLflow API调用或CLI命令,用户可以运行应用程序来训练TensorFlow、XGBoost和scikit学习本地或云存储中的数据的模型。这些应用程序通过MLflow的跟踪api记录通用的度量和参数,允许用户轻松地比较适合的模型。目前,mlflow apps专注于模型训练,但我们计划为特性工程/数据预处理添加额外的功能。我们欢迎社区在这方面的贡献。mlflow应用程序由三个应用程序组成,每个应用程序根据您的输入数据创建和训练不同的模型。应用程序训练的模型是:TensorFlow的DNNRegressorXGBoost的梯度增强树(GBT)斯克勒姆弹性网想知道如何使用这些应用程序吗?您可以在这里查看存储库中应用程序的源代码和简短教程。有关如何在Databricks中使用MLflow的深入教程,请查看此笔记本。增强开源MLflowMLflow能够通过CLI命令运行位于远程git存储库中的MLflow项目,比如mlflow运行git@github.com:示例/示例.git...MLflow现在可以执行git存储库子目录中MLproject文件描述的ML项目。以前,从远程存储库执行MLflow运行需要MLproject和康达·亚姆git存储库根目录中的文件。git回购结构的示例必须如下所示:原始MLFlow Git回购布局这种git repo结构会导致每个项目彼此共享不必要的依赖关系(例如,运行sklearn_文件将需要一个conda环境,安装三个不同的框架,尽管只需要sklearn)。实施新功能后,命令可能如下所示:mlflow运行git@github.com:示例/示例.git#sklearn_项目...它随后将访问位于名为sklearn_project的子目录中的MLproject文件。上面所示的前面的示例git repo现在可以这样重组:改进的MLflow项目Git布局现在,项目和依赖关系被很好地模块化和解耦(例如,sklearn_项目在创建conda环境时只需要sklearn框架)。这反过来又会导致MLflow更干净、更轻松的用户体验。MLflow的张量流积分尽管MLflow允许用户使用任何ML库运行和部署模型,但我们也希望项目具有内置的易于使用的与流行库的集成。作为实习的一部分,我为TensorFlow开发了一个集成,它允许保存、加载和部署TensorFlow模型。#保存TensorFlow模型。保存的估计器路径=estimator.export_savedmodel(保存的估计器路径,接收器_-fn).解码("utf-8")#记录刚刚保存的TensorFlow模型。mlflow.tensorflow.log_保存的_模型(saved_model_dir=保存的估计器_路径,signature_def_key="预测",神器路径=tmp.路径("型号")除了记录TensorFlow模型之外,还可以将其加载回并使用MLflow api对其执行推理。#将模型作为Python函数加载回pyfunc=mlflow.tensorflow.load_pyfunc(mlflow.跟踪.\u get_model_log_dir(model_name=路径,run_id=运行_id)#使用新数据或测试数据进行预测预测=pyfunc.预测(测试_-df)MLflow目前具有TensorFlow、SparkML、H2O和sklearn模型的内置集成。在不久的将来,请留意更多的框架支持!结论在开发mlflow应用程序的时候,我能够体验mlflow作为一个用户和一个项目开发人员。我能够更好地看到社区和项目开发人员对于MLflow这样的开源项目有多么紧密地交织在一起。作为我的第一次实习,我没有比这更好的经历了。我来到数据仓库,渴望了解有关行业和新技术的所有信息,我发现那些符合我学习愿望的工程师。因为我所处的环境是有成就的工程师不断地督促自己去学习和挑战自己,所以我也被鼓励去做同样的事情。因此,作为一名软件工程师,我的技能有了突飞猛进的提高。特别感谢制作服务和ML平台团队,包括Matei Zaharia、Aaron Davidson、Paul Ogilvie、Andrew Chen、Mani Parkhe、Tomas Nykodym、Sue Ann Hong、Corey Zumar和我的导师Sid Murching。谢谢你这个美妙的夏天!阅读更多查看其他资源,了解有关MLflow和MLflow应用程序的信息:mlflow应用程序mlflow应用程序示例笔记本MLflow Git回购MLflow文件免费试用Databricks。今天就开始吧