我有很多 tensorflow 模型,它们利用第 3 方库(即 Gensim)在训练和评估之前预处理数据。查询模型以进行预测时需要进行相同的预处理。
如果使用 tensorflow-serving 或托管的 Google ML 解决方案,我能否将第 3 方库和自定义预处理步骤与模型捆绑在一起,并让这两种服务解决方案中的任何一种运行它?或者,如果我想使用第 3 方库,是否必须在客户端预处理数据?我还没有遇到任何这样的例子。
明确地说 - 我知道您可以使用 tensorflow 的库进行服务器端预处理,我对第 3 方案例特别感兴趣。
请您参考如下方法:
就 ML 引擎而言,我不明白这怎么可能。在那里部署的模型需要在 SavedModel 中格式。这不包括任何 Python 文件,例如您可以在其中运行自定义处理的文件。对比创建模型的训练作业 can include custom dependencies .
