面向机器智能的TensorFlow实践：产品环境中模型的部署

ClassificationRequest* request,

ClassificationResponse* response)

override {

// 加载分类签名

ClassificationSignature signature;

const tensorflow::Status signatureStatus =

GetClassificationSignature(sessionBundle-

>meta_graph_def, &signature);

if (!signatureStatus.ok()) {

return Status(StatusCode::INTERNAL,

signatureStatus.error_message());

}

// 将 protobuf 输入变换为揣摸输入张量

tensorflow::Tensor

input(tensorflow::DT_STRING, tensorflow::TensorShape());

input.scalar<string>()() = request->input();

vector<tensorflow::Tensor> outputs;

//运行揣摸

const tensorflow::Status inferenceStatus =

sessionBundle->session->Run(

{{signature.input().tensor_name(),

input}},

{signature.classes().tensor_name(),

signature.scores().tensor_name()},

{},

&outputs);

if (!inferenceStatus.ok()) {

return Status(StatusCode::INTERNAL,

inferenceStatus.error_message());

}

//将揣摸输出张量变换为protobuf输出

for (int i = 0; i <

outputs[0].vec<string>().size(); ++i) {

ClassificationClass

*classificationClass = response->add_classes();

classificationClass-

>set_name(outputs[0].flat<string>()(i));

classificationClass-

>set_score(outputs[1].flat<float>()(i));

}

return Status::OK;

}

};

classify办法的实现包含了4个步调：

应用GetClassificationSignature函数加载存储在模型导出元数据中的Classification-Signature。这个签名指定了输入张量的(逻辑)名称到所接收的图像的┞锋实名称以及数据流图中输出张量的(逻辑)名称到对其获得揣摸结不雅的映射。
将JPEG编码的图像字符串大年夜request参数复制到将被进行揣摸的┞放量。
7/11 首页上一页 5 6 7 8 9 10 下一页尾页

　　推荐阅读

　　传统存储市场正遭遇来自横向扩展SDS 的威胁

传统的存储厂商正面对着前所未竽暌剐的压力。软件定义存储与公有云存储(也是基于横向扩大的SDS技巧)相浇忧⒛解决筹划正在蚕食传统的存储市场，如Dell EMC的VNX、HPE的Smart Array、NetApp的E系列和FAS。我同样认为>>>详细阅读

本文标题：面向机器智能的TensorFlow实践：产品环境中模型的部署

地址：http://www.17bianji.com/lsqh/34985.html

1/2 1