作家
登录

面向机器智能的TensorFlow实践:产品环境中模型的部署

作者: 来源: 2017-04-26 16:02:39 阅读 我要评论

  • 运行揣摸。它大年夜sessionBundle获得TF会话对象,并运行一次,同时传入输入和输出张量的揣摸。
  • 大年夜输出张量将结不雅复制到由ClassificationResponse消息指定的外形中的response输出参数并格局化。
  • 最后一段代码是设置gRPC办事器并创建ClassificationServiceImpl实例(用Session-Bundle对象进行设备)的样板代码。

    1. int main(int argc, char** argv) { 
    2.  
    3. if (argc < 3) { 
    4.  
    5.     cerr << "Usage: server <port> /path/to/export/files" << 
    6.  
    7. endl; 
    8.  
    9.             return 1; 
    10.  
    11.  
    12.     const string serverAddress(string("0.0.0.0:") + 
    13.  
    14. argv[1]); 
    15.  
    16.     const string pathToExportFile (argv[2]) ; 
    17.  
    18.  
    19.     unique_ptr<SessionBundle> sessionBundle = 
    20.  
    21. createSessionBundle(pathToExportFiles); 
    22.  
    23.  
    24.     const string serverAddres 
    25.  
    26. classificationServiceImpl(move(sessionBundle)); 
    27.  
    28.  
    29. ServerBuilder builder; 
    30.  
    31. builder. AddListeningPort(serverAddress, 
    32.  
    33. grpc::InsecureServerCredentials()); 
    34.  
    35.     builder.RegisterService(&classificationServiceImpl); 
    36.  
    37.  
    38.     unique_ptr<Server> server = builder.BuildAndStart(); 
    39.  
    40. cout << "Server listening on " << serverAddress << endl; 
    41.  
    42.  
    43.     server->Wait(); 
    44.  
    45.     return 0; 
    46.  
    47.  

    为了编译这段代码,须要在BUILD文件中为其定义一条规矩:

    1. cc_binary( 
    2.  
    3. name = "server"
    4.  
    5. srcs = [ 
    6.  
    7. "server.cc"
    8.  
    9. ], 
    10.  
    11. deps = [ 
    12.  
    13. ":classification_service_proto"
    14.  
    15. "@tf_serving//tensorflow_serving/servables/ 
    16.  
    17. tensorflow:session_bundle_factory", 
    18.  
    19.       "@grpc//:grpc++"
    20.  

    21.   推荐阅读

        传统存储市场正遭遇来自横向扩展SDS 的威胁

      传统的存储厂商正面对着前所未竽暌剐的压力。软件定义存储与公有云存储(也是基于横向扩大的SDS技巧)相浇忧⒛解决筹划正在蚕食传统的存储市场,如Dell EMC的VNX、HPE的Smart Array、NetApp的E系列和FAS。我同样认为>>>详细阅读


      本文标题:面向机器智能的TensorFlow实践:产品环境中模型的部署

      地址:http://www.17bianji.com/lsqh/34985.html

    关键词: 探索发现

    乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

    网友点评
    自媒体专栏

    评论

    热度

    精彩导读
    栏目ID=71的表不存在(操作类型=0)