作家
登录

面向机器智能的TensorFlow实践:产品环境中模型的部署

作者: 来源: 2017-04-26 16:02:39 阅读 我要评论

  1. Scores, class_ids=tf.nn.top_k(y,NUM_CLASS_TO_RETURN) 
  2.  
  3. #为了简便起见,我们将仅返回类别ID,应当别的对它们定名 
  4.  
  5. classes = 
  6.  
  7. tf.contrib.lookup.index_to_string(tf.to_int64(class_ids) 
  8.  
  9. mapping=tf.constant([str(i) for i in range(1001)])) 
  10.  
  11.  
  12. model_exporter = exporter.Exporter(saver) 
  13.  
  14. signature = exporter.classification_signature( 
  15.  
  16.    input_tensor=external_x, classes_tensor=classes, 
  17.  
  18. scores_tensor=scores) 
  19.  
  20. model_exporter.init(default_graph_signature=signature, 
  21.  
  22. init_op=tf.initialize_all_tables()) 
  23.  
  24.    model_exporter.export(sys.argv[1]+ "/export" 
  25.  
  26. tf.constant(time.time()), sess)  

因为对Exporter类代码中主动生成的代码存在依附,所以须要在Docker容器内部应用bazel运行我们的导出器。

为此,须要将代码保存到之前启动的bazel工作区内的exporter.py中。此外,还须要一个带有构建规矩的BUILD文件,类似于下列内容:

  1. # BUILD文件 
  2.  
  3. py_binary( 
  4.  
  5.    name = "export", 
  6.  
  7. srcs =[ 
  8.  
  9.   “export.py”, 
  10.  
  11. ], 
  12.  
  13. deps = [ 
  14.  
  15. “//tensorflow_serving/session_bundle:exporter”, 
  16.  
  17. “@org_tensorflow//tensorflow:tensorflow_py”, 
  18.  
  19. #仅在导出 inception模型时需 
  20.  
  21. “@inception_model//inception”, 
  22.  
  23. ], 
  24.  
  25.  

然后,可在容器中经由过程下列敕令运行导出器:

  1. # 在Docker容器中 
  2.  
  3. cd /mnt/home/serving_example  

它将根据可大年夜/tmp/inception-v3中提取到的检查点文件在/tmp/inception-v3/{current_timestamp}/ 中创建导出器。

定义办事寡居口

TensorFlow办事应用gRPC协定(gRPC是一种基于HTTP/2的二进制协定)。它支撑用于创建办事器和主动生成客户端存根的各类说话。因为TensorFlow是基于C++的,所以须要在个中定义本身的办事器。荣幸的是,办事器端代码比较简短。

为了应用gRPS,必须在一个protocol buffer中定义办事契约,它是用于gRPC的IDL(接口定义说话)和二进制编码。下面来定义我们的办事。前面的导出一节曾提到,我们欲望办事有一个可以或许接收一个JPEG编码的待分类的图像字符串作为输入,并可返回一个根据分数分列的由揣摸获得的类别列表。

如许的办事应定义在一个classification_service.proto文件中,类似于:

  1. syntax = "proto3"; 
  2.  
  3. message ClassificationRequest { 
  4.  
  5. // JPEG 编码的图像字符串 
  6.  
  7. bytes input = 1; 
  8.  
  9. }; 
  10.  

  11.   推荐阅读

      传统存储市场正遭遇来自横向扩展SDS 的威胁

    传统的存储厂商正面对着前所未竽暌剐的压力。软件定义存储与公有云存储(也是基于横向扩大的SDS技巧)相浇忧⒛解决筹划正在蚕食传统的存储市场,如Dell EMC的VNX、HPE的Smart Array、NetApp的E系列和FAS。我同样认为>>>详细阅读


    本文标题:面向机器智能的TensorFlow实践:产品环境中模型的部署

    地址:http://www.17bianji.com/lsqh/34985.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)