TensorFlow入门
Last updated
Was this helpful?
Last updated
Was this helpful?
python2.7
Jupyter Notebook 交互式开发环境
安装：
Docker容器中使用
-it表示交互式，-p端口映射，使得本机端口可以访问容器端口
-v挂载目录，本机目录映射到容器目录
问题：keras=2.2.4, tensorflow-gpu==1.15.0的时候运行代码model = multi_gpu_model(model, gpus=NUM_GPUS)，报错：To call multi_gpu_model with gpus=4, we expect the following devices to be available，详情如图所示：
尝试
尝试过安装其他版本的tensorflow，会出现别的问题。
尝试过修改multi_gpu_model函数的源码，将target_devices = ['/cpu:0'] + ['/gpu:%d' % i for i in target_gpu_ids]中的/gpu改成/xla_gpu，还是行不通，虽然不报错，但是训练的时候不会使用GPU。（使用命令nvidia-smi可以看到GPU的使用情况，如果Volatile GPU-Util是0%，说明没用上）
解决
用命令tf.test.is_gpu_available()运行发现检测不到gpu（输出False），然后看我的cuda版本是10.1，网上的版本对应关系10.1的对应tf版本都是2.0以上的。
查看cuda版本的命令：nvcc --version或者cat /usr/local/cuda/version.txt
解决安装tensorflow-gpu1.X版本问题只需要在安装tensorflow-gpu之前安装cudatoolkit=10.0的包。先后执行如下命令：
conda install cudatoolkit=10.0
conda install tensorflow-gpu==1.14.0
然后再运行tf.test.is_gpu_available()，返回True，大功告成！
中间参考过的资料：
tensorflow-serving的服务，可以自动加载某个路径下的所有模型，模型通过事先定义的输入输出和计算图，直接提供rpc或者rest的服务。
一方面，支持多版本的热部署（比如当前生产环境部署的是1版本的模型，训练完成后生成一个2版本的模型，tensorflow会自动加载这个模型，停掉之前的模型）。
另一方面，tensorflow serving内部通过异步调用的方式，实现高可用，并且自动组织输入以批次调用的方式节省GPU计算资源。
客户端 ----> web服务 --grpc或者rest--> tensorflow serving
性能优化：
历史模型文件大小：
2019.11.18，pd文件2.7M，变量文件3666M
2021/2/18
1.问题：运行训练代码，报错AttributeError: 'GFile' object has no attribute 'readable'
with tf.gfile.Open(train_data_dir) as f:
pois = pd.read_csv(f, encoding="utf-8", low_memory=False)
解决：去掉encoding="utf-8"即可。
换成Python2运行
max_batch_size { value: 128 }
batch_timeout_micros { value: 0 }
max_enqueued_batches { value: 1000000 }
num_batch_threads { value: 8 }
--enable_batching=true --batching_parameters_file=/config/batching.config--model_config_file_poll_wait_seconds=1
一些性能优化文章
以上基本上都是官方指南的翻译
遇到同样问题的github讨论帖
遇到同样问题的stackoverflow讨论帖：
查看GPU的使用情况：
在CUDA10.1版本下安装tensorflow-gpu=1.15版本：
CUDA和TensorFlow版本对应关系：
文件操作详解
模型详解与应用
模型详解与应用（二）
篇| TensorFlow 2.x模型Serving服务（介绍了很多参数，棒~）
性能优化篇（batching参数如何设置）
（batching参数如何设置）
（官方指南的翻译）
常用命令与操作
TensorFlow Serving的性能提高超过70%？（国外文章翻译，不太懂）
知乎问答：
（美团的）
生产环境部署介绍
TensorFlow模型
（pb文件保存以及java加载全过程）
TensorFlow在Sparse模型上的实践（分布式，暂时用不到）
tensorflow分布式训练架构总结
TensorFlow Serving部署Wide & Deep模型（从零构建模型）
核心数与线程数（查询cpu核数的命令）
0.4】Tensorflow踩坑记之tf.estimator（自己构建网络，然后使用estimator）
的特征处理探究（feature_column的各个函数详解）
FM模型
