Skip to content

guoswang/TensorBoard

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

11 Commits
 
 
 
 
 
 

Repository files navigation

使用最基础的识别手写字体的案例,建立一个简单的神经网络,让大家了解如何使用Tensorboard。

Requirements

Usage

Step 1. Download this repository with git or click the download ZIP button

$ git clone https://github.com/guoswang/TensorBoard.git
$ cd TensorBoard

Step 2. Download MNIST dataset. In this step, you have two choices:

  • a) Automatic downloading with ==download_data.py== script
$ python download_data.py  
  • b) Manual downloading with wget or other tools, move and extract dataset into ==data/mnist== directory, for example:
$ mkdir -p data/mnist
$ wget -c -P data/mnist http://yann.lecun.com/exdb/mnist/train-images-idx3-ubyte.gz
$ wget -c -P data/mnist http://yann.lecun.com/exdb/mnist/train-labels-idx1-ubyte.gz
$ wget -c -P data/mnist http://yann.lecun.com/exdb/mnist/t10k-images-idx3-ubyte.gz
$ wget -c -P data/mnist http://yann.lecun.com/exdb/mnist/t10k-labels-idx1-ubyte.gz
$ gunzip data/mnist/*.gz

Step 3. Start the training and testing(Using the MNIST dataset by default):

$ python main.py
$ tensorboard --logdir='log'

Step 4. You will get a website after Step 3. You can navigate to the website.

Results

  1. SCALARS 展示的是标量的信息,程序中用tf.summary.scalars()定义的信息都会在这个窗口。程序中定义的标量有:准确率accuracy,dropout的保留率,隐藏层中的参数信息,已经交叉熵损失。这些都在SCLARS窗口下显示出来了。
    点开accuracy,红线表示test集的结果,蓝线表示train集的结果,可以看到随着循环次数的增加,两者的准确度也在通趋势增加 这里写图片描述 点开dropout,红线表示的测试集上的保留率始终是1,蓝线始终是0.9
    这里写图片描述 点开layer1,查看第一个隐藏层的参数信息。 这里写图片描述 从中我们可以看到偏执项b的信息,随着迭代的加深,最大值越来越大,最小值越来越小,与此同时,也伴随着方差越来越大,这样的情况是我们愿意看到的,神经元之间的参数差异越来越大。因为理想的情况下每个神经元都应该去关注不同的特征,所以他们的参数也应有所不同。
    权值w的信息,同理,最大值,最小值,标准差也都有与b相同的趋势,神经元之间的差异越来越明显。w的均值初始化的时候是0,随着迭代其绝对值也越来越大。

    点开layer2 这里写图片描述 点开loss,可见损失的降低趋势。 这里写图片描述

  2. Images记录图像数据。在程序中我们设置了一处保存了图像信息,就是在转变了输入特征的shape,然后记录到了image中,于是在tensorflow中就会还原出原始的图片了: 这里写图片描述

  3. Graphs 这里展示的是整个训练过程的计算图graph,从中我们可以清洗地看到整个程序的逻辑与过程。 这里写图片描述
    单击某个节点,可以查看属性,输入,输出等信息 这里写图片描述 单击节点上的“+”字样,可以看到该节点的内部信息。 这里写图片描述 另外还可以选择图像颜色的两者模型,基于结构的模式,相同的节点会有同样的颜色,基于预算硬件的,同一个硬件上的会有相同颜色。 这里写图片描述

  4. DISTRIBUTIONS 这里查看的是神经元输出的分布,有激活函数之前的分布,激活函数之后的分布等。 这里写图片描述

  5. HISTOGRAMS 也可以看以上数据的直方图 这里写图片描述

  6. EMBEDDINGS 展示的是嵌入向量的可视化效果,本案例中没有使用这个功能。之后其他案例中再详述。

  7. AUDIO 这里展示的是声音的信息,但本案例中没有涉及到声音的。

More information in faiculty:

这里写图片描述

About

A simple example for visualizing tf-code

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages