TensorFlow

发表信息: by Creative Commons Licence

目录

什么是TensorFlow

“TensorFlow是一个使用数据流图进行数值计算的开源软件库。图中的节点表示数学运算，而图边表示在它们之间传递的多维数据阵列（又称张量）。

灵活的体系结构允许你使用单个API将计算部署到桌面、服务器或移动设备中的一个或多个CPU或GPU。“

如果你之前曾经使用过numpy，那么了解TensorFlow将会是小菜一碟！numpy和TensorFlow之间的一个主要区别是TensorFlow遵循一个“懒惰”的编程范例。

它首先建立所有要完成的操作图形，然后当一个“会话”被调用时，它再“运行”图形。构建一个计算图可以被认为是TensorFlow的主要成分。

TensorFlow不仅仅是一个强大的神经网络库。它可以让你在其上构建其他机器学习算法，如决策树或k最近邻。

典型的“张量流”

每个库都有自己的“实施细节”，即按照其编码模式编写的一种方法。例如，在执行scikit-learn时，首先创建所需算法的对象，然后在训练集上构建一个模型，并对测试集进行预测。例如：


# 定义算法的超参数

clf = svm.SVC(gamma=0.001m C=100.)

# 训练

clf.fit(X, y)

# 预测

clf.predict(X_test)

TensorFlow遵循一个“懒惰”的方法。

在TensorFlow中运行程序的通常工作流程如下所示：

1．建立一个计算图（http://t.cn/RYRNUS6）。这可以是TensorFlow支持的任何数学操作。

2．初始化变量。

3．创建会话。

4．在会话中运行图形。

5．关闭会话。

举个例子：

写一个小程序来添加两个数字


import tensorflow as tf

# 建计算图
a = tf.placeholder(tf.int16)
b = tf.placeholder(tf.int16)
addition = tf.add(a, b)

# 初始化变量
init = tf.initialize_all_variables()

# 创建对话，并允许计算图
with tf.Session() as sess:
	sess.run(init)
	print("Addition: %i" % sess.run(addition, feed_dict+{a:2, b:3}))
	
# 关闭对话
sess.close()

TensorFlow的优点

使用TensorFlow的优点是：

1.它有一个直观的结构，因为顾名思义，它有一个“张量流”。 你可以很容易地看到图的每一个部分。

2.轻松地在CPU / GPU上进行分布式计算。

3.平台灵活性。你可以在任何地方运行模型，无论是在移动设备，服务器还是PC上。

tensorflow的缺点

Even though TensorFlow is powerful, it’s still a low level library. For example, it can be considered as a machine level language. But for most of the purpose, you need modularity and high level interface such as keras It’s still in development, so much more awesomeness to come! It depends on your hardware specs, the more the merrier Still not an API for many languages. There are still many things yet to be included in TensorFlow, such as OpenCL support. Most of the above mentioned are in the sights of TensorFlow developers. They have made a roadmap for specifying how the library should be developed in the future.

参考文献：

https://mp.weixin.qq.com/s/SrGfpcgqxtPQUD-Y5rFhEw

正文

import numpy as np
import tensorflow as tf

tf.reset_default_graph()
x = tf.get_variable("x", shape=(), dtype=tf.float32)
f = x**2

optimizer = tf.train.GradientDesecentOptimizer(0.1)
step = optimizer.minimize(f, var_list=[x])

s = tf.InteractiveSession()
s.run(tf.global_variables_initializer())

for i in range(10):
	_, curr_x, curr_f = s.run([step, x, f])
	print(curr_x, curr_f)

tf.summary.scalar('curr_x', x)
tf.summary.scalar('curr_f', f)
summaries = tf.summary.merge_all()

s = tf.InteractiveSession()
summary_writer = tf.summary.FileWriter("logs/1", s.graph)
s.run(tf.global_variables_initializer())
for i in range(10):
	_,curr_summaries = s.run([step, summaries])
	summary_writer.add_summary(curr_summaries, i)
	summary_writer.flush()

TensorFlow实例：

1，计算0~N-1的平方和

python版

import numpy as np

def sum_square(N):
	return np.sum(np.arange(N)**2)
	
sum_square(10)

tensorflow版

import tensorflow as tf

tf.reset_default_graph()
s = tf.InteractiveSession()

N = tf.placeholder('int64', name="input_to_your_function")     
result = tf.reduce_sum(tf.range(N)**2)

s.run(result, {N:10})

writer = tf.summary.FileWriter("/tmp/tboard", graph=s.graph)

详细了解一下placeholder的用法

with tf.name_scope("Placeholder_examples"):
	arbitrary_input = tf.placeholder('float32')
	input_vector = tf.placeholder('float32', shape=(None,))
	fixed_vector = tf.placeholder('int32', shape=(10,))
	input_matrix = tf.placeholder('float32', shape=(None, 15))
	
	input1 = tf.placeholder('float64', shape=(None, 100, None))
	input2 = tf.placeholder('int32', shape=(None, None, 3, 224, 224))
	
	double_the_vector = input_vector*2
	elementwise_cosine = tf.cos(input_vector)
	vector_squares = input_vector**2 - input_vector + 1

再看一例，mean square error

with tf.name_scope("MSE"):
	y_true = tf.placeholder("float32", shape=(None,), name="y_true")
	y__predicted = tf.placeholder("float32",shape=(None,), name="y_predicted")
	mse = tf.reduce_mean((y_true - y_predicted)**2)

def compute_mse(vector1, vector2):
	return mse.eval({y_true: vector1, y_predicted: vector2})

variable和placeholder不同的是，s.run()时，variable不需要传入数字。

shared_vector_1 = tf.Variable(initial_value=np.ones(5), name="example_variable")   # 先创建一个变量

s.run(tf.global_variables_initializer())   # 初始化初始变量
print("initial value", s.run(shared_vector_1))

s.run(shared_vector_1.assign(np.arange(5)))
print("new value", s.run(shared_vector_1))