안녕하세요

코드까지 첨부해 주셔서 아주 쉽게 공부를 할 수 있었습니다.
인코딩시에 한 문장을 1차원 벡터로 변경하는데 그렇게 하는 것이 아닌 matrix로 encoding하는 이유가 궁금합니다. attention을 적용하기 위함인가요? 아직 도서관에 책이 들어오지 않아서 코드만을 보면서 공부하고 있어서 책에 서술된 내용이면 죄송합니다.(도서관에 책 구입 신청을 해놓은 상태입니다. 들어오는대로 빌려서 볼 예정입니다)

1. 문장 인코딩시에 1차원 벡터가 아닌 matrix로의 변화의 이유? attention을 위함인지?

좋은 책과 좋은 예제를 작성해주셔서 감사합니다.

안녕하세요, 튜토리얼 정말 감사하게 공부하고 잇습니다.

저는 RL을 공부하기 위해 dqn에 대한 튜토리얼을 보고 있는데,
저의 환경은 python2의 ipython notebook으로 하고 있어서 그런지,
어떻게든 셋팅해서 돌리고는 있는데,
다음 파일에서 모델을 읽는 중입니다. .. model/dqn.ckpt-140000
Avg. ~~

라고 계속나오고,  그위에 네모칸의 시뮬레이션 칸만 나오고 다른 장애물과 자동차의 빨강, 파랑 등의 네모는 나오지 않네요.ㅜ.ㅜ.ㅜ.ㅜ.ㅜ.

학습을 시키고 나서 그 모델로 테스틑를 하는데 있어서 어떻게 진행되는지 여쭈고 싶습니다. 
모델을 읽고 나서 게임 진행을 볼 수 있는 건가요?
아니면 모델을 읽으면서 볼 수 있나요...?

"골빈해커의 3분 딥러닝" 책 아주 잘 보고 있습니다.
책 피드백을 여기다 하는 것이 적절하지 않다면 다른 곳을 알려주세요.

그림4-2 실제 뉴런과 인공 뉴런
활성화함수 동작은 세포체 내에서 이루어지는 것으로 알고 있습니다. 가지돌기에서 입력x를 받고, 그것에 가중치를 곱하고 바이어스를 더하는 부분역시 기지돌기와 신경세포체 내의 활동으로 알고 있습니다. http://cs231n.github.io/neural-networks-1/ 에 그렇게 표현되어 있구요.
물론 잘 알고 계시고 이해 쉽게 그리기 위해 그린것 같은데 독자로서는 자칫 잘못 이해할 수 있을 것 같아서 의견 보냅니다.

그림10-4 단어 자동완성 RNN 모델
펼쳐진 LSTM 셀의 출력들이 마치 모두 xW+b에 들어가는 것처럼 표현되어 있는데요. 정확하게는 마지막 LSTM출력만 들어가게 되는 것이 맞다고 생각됩니다.

아래와 같이 import하면,

아래와 같은 에러 메세지가 나옵니다.

구글 미러서버에 문제가 생긴걸까요? ㅠㅠ

텐서플로우 공부하면서 많은 도움 받았습니다. 감사합니다.
cnn layer 쪽 보다가 오타같아 보여서 적습니다.

02 - tf.layers.py 에 32번 라인에 L2가 L3 이 아닌가 싶습니다.
=> L2 = tf.layers.dropout(L2, 0.5, is_training)

G = generator(Z, Y) 부분에서

ValueError: Variable generator/dense/kernel already exists, disallowed. Did you mean to set reuse=True or reuse=tf.AUTO_REUSE in VarScope? Originally defined at:
이런 에러가 나오는데 해결방법 알려주시면 감사하겠습니다.....ㅠㅠ

Chapter 6 '헬로 딥러닝 MNIST'의 마지막 페이지 (제가 가진 책 기준116page) '더 해보기' 섹션 마지막에 오타가 있는 것 같네요.

'텐서플로' -> '텐서보드'가 의도한 내용이었을 것 같습니다.

올려주신 코드를 보고 연습을 하고 있는데 다음과 같은 문제가 생깁니다.
코드:
for i in range(total_batch):
batch_xs, batch_ys = data.next_batch(BatchSize=batch_size, shuffle=data_shuffle)
batch_xs = np.asarray(batch_xs)
batch_ys = np.asarray(batch_ys)
batch_xs = batch_xs.reshape(-1, 48, 48, 1)

    _, cost_val = sess.run([optimizer, cost],
                           feed_dict={X: batch_xs,Y: batch_ys,keep_prob: 0.7})
    total_cost += cost_val
    data_shuffle = False

*batch size = 50입니다.
X = tf.placeholder(tf.float32, [None, 48, 48, 1])
Y = tf.placeholder(tf.float32, [None, 7])
keep_prob = tf.placeholder(tf.float32)

이러식으로 돌렸을 때, 오류문이 다음과 같이 나옵니다.
ValueError : cannot reshape array of size 50 into shape (48,48,1)

현재 파이썬3에서 위 코드를 돌리고 있는데, 버전이 달라서 reshape 함수가 안돌아가는 건가요?

저는 jupyter notebook으로 하는데,,,

올려주신 동영상처럼 smoooth하게 움직이지 않고

더 끊기네요....

cmd 창에서 띄어서 해도 마찬가지로 끊겨서요...

혹시 해결 방법이 있을까요?

Chatbot 안드로이드 테스트용 app을 만들어 볼려고 하는데 .ckpt->.pb을 생성하는데 어떻게 진행해야할지 몰라서 이렇게 글을 남깁니다.

일반적으로 ckpt-.> pb 를 만들 때 bazel을 이용하여 생성하는 거 같았습니다. 그리고 마지막에 output에 예언값을 넣는 거 같은데. chatbot에서 train.py에 함수를 따라가서 model.py에서 summary가 최종 예언값으로 생각되어 넣어보니 bazel이 되지 않아서 이렇게 글을 남깁니다.
pb생성하면 안드로이드에 올리는 거는 크게 무리가 없는 거 같은데... 이 부분에서 계속 막힙니다..

혹시 해보신 분이 있거나 도움을 주실수 있는 분을 도움 부탁드립니다. 감사합니다.

아래 사이트를 바탕으로 개발중입니다.
chatbot : https://github.com/golbin/TensorFlow-Tutorials/tree/master/10%20-%20RNN/ChatBot
ckpt->pb :
1)http://blog.naver.com/PostView.nhn?blogId=cenodim&logNo=220967993466&parentCategoryNo=&categoryNo=12&viewDate=&isShowPopularPosts=true&from=search
2)http://gusrb.tistory.com/21

안녕하세요.
Chapter 05의 학습 모델 저장 예제 코드를 책에 나오는 대로 다시 한번 실행하면 아래와 같은 에러가 납니다.
(첫 번째 실행할 때는 정상입니다..)

구글링해서 reset_default_graph() 를 사용하면 된다는 내용을 찾았는데 ㅠㅠ 비전공자다보니 정확히 어느 부분에 넣어야 할 지 모르겠습니다.

우선 4번 시작 지점에 넣어보았을땐

tf.reset_default_graph()

sess = tf.Session()
saver = tf.train.Saver(tf.global_variables())

넣자마자 실행하면 에러가 뜨는데, tf.reset_default_graph() 를 주석처리하면 3회/4회 결과가 확인됩니다.
개발환경은 맥(맥북에어), python 3.6, tensorflow 1.4.1, jupyter notebook 4.3.1입니다..

=== 에러내용 ===

INFO:tensorflow:Restoring parameters from ./model/dnn.ckpt-2

NotFoundError Traceback (most recent call last)
/anaconda/lib/python3.6/site-packages/tensorflow/python/client/session.py in _do_call(self, fn, *args)
1326 try:
-> 1327 return fn(*args)
1328 except errors.OpError as e:

/anaconda/lib/python3.6/site-packages/tensorflow/python/client/session.py in _run_fn(session, feed_dict, fetch_list, target_list, options, run_metadata)
1305 feed_dict, fetch_list, target_list,
-> 1306 status, run_metadata)
1307

/anaconda/lib/python3.6/contextlib.py in exit(self, type, value, traceback)
88 try:
---> 89 next(self.gen)
90 except StopIteration:

/anaconda/lib/python3.6/site-packages/tensorflow/python/framework/errors_impl.py in raise_exception_on_not_ok_status()
465 compat.as_text(pywrap_tensorflow.TF_Message(status)),
--> 466 pywrap_tensorflow.TF_GetCode(status))
467 finally:

NotFoundError: Key Variable/Adam_1 not found in checkpoint
[[Node: save_1/RestoreV2_2 = RestoreV2[dtypes=[DT_FLOAT], _device="/job:localhost/replica:0/task:0/cpu:0"](_arg_save_1/Const_0_0, save_1/RestoreV2_2/tensor_names, save_1/RestoreV2_2/shape_and_slices)]]

During handling of the above exception, another exception occurred:

NotFoundError Traceback (most recent call last)
in ()
51 ckpt = tf.train.get_checkpoint_state('./model')
52 if ckpt and tf.train.checkpoint_exists(ckpt.model_checkpoint_path):
---> 53 saver.restore(sess, ckpt.model_checkpoint_path)
54 else:
55 sess.run(tf.global_variables_initializer())

/anaconda/lib/python3.6/site-packages/tensorflow/python/training/saver.py in restore(self, sess, save_path)
1558 logging.info("Restoring parameters from %s", save_path)
1559 sess.run(self.saver_def.restore_op_name,
-> 1560 {self.saver_def.filename_tensor_name: save_path})
1561
1562 @staticmethod

/anaconda/lib/python3.6/site-packages/tensorflow/python/client/session.py in run(self, fetches, feed_dict, options, run_metadata)
893 try:
894 result = self._run(None, fetches, feed_dict, options_ptr,
--> 895 run_metadata_ptr)
896 if run_metadata:
897 proto_data = tf_session.TF_GetBuffer(run_metadata_ptr)

/anaconda/lib/python3.6/site-packages/tensorflow/python/client/session.py in _run(self, handle, fetches, feed_dict, options, run_metadata)
1122 if final_fetches or final_targets or (handle and feed_dict_tensor):
1123 results = self._do_run(handle, final_targets, final_fetches,
-> 1124 feed_dict_tensor, options, run_metadata)
1125 else:
1126 results = []

/anaconda/lib/python3.6/site-packages/tensorflow/python/client/session.py in _do_run(self, handle, target_list, fetch_list, feed_dict, options, run_metadata)
1319 if handle is None:
1320 return self._do_call(_run_fn, self._session, feeds, fetches, targets,
-> 1321 options, run_metadata)
1322 else:
1323 return self._do_call(_prun_fn, self._session, handle, feeds, fetches)

/anaconda/lib/python3.6/site-packages/tensorflow/python/client/session.py in _do_call(self, fn, *args)
1338 except KeyError:
1339 pass
-> 1340 raise type(e)(node_def, op, message)
1341
1342 def _extend_graph(self):

NotFoundError: Key Variable/Adam_1 not found in checkpoint
[[Node: save_1/RestoreV2_2 = RestoreV2[dtypes=[DT_FLOAT], _device="/job:localhost/replica:0/task:0/cpu:0"](_arg_save_1/Const_0_0, save_1/RestoreV2_2/tensor_names, save_1/RestoreV2_2/shape_and_slices)]]

Caused by op 'save_1/RestoreV2_2', defined at:
File "/anaconda/lib/python3.6/runpy.py", line 193, in _run_module_as_main
"main", mod_spec)
File "/anaconda/lib/python3.6/runpy.py", line 85, in _run_code
exec(code, run_globals)
File "/anaconda/lib/python3.6/site-packages/ipykernel/main.py", line 3, in
app.launch_new_instance()
File "/anaconda/lib/python3.6/site-packages/traitlets/config/application.py", line 658, in launch_instance
app.start()
File "/anaconda/lib/python3.6/site-packages/ipykernel/kernelapp.py", line 474, in start
ioloop.IOLoop.instance().start()
File "/anaconda/lib/python3.6/site-packages/zmq/eventloop/ioloop.py", line 177, in start
super(ZMQIOLoop, self).start()
File "/anaconda/lib/python3.6/site-packages/tornado/ioloop.py", line 887, in start
handler_func(fd_obj, events)
File "/anaconda/lib/python3.6/site-packages/tornado/stack_context.py", line 275, in null_wrapper
return fn(*args, **kwargs)
File "/anaconda/lib/python3.6/site-packages/zmq/eventloop/zmqstream.py", line 440, in _handle_events
self._handle_recv()
File "/anaconda/lib/python3.6/site-packages/zmq/eventloop/zmqstream.py", line 472, in _handle_recv
self._run_callback(callback, msg)
File "/anaconda/lib/python3.6/site-packages/zmq/eventloop/zmqstream.py", line 414, in _run_callback
callback(*args, **kwargs)
File "/anaconda/lib/python3.6/site-packages/tornado/stack_context.py", line 275, in null_wrapper
return fn(*args, **kwargs)
File "/anaconda/lib/python3.6/site-packages/ipykernel/kernelbase.py", line 276, in dispatcher
return self.dispatch_shell(stream, msg)
File "/anaconda/lib/python3.6/site-packages/ipykernel/kernelbase.py", line 228, in dispatch_shell
handler(stream, idents, msg)
File "/anaconda/lib/python3.6/site-packages/ipykernel/kernelbase.py", line 390, in execute_request
user_expressions, allow_stdin)
File "/anaconda/lib/python3.6/site-packages/ipykernel/ipkernel.py", line 196, in do_execute
res = shell.run_cell(code, store_history=store_history, silent=silent)
File "/anaconda/lib/python3.6/site-packages/ipykernel/zmqshell.py", line 501, in run_cell
return super(ZMQInteractiveShell, self).run_cell(*args, **kwargs)
File "/anaconda/lib/python3.6/site-packages/IPython/core/interactiveshell.py", line 2717, in run_cell
interactivity=interactivity, compiler=compiler, result=result)
File "/anaconda/lib/python3.6/site-packages/IPython/core/interactiveshell.py", line 2821, in run_ast_nodes
if self.run_code(code, result):
File "/anaconda/lib/python3.6/site-packages/IPython/core/interactiveshell.py", line 2881, in run_code
exec(code_obj, self.user_global_ns, self.user_ns)
File "", line 49, in
saver = tf.train.Saver(tf.global_variables())
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/training/saver.py", line 1140, in init
self.build()
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/training/saver.py", line 1172, in build
filename=self._filename)
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/training/saver.py", line 688, in build
restore_sequentially, reshape)
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/training/saver.py", line 407, in _AddRestoreOps
tensors = self.restore_op(filename_tensor, saveable, preferred_shard)
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/training/saver.py", line 247, in restore_op
[spec.tensor.dtype])[0])
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/ops/gen_io_ops.py", line 663, in restore_v2
dtypes=dtypes, name=name)
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/framework/op_def_library.py", line 767, in apply_op
op_def=op_def)
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/framework/ops.py", line 2630, in create_op
original_op=self._default_original_op, op_def=op_def)
File "/anaconda/lib/python3.6/site-packages/tensorflow/python/framework/ops.py", line 1204, in init
self._traceback = self._graph._extract_stack() # pylint: disable=protected-access

NotFoundError (see above for traceback): Key Variable/Adam_1 not found in checkpoint
[[Node: save_1/RestoreV2_2 = RestoreV2[dtypes=[DT_FLOAT], _device="/job:localhost/replica:0/task:0/cpu:0"](_arg_save_1/Const_0_0, save_1/RestoreV2_2/tensor_names, save_1/RestoreV2_2/shape_and_slices)]]

jupyter에서는 fig = plt.figure() 가 다른 행에 있으면, plot이 실행 안됨.

같은 행에 있어야만 실행되는데 왜 그럴까요?

Seq2Seq 파일 구동 시 다음과 같은 에러가 발생합니다.

Traceback (most recent call last):
  File "test.py", line 68, in <module>
    input_batch, output_batch, target_batch = make_batch(seq_data)
  File "test.py", line 25, in make_batch
    output_batch.append(np.eye(dic_len)[output])
IndexError: index 62 is out of bounds for axis 0 with size 48

Tensorflow version 1.4.0을 사용하고 있습니다.

Hi, I run the code python agent.py -train, after many steps. the reward is still 0.
Any solutions? Thank you.

텐서플로우를 새로 깔고 실행해봤는데
어째선지 안되더라고요

https://stackoverflow.com/questions/55142951/tensorflow-2-0-attributeerror-module-tensorflow-has-no-attribute-session

그나마 이걸 통해서 어느정도 해결 방법은 알긴 했는데...

혹시 TF 2.0에 대한 대책이 있으신가요?

Very interesting tutorial indeed. Thanks a lot.

i tried the code in 11.inception and i found that i can run a code like this

import tensorflow as tf hello = tf.constant('hello,tensor!') sess = tf.Session() print(sess.run(hello)) hello,tensor!
but when i insert your .py file like retrain.py and predict.py into /tensorflow folder, and run the code you listed above like this
# python retrain.py \ --bottleneck_dir=./workspace/bottlenecks \ --model_dir=./workspace/inception \ --output_graph=./workspace/flowers_graph.pb \ --output_labels=./workspace/flowers_labels.txt \ --image_dir ./workspace/flower_photos \ --how_many_training_steps 1000
it suggests that
Traceback (most recent call last): File "retrain.py", line 81, in <module> from tensorflow.python.framework import graph_util ImportError: cannot import name graph_util
and i dont know how to do next...
Any comment on what I do wrong.
many thanks
Eric

예제에 나온대로 실행하고 pip3 install pillow 로 설치하고 확인해도 프롬프트에서 실행이 안되고 깃허브에 올라온 파일로 해도 오류가 납니다 답변 부탁드립니다. ㅠㅠ

아래가 오류 내용입니다

c:\training>python predict.py workspace/flower_photos/roses/3065719996_c16ecd551.jpg
WARNING:tensorflow:From predict.py:24: FastGFile.init (from tensorflow.python.platform.gfile) is deprecated and will be removed in a future version.
Instructions for updating:
Use tf.gfile.GFile.
2019-08-09 16:23:39.027076: I tensorflow/core/platform/cpu_feature_guard.cc:141] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2
Traceback (most recent call last):
File "predict.py", line 53, in
tf.app.run()
File "C:\Users\gci00\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\platform\app.py", line 125, in run
_sys.exit(main(argv))
File "predict.py", line 31, in main
image = tf.gfile.FastGFile(sys.argv[1], 'rb').read()
File "C:\Users\gci00\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\lib\io\file_io.py", line 125, in read
self._preread_check()
File "C:\Users\gci00\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\lib\io\file_io.py", line 85, in _preread_check
compat.as_bytes(self.__name), 1024 * 512, status)
File "C:\Users\gci00\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\framework\errors_impl.py", line 528, in exit
c_api.TF_GetCode(self.status.status))
tensorflow.python.framework.errors_impl.NotFoundError: NewRandomAccessFile failed to Create/Open: workspace/flower_photos/roses/3065719996_c16ecd551.jpg : \udcc1\udcf6\udcc1\udca4\udcb5\udcc8 \udcc6\udcc4\udcc0\udccf\udcc0\udcbb ã\udcc0\udcbb \udcbc\udcf6 \udcbe\udcf8\udcbd\udcc0\udcb4ϴ\udcd9.
; No such file or directory

컴퓨터 화면에 띄워놓고 읽고 싶네요 👍

Chapter 4. Neural Network Basic의 Classification.py 문서를 열게 되면
아래와 같은 가중치 변수를 균일분포하중에 따른 난수생성을 통해 정의 하게 되어있습니다.

W = tf.Variable(tf.random_uniform([2, 3], -1., 1.))
b = tf.Variable(tf.zeros([3]))
L = tf.add(tf.matmul(X, W), b)
L = tf.nn.relu(L)
model = tf.nn.softmax(L)

질문1. 분포의 범위가 -1.0 에서 1.0 까지인데 (편항값 b가 0이므로) 음의 값을 가지는 가중치의 조합에 따라 ReLU에 들어가는 L의 값이 음수의 경우가 나타날 수 있고, 이 후 ReLU에 의해 출력되는 결과값(L)이 0이 되어버리는데 이 코드의 구현이 통계적으로 결과값에 어떤 의미를 가져다 주는지 궁금합니다.
(개인적인 생각으로는 균일분포의 범위를 0에서 1로 하는것이 확률적으로 일치도를 높여 줄수 있을 거 같은데 이해해 어려움이 따라 문의 드립니다.)

질문2. 왜 편항 b는 0으로 지정하였는지 궁금합니다.

질문3. Softmax의 설명을 돕기 위한 주석으로 아래와 같은 문구를 달아 주셨는데,
예시에서 -6.52라는 값이 존재하는데 사실 softmax이전에 relu에 의해 0이상의 값들로
변환될거 같은데 음수를 가질수 있는지 궁금합니다.

#softmax 함수는 다음처럼 결과값을 전체합이 1인 확률로 만들어주는 함수입니다.
#예) [8.04, 2.76, -6.52] -> [0.53 0.24 0.23]

질문4. 위의 예시를 가지고, 어떤 방식으로 저 확률들이 도출되는지 이해가 잘 되지 않습니다. ㅜ

이제 막 프로그래밍 세계에 입문하여, 많은 배움이 필요한 저입니다.
작가님의 책을 통해 많은 지식을 쌓고 있는 도중 첫번째 의문점에 도달하여
이렇게 문의글을 올리게 됩니다.
좋은 답변 부탁드리며, 기다리고 있겠습니다.

• Raphael_SH

이 file 을 돌려보면 아래와 같은 에러가 나타납니다.

...
Caused by op 'MatMul', defined at:
File "02 - Deep NN.py", line 37, in
L1 = tf.add(tf.matmul(X, W1), b1)
File "C:\Users\artie\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\ops\math_ops.py", line 1891, in matmul
a, b, transpose_a=transpose_a, transpose_b=transpose_b, name=name)
File "C:\Users\artie\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\ops\gen_math_ops.py", line 2436, in _mat_mul
name=name)
File "C:\Users\artie\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\framework\op_def_library.py", line 787, in _apply_op_helper
op_def=op_def)
File "C:\Users\artie\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\framework\ops.py", line 2956, in create_op
op_def=op_def)
File "C:\Users\artie\AppData\Local\Programs\Python\Python36\lib\site-packages\tensorflow\python\framework\ops.py", line 1470, in init
self._traceback = self._graph._extract_stack() # pylint: disable=protected-access

InternalError (see above for traceback): Blas GEMM launch failed : a.shape=(6, 2), b.shape=(2, 10), m=6, n=10, k=2
[[Node: MatMul = MatMul[T=DT_FLOAT, transpose_a=false, transpose_b=false, _device="/job:localhost/replica:0/task:0/device:GPU:0"](_arg_Placeholder_0_0/_1, Variable/read)]]

안녕하세요! 책에 있는 코드를 따라하면서 궁금한 점이 생겼습니다.
4장에서 간단한 분류모델과 심층 신경망 코드를 돌려보면 정확도가 같지 않게 나오더라구요.
66퍼센트 33퍼센트 이렇게 다양하게 나오는데...
혹시 이유가 가중치와 편향을 랜덤하게 초기화되면서 트레이닝 스탭은 적어서 발생하는 문제일까요??

loss_D = tf.reduce_mean(tf.log(D_real) + tf.log(1 - D_gene))
loss_G = tf.reduce_mean(tf.log(D_gene))

위 코드와 관련된 주석을 보면, 논문에서 loss_G와 loss_D를 최대화하는것이 GAN모델을 최적화하는것이다 라고 설명해주셨습니다.

따라서 이후 코드에서보면

train_D = tf.train.AdamOptimizer(learning_rate).minimize(-loss_D,
                                                         var_list=D_var_list)
train_G = tf.train.AdamOptimizer(learning_rate).minimize(-loss_G,
                                                         var_list=G_var_list)

에서 -를 붙여서, minimize해주셨습니다.

제가 위 코드를 실행하면서 loss_G와 loss_D에 대해서 tensorboard로 확인했습니다.

추가한 코드는 다음과 같습니다.

loss_D = tf.reduce_mean(tf.log(D_real) + tf.log(1 - D_gene))
tf.summary.scalar('loss_D', -loss_D)
loss_G = tf.reduce_mean(tf.log(D_gene))
tf.summary.scalar('loss_G', -loss_G)

근데, loss_D는 값이 증가하는 경향을 보이고, loss_G는 값이 감소하는 경향을 보이고있습니다.
뭔가 좀 이상하지 않나요 ?

epoch를 1000까지 해봐서 지금 확인중입니다만..
loss_G는 감소하다가 나중에 증가하고있긴합니다. 근데 계속해서 증가하는경향을 보여야 하는거 아닌가요?

그래야 주석과 맞는 설명이 되는게 아니지 싶습니다.
제가 어떤부분을 잘못 이해하고있는걸까요?

답변부탁드립니다.

감사합니다.

환경: 파이썬 3.6.8
텐서플로 1.8.0

https://github.com/golbin/TensorFlow-Tutorials/blob/master/03%20-%20TensorFlow%20Basic/01%20-%20Basic.py 실행부터 이런 오류가 나네요. 미니콘다에서 실행중입니다.

batch normazation을 해보려고 하는데, is_training은 어떻게 설정을 하나요?

출력은 다음과 같습니다.

...
Epoch: 0560 D loss: -0.3683 G loss: -2.914
Epoch: 0561 D loss: -0.4309 G loss: -2.999
Epoch: 0562 D loss: -0.5485 G loss: -2.614
Epoch: 0563 D loss: -0.4625 G loss: -2.921
Epoch: 0564 D loss: nan G loss: nan
Epoch: 0565 D loss: nan G loss: nan
Epoch: 0566 D loss: nan G loss: nan
Epoch: 0567 D loss: nan G loss: nan
...

챕터별로 정리하면서 공부하고 있는데, 그림파일이 있으면 좋겠습니당.

좋은 책 써 주셔서 정말 감사합니다!

INFO:tensorflow:Restoring parameters from ./model\dnn.ckpt-2

NotFoundError Traceback (most recent call last)
d:\program files\python36\lib\site-packages\tensorflow\python\client\session.py in _do_call(self, fn, *args)
1326 try:
-> 1327 return fn(*args)
1328 except errors.OpError as e:

d:\program files\python36\lib\site-packages\tensorflow\python\client\session.py in _run_fn(session, feed_dict, fetch_list, target_list, options, run_metadata)
1305 feed_dict, fetch_list, target_list,
-> 1306 status, run_metadata)
1307

d:\program files\python36\lib\contextlib.py in exit(self, type, value, traceback)
87 try:
---> 88 next(self.gen)
89 except StopIteration:

d:\program files\python36\lib\site-packages\tensorflow\python\framework\errors_impl.py in raise_exception_on_not_ok_status()
465 compat.as_text(pywrap_tensorflow.TF_Message(status)),
--> 466 pywrap_tensorflow.TF_GetCode(status))
467 finally:

NotFoundError: Key beta1_power_4 not found in checkpoint
[[Node: save_5/RestoreV2_61 = RestoreV2[dtypes=[DT_FLOAT], _device="/job:localhost/replica:0/task:0/cpu:0"](_arg_save_5/Const_0_0, save_5/RestoreV2_61/tensor_names, save_5/RestoreV2_61/shape_and_slices)]]

During handling of the above exception, another exception occurred:

NotFoundError Traceback (most recent call last)
in ()
51 ckpt = tf.train.get_checkpoint_state('./model')
52 if ckpt and tf.train.checkpoint_exists(ckpt.model_checkpoint_path):
---> 53 saver.restore(sess, ckpt.model_checkpoint_path)
54 else:
55 sess.run(tf.global_variables_initializer())

d:\program files\python36\lib\site-packages\tensorflow\python\training\saver.py in restore(self, sess, save_path)
1558 logging.info("Restoring parameters from %s", save_path)
1559 sess.run(self.saver_def.restore_op_name,
-> 1560 {self.saver_def.filename_tensor_name: save_path})
1561
1562 @staticmethod

d:\program files\python36\lib\site-packages\tensorflow\python\client\session.py in run(self, fetches, feed_dict, options, run_metadata)
893 try:
894 result = self._run(None, fetches, feed_dict, options_ptr,
--> 895 run_metadata_ptr)
896 if run_metadata:
897 proto_data = tf_session.TF_GetBuffer(run_metadata_ptr)

d:\program files\python36\lib\site-packages\tensorflow\python\client\session.py in _run(self, handle, fetches, feed_dict, options, run_metadata)
1122 if final_fetches or final_targets or (handle and feed_dict_tensor):
1123 results = self._do_run(handle, final_targets, final_fetches,
-> 1124 feed_dict_tensor, options, run_metadata)
1125 else:
1126 results = []

d:\program files\python36\lib\site-packages\tensorflow\python\client\session.py in _do_run(self, handle, target_list, fetch_list, feed_dict, options, run_metadata)
1319 if handle is None:
1320 return self._do_call(_run_fn, self._session, feeds, fetches, targets,
-> 1321 options, run_metadata)
1322 else:
1323 return self._do_call(_prun_fn, self._session, handle, feeds, fetches)

d:\program files\python36\lib\site-packages\tensorflow\python\client\session.py in _do_call(self, fn, *args)
1338 except KeyError:
1339 pass
-> 1340 raise type(e)(node_def, op, message)
1341
1342 def _extend_graph(self):

NotFoundError: Key beta1_power_4 not found in checkpoint
[[Node: save_5/RestoreV2_61 = RestoreV2[dtypes=[DT_FLOAT], _device="/job:localhost/replica:0/task:0/cpu:0"](_arg_save_5/Const_0_0, save_5/RestoreV2_61/tensor_names, save_5/RestoreV2_61/shape_and_slices)]]

Caused by op 'save_5/RestoreV2_61', defined at:
File "d:\program files\python36\lib\runpy.py", line 193, in _run_module_as_main
"main", mod_spec)
File "d:\program files\python36\lib\runpy.py", line 85, in _run_code
exec(code, run_globals)
File "d:\program files\python36\lib\site-packages\ipykernel_launcher.py", line 16, in
app.launch_new_instance()
File "d:\program files\python36\lib\site-packages\traitlets\config\application.py", line 658, in launch_instance
app.start()
File "d:\program files\python36\lib\site-packages\ipykernel\kernelapp.py", line 477, in start
ioloop.IOLoop.instance().start()
File "d:\program files\python36\lib\site-packages\zmq\eventloop\ioloop.py", line 177, in start
super(ZMQIOLoop, self).start()
File "d:\program files\python36\lib\site-packages\tornado\ioloop.py", line 888, in start
handler_func(fd_obj, events)
File "d:\program files\python36\lib\site-packages\tornado\stack_context.py", line 277, in null_wrapper
return fn(*args, **kwargs)
File "d:\program files\python36\lib\site-packages\zmq\eventloop\zmqstream.py", line 440, in _handle_events
self._handle_recv()
File "d:\program files\python36\lib\site-packages\zmq\eventloop\zmqstream.py", line 472, in _handle_recv
self._run_callback(callback, msg)
File "d:\program files\python36\lib\site-packages\zmq\eventloop\zmqstream.py", line 414, in _run_callback
callback(*args, **kwargs)
File "d:\program files\python36\lib\site-packages\tornado\stack_context.py", line 277, in null_wrapper
return fn(*args, **kwargs)
File "d:\program files\python36\lib\site-packages\ipykernel\kernelbase.py", line 283, in dispatcher
return self.dispatch_shell(stream, msg)
File "d:\program files\python36\lib\site-packages\ipykernel\kernelbase.py", line 235, in dispatch_shell
handler(stream, idents, msg)
File "d:\program files\python36\lib\site-packages\ipykernel\kernelbase.py", line 399, in execute_request
user_expressions, allow_stdin)
File "d:\program files\python36\lib\site-packages\ipykernel\ipkernel.py", line 196, in do_execute
res = shell.run_cell(code, store_history=store_history, silent=silent)
File "d:\program files\python36\lib\site-packages\ipykernel\zmqshell.py", line 533, in run_cell
return super(ZMQInteractiveShell, self).run_cell(*args, **kwargs)
File "d:\program files\python36\lib\site-packages\IPython\core\interactiveshell.py", line 2728, in run_cell
interactivity=interactivity, compiler=compiler, result=result)
File "d:\program files\python36\lib\site-packages\IPython\core\interactiveshell.py", line 2850, in run_ast_nodes
if self.run_code(code, result):
File "d:\program files\python36\lib\site-packages\IPython\core\interactiveshell.py", line 2910, in run_code
exec(code_obj, self.user_global_ns, self.user_ns)
File "", line 49, in
saver = tf.train.Saver(tf.global_variables())
File "d:\program files\python36\lib\site-packages\tensorflow\python\training\saver.py", line 1140, in init
self.build()
File "d:\program files\python36\lib\site-packages\tensorflow\python\training\saver.py", line 1172, in build
filename=self._filename)
File "d:\program files\python36\lib\site-packages\tensorflow\python\training\saver.py", line 688, in build
restore_sequentially, reshape)
File "d:\program files\python36\lib\site-packages\tensorflow\python\training\saver.py", line 407, in _AddRestoreOps
tensors = self.restore_op(filename_tensor, saveable, preferred_shard)
File "d:\program files\python36\lib\site-packages\tensorflow\python\training\saver.py", line 247, in restore_op
[spec.tensor.dtype])[0])
File "d:\program files\python36\lib\site-packages\tensorflow\python\ops\gen_io_ops.py", line 663, in restore_v2
dtypes=dtypes, name=name)
File "d:\program files\python36\lib\site-packages\tensorflow\python\framework\op_def_library.py", line 767, in apply_op
op_def=op_def)
File "d:\program files\python36\lib\site-packages\tensorflow\python\framework\ops.py", line 2630, in create_op
original_op=self._default_original_op, op_def=op_def)
File "d:\program files\python36\lib\site-packages\tensorflow\python\framework\ops.py", line 1204, in init
self._traceback = self._graph._extract_stack() # pylint: disable=protected-access

NotFoundError (see above for traceback): Key beta1_power_4 not found in checkpoint
[[Node: save_5/RestoreV2_61 = RestoreV2[dtypes=[DT_FLOAT], _device="/job:localhost/replica:0/task:0/cpu:0"](_arg_save_5/Const_0_0, save_5/RestoreV2_61/tensor_names, save_5/RestoreV2_61/shape_and_slices)]]

​

안녕하세요.
좋은 예제 감사합니다.
저는 window10에서 Tensorflow 1.0, Python3.5 로 실행해보고 있는데,
아래와 같은 Error가 뜹니다.
random.randrange안의 변수가 정수가 아니라는 뜻인것 같은데,
어떻게 수정해야될지 몰라서 문의 드립니다. Python3.5라서 나오는 Error같긴한데, 제가 해결을 못하겠어서요.

File "D:\TensorFlow-Tutorials-master\07 - DQN\game.py", line 104, in reset
self.block[0]["col"] = random.randrange(self.road_left, self.road_right + 1)
File "C:\toolkits\Python\Python35\lib\random.py", line 182, in randrange
raise ValueError("non-integer arg 1 for randrange()")
ValueError: non-integer arg 1 for randrange()

activation = nn.tf.relu==> activation = tf.nn.relu

부탁드립니다. 감사합니다.

python 3.6.8에 tf 1.2.0입니다. cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits_v2(labels=Y, logits=model))라는 코드(70페이지 2번째 줄 혹은 깃헙링크)에서 module 'tensorflow.python.ops.nn' has no attribute 'softmax_cross_entropy_with_logits_v2'라는 오류가 납니다. 왜 저런 오류가 나는지 궁금합니다.

11장의 꽃 사진 링크가 없다고 나오는데 혹시 새로운 주소 아시면 좀 알려주세요

golbin님 소스로 처음 입문하여 공부하고 있는 개발자입니다.
챗봇부분 작업하다가 model 부분에 학습결과물이 있어 바로 시작하는데 에러가 자꾸 나서요.
지워보고 다시 학습을 해보았더니 잘 되더라구요.

에러 내용을 텍스트 첨부합니다.

어떤 이유때문에 그런건지 잘 모르겠어서 질문드립니다.

error.txt

DQN 예제를 찾다 보니 만들어 주신 게임이 간단하고 재미있어서 제가 수업에 사용하는 코드에 넣어서 돌려보는 중입니다. (픽셀을 넣어서 해보는 예제들은 정말 시간이 오래 걸리네요.) 제 구현에 버그가 없는지 계속 보는 중인데 혹시 이곳에 있는 DQN코드는 대략 어느정도 최고 성능이 나는지요? 한시간 정도 학습하셨다 하셨는데, 그때 total game의 수와 Avg Reward가 얼마정도 되었는지요?

코드 잘 보고 갑니다.

Can translate it into english?

TypeError: Cannot interpret feed_dict key as Tensor: The name 'DecodeJpeg/contents:0' refers to a Tensor which does not exist. The operation, 'DecodeJpeg/contents', does not exist in the graph

이렇게 오류가 납니다.
이래저래 이슈를 찾아보니 google에서 retrain.py를 바꾸면서 'DecodeJpeg/contents:0' 플레이스홀더를 없앴다고 한것 같기도 하고...;;;

어떻게 수정해야하나요?
초보자가 따라하려니 매우 어렵네요. 도와주세요.

책 잘 보고 있습니다. 이해가 쉽게 잘 씌여진것 같아요.
그런데, pip3로 텐서플로우를 설치하니 1.4.0이 설치 되는 군요.
예제소스들은 1.2용으로 작성된 것으로 알고 있는데요. 1.4용으로 업데이트 계획이 있으신지요?
1.2용도 필요할 것 같으니, 1.4용 브랜치를 만들어 관리하시면 좋을 것 같아요.

현재 공홈에는 파이썬 3.7이 기본적으로 제공되는데, 그걸 설치하면
Could not find a version that satisfies the requirement tensorflow (from versions: ) No matching distribution found for tensorflow
이런 메시지가 나옵니다. 게다가 파이썬 64비트로도 설치해야하지만 기본 제공되는 설치파일은 32비트여서 깁숙히 들어가야 제대로된 설치파일이 나옵니다. 이미 출판된 책의 내용은 수정할 수 없으니 별 수 없겠네요...

[https://stackoverflow.com/questions/38896424/tensorflow-not-found-using-pip/42596864#42596864](관련 링크)

python3 agent.py --train
4500회까지 학습하다 Ctrl-C로 중단

python3 agent.py
실행하면, 컬러 상자 그림이 나와야 할 것 같은데, 다음 첨부 그림처럼 빈 상태로 숫자값만 바뀝니다.

그림이 나오도록 하려면 어떻게 해야 할까요?

코드에서 보면 학습결과를 확인할 때
prediction = tf.argmax(model, axis=1)에서
model은 최적화하기 전의 모델이고,
train_op는 최소의 cost값을 갖은 최적화 모델인데
왜 model을 넣어서 예측을 하나요?
train_op을 넣어서도 프로그래밍해보았는데, 실행이 안되더라구요....왜 그러는지 답변 부탁드립니다^^

안녕하세요.
Saver 예제에서 data.csv 파일을 로드하지 못합니다.

환경

visual studio 2017 에서 Anaconda 를 버추얼로 실행 합니다.
프로젝트는 Visual studio 2017 에서 Python 프로젝트로 생성 하였습니다.

error Message

... import tensorflow as tf
... 
>>> import numpy as np
>>> data = np.loadtxt('./data.csv', delimiter=',',
...                   unpack=True, dtype='float32')
... 
Traceback (most recent call last):
  File "<stdin>", line 2, in <module>
  File "C:\ProgramData\Anaconda3\lib\site-packages\numpy\lib\npyio.py", line 962, in loadtxt
    fh = np.lib._datasource.open(fname, 'rt', encoding=encoding)
  File "C:\ProgramData\Anaconda3\lib\site-packages\numpy\lib\_datasource.py", line 266, in open
    return ds.open(path, mode, encoding=encoding, newline=newline)
  File "C:\ProgramData\Anaconda3\lib\site-packages\numpy\lib\_datasource.py", line 624, in open
    raise IOError("%s not found." % path)
OSError: ./data.csv not found.

./data.csv 파일은 소스 파일과 동일한 위치에 있습니다.
따로 만든 파일이 문제가 될 수 있어 git 에서 받은 파일로 대치 해봤지만 동일한 문제가 발생 합니다.

예상

혹시 Visual studio 에서 버추얼로 실행 하여 이런 문제가 발생 할 수 있는 걸까요?

안녕하세요.
제공해주시는 내용 잘 보고 있습니다. ^^
감사합니다.

혹시라도 조금이라도 도움이 될까해서 오타 이슈걸어 봅니다.

README.md
-자연어 분석에 매주 중요하게 사용되는 Word2Vec 모델을 간단하게 구현해봅니다.
+자연어 분석에 매우 중요하게 사용되는 Word2Vec 모델을 간단하게 구현해봅니다.

앞으로도 좋은 내용 잘 부탁드립니다.

덕분에 많이 공부하고 있습니다! 2-3 word2vec 예제에서 수정사항이 있습니다. 텐서플로우 라이브러리가 업데이트 되면서 nce_loss 함수의 파라미터가 바뀌었습니다!
tensorflow/tensorflow@761b12e
를 참고하세요~

여기에 질문드려도 되는지 모르겠네요
DQN - model.py를 코드를 보며 공부중입니다. 다음과 같은 코드에서 질문이 있습니다.

    def get_action(self):
        Q_value = self.session.run(self.Q_value,
                                   feed_dict={self.input_X: [self.state]})

        action = np.argmax(Q_value[0])

        return action

여기서 action을 가져올때, 왜 Q_value[0]에서 가져오는건가요 ?

Q_value는 self.Q_value의 conv network의 action수만큼 이루어진 배열(?)같은것인데(output layer) 여기서 왜 0번째값의 argmax를 구하는지 모르겠습니다.

여기에 질문올려도 되는지 모르겠네요 ㅠㅠ

답변 부탁드립니다.

감사합니다.

내용

[5.2 텐서보드 사용하기] 가 처음 실행 후 python(tensor board server) 까지 종료 하여도 재 실행시 에러가 발생 합니다.

에러 위치는 [logs] 에서 writer.add_summary() 실행시 1회 시행 후 2회 부터 에러를 이르킵니다.

환경

Visual studio 2017 에서 작업하며 버추얼을 이용하여 Anaconda 를 실행 합니다.