当前在线人数15000
首页 - 分类讨论区 - 电脑网络 - 葵花宝典版 - 同主题阅读文章

此篇文章共收到打赏
0

  • 10
  • 20
  • 50
  • 100
您目前伪币余额:0
未名交友
[更多]
[更多]
Tensorflow就是靠天吃饭啊
[版面:葵花宝典][首篇作者:guvest] , 2019年01月19日00:47:20 ,4767次阅读,10次回复
来APP回复,赚取更多伪币 关注本站公众号:
[分页:1 ]
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 1 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sat Jan 19 00:47:20 2019, 美东)

Tensorflow设计的时候没有考虑多线程?
这问题好多年了没搞定。4天前还有人报告。

https://github.com/keras-team/keras/issues/2397

I'm still having this issue and the recommended fixes do not work for me.
The only thing that works is loading the model and making a prediction with
each prediction request. I'm requesting that this issue be reopened as no
actual solution has been proposed, just several workarounds that seem to
work intermittently.


This fix does not seem to work when using custom graphs.



--
※ 修改:·guvest 於 Jan 19 00:48:50 2019 修改本文·[FROM: 47.]
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 47.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 2 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sat Jan 19 01:00:59 2019, 美东)

CNTK说他家用了一些全局变量,所以不是thread safe的。
更牛。

散户攒一个可以支持一秒一百个request的机器学习服务器还真不容易啊。

TF还有memory leak问题
https://github.com/tensorflow/tensorflow/issues/10408
Clear session不工作。

各位大牛。生产环境该怎么办?

--
※ 修改:·guvest 於 Jan 19 01:03:06 2019 修改本文·[FROM: 47.]
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 47.]

 
hadoop2
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 3 ]

发信人: hadoop2 (千古), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sat Jan 19 02:16:00 2019, 美东)

2000年windows还漏洞百出的时候,照样上线;linux后门蠕虫漫天飞,照样server/
client端跑;NN P0的安全漏洞N年都没人修,照样有人用。PROD没那么神圣,在商业和
市场面前,这点儿P大的技术问题真的...连P都算不上。

记住4个字:
带病延年

【 在 guvest (我爱你老婆Anna) 的大作中提到: 】
: CNTK说他家用了一些全局变量,所以不是thread safe的。
: 更牛。
: 散户攒一个可以支持一秒一百个request的机器学习服务器还真不容易啊。
: TF还有memory leak问题
: https://github.com/tensorflow/tensorflow/issues/10408
: Clear session不工作。
: 各位大牛。生产环境该怎么办?



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 71.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 4 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sat Jan 19 02:22:08 2019, 美东)

修各种问题,创造工作,也挺好


【 在 hadoop2(千古) 的大作中提到: 】
<br>: 2000年windows还漏洞百出的时候,照样上线;linux后门蠕虫漫天飞,照样
server/
<br>: client端跑;NN P0的安全漏洞N年都没人修,照样有人用。PROD没那么神圣,在
商业和
<br>: 市场面前,这点儿P大的技术问题真的...连P都算不上。
<br>: 记住4个字:
<br>: 带病延年
<br>
--
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 47.]

 
netghost
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 5 ]

发信人: netghost (Up to Isomorphism), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sat Jan 19 03:20:34 2019, 美东)

Linux 後門蠕蟲沒法滿天飛,都open source的。你自己不看那是你自己的問題。
【 在 hadoop2 (千古) 的大作中提到: 】
: 2000年windows还漏洞百出的时候,照样上线;linux后门蠕虫漫天飞,照样server/
: client端跑;NN P0的安全漏洞N年都没人修,照样有人用。PROD没那么神圣,在商业和
: 市场面前,这点儿P大的技术问题真的...连P都算不上。
: 记住4个字:
: 带病延年



--

※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 96.]

 
wdong
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 6 ]

发信人: wdong (万事休), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sun Jan 20 09:15:11 2019, 美东)

不光是TF,Python对多线程支持根本就不行,上点规模的轮子十有八九有这个问题。这
可以说是语言层面的事情,根本解决不了。老司机上python根本就不会用多线程,这个
也就不算是bug。

你这个需求,还要注意一点的是TF在CPU上的计算是多核的,而且很霸道。如果你上多
process,忙的时候不同的process抢资源,可能会死锁。


【 在 guvest (我爱你老婆Anna) 的大作中提到: 】
: Tensorflow设计的时候没有考虑多线程?
: 这问题好多年了没搞定。4天前还有人报告。
: https://github.com/keras-team/keras/issues/2397
: I'm still having this issue and the recommended fixes do not work for me.
: The only thing that works is loading the model and making a prediction
with
: each prediction request. I'm requesting that this issue be reopened as no
: actual solution has been proposed, just several workarounds that seem to
: work intermittently.
: This fix does not seem to work when using custom graphs.



--

※ 修改:·wdong 于 Jan 20 09:15:42 2019 修改本文·[FROM: 108.]
※ 来源:·BBS 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 108.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 7 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Sun Jan 20 13:59:03 2019, 美东)

還是這些module寫的時候沒有考慮周到吧。假如
包括了一些reference作为module variable.再假如
多个request进来,flask调用同一个module,Reference 的内容会乱了。




【 在 wdong(万事休) 的大作中提到: 】
<br>: 不光是TF,Python对多线程支持根本就不行,上点规模的轮子十有八九有这个问
题。这
<br>: 可以说是语言层面的事情,根本解决不了。老司机上python根本就不会用多线程
,这个
<br>: 也就不算是bug。
<br>: 你这个需求,还要注意一点的是TF在CPU上的计算是多核的,而且很霸道。如果
你上多
<br>: process,忙的时候不同的process抢资源,可能会死锁。
<br>: with
<br>
--
※ 来源:· 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 2607:fb90:1cdc:]

 
lightroom
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 8 ]

发信人: lightroom (吃一条鱼,思考一个问题,法号三丰), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Mon Jan 21 13:07:52 2019, 美东)

用tf serving,c++的server,提供grpc和rest apis. 自己用自己喜欢的语言做web
serving就好了。千万别用tf python api直接做serving. 如果要用,最好只开一次
session. 开关session不是thread safe的

【 在 guvest (我爱你老婆Anna) 的大作中提到: 】
: CNTK说他家用了一些全局变量,所以不是thread safe的。
: 更牛。
: 散户攒一个可以支持一秒一百个request的机器学习服务器还真不容易啊。
: TF还有memory leak问题
: https://github.com/tensorflow/tensorflow/issues/10408
: Clear session不工作。
: 各位大牛。生产环境该怎么办?




--
※ 修改:·lightroom 於 Jan 21 13:56:16 2019 修改本文·[FROM: 96.]
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 96.]

 
guvest
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 9 ]

发信人: guvest (我爱你老婆Anna), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Mon Jan 21 15:01:37 2019, 美东)

tf python API不能在别的web serving下直接工作,这是故意的吧

【 在 lightroom (吃一条鱼,思考一个问题,法号三丰) 的大作中提到: 】
: 用tf serving,c++的server,提供grpc和rest apis. 自己用自己喜欢的语言做web
: serving就好了。千万别用tf python api直接做serving. 如果要用,最好只开一次
: session. 开关session不是thread safe的



--
※ 来源:·WWW 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 38.]

 
lightroom
进入未名形象秀
我的博客
[回复] [回信给作者] [本篇全文] [本讨论区] [修改] [删除] [转寄] [转贴] [收藏] [举报] [ 10 ]

发信人: lightroom (吃一条鱼,思考一个问题,法号三丰), 信区: Programming
标  题: Re: Tensorflow就是靠天吃饭啊
发信站: BBS 未名空间站 (Mon Jan 21 16:45:25 2019, 美东)

不是故意的,是不容易。tf不是pure python, 基本上是call c++, 如果要保证thread
safe, 要在c++中加python 的lock。但python只是个接口,没必要。以前queue 需要
Python thread, 马上queue 就不支持了,所以tf正确写法就是一个thread.

【在  guvest(我爱你老婆Anna)的大作中提到:】
:tf python API不能在别的web serving下直接工作,这是故意的吧


--
※ 来源:·Android 未名空间站 网址:mitbbs.com 移动:在应用商店搜索未名空间·[FROM: 96.]

[分页:1 ]
[快速返回] [ 进入葵花宝典讨论区] [返回顶部]
回复文章
标题:
内 容:

未名交友
将您的链接放在这儿

友情链接


 

Site Map - Contact Us - Terms and Conditions - Privacy Policy

版权所有,未名空间(mitbbs.com),since 1996