共享gpu內(nèi)存利用率怎么拉滿

【專家解說】：如果顯存利用也不高的話，可以加大batchsize。此外還和網(wǎng)絡(luò)結(jié)構(gòu)有關(guān)。有些網(wǎng)絡(luò)比如mobile net可并行性本身就比vgg不友好，這個(gè)無解。不同深度學(xué)習(xí)框架對(duì)gpu優(yōu)化也不一樣。我所知道的tensorpack、mxnet對(duì)gpu優(yōu)化都不錯(cuò)。pytorch略差一些。
然后是供數(shù)據(jù)方式對(duì)gpu利用率影響也比較大，如果數(shù)據(jù)供的慢，gpu就會(huì)空等著。常見加快供數(shù)據(jù)方法：并行讀取、固態(tài)硬盤、避免gpu與cpu頻繁拷貝數(shù)據(jù)