не помню, отсюда взял или нет, пусть будет https://medium.com/intuitionmachine/building-a-50-teraflops-amd-vega-deep-learning-box-for-under-3k-ebdd60d4a93c Говорят, что даже софт пишут (портируют на opencl?) https://streamhpc.com/blog/2017-05-15/caffe-torch7-mxnet-ported-amd-gpus/

Хорошо про моменты: http://stanford.edu/~imit/tuneyourmomentum/ от них же новый optimizer: http://cs.stanford.edu/~zjian/project/YellowFin/

http://alexgkendall.com - сайт одного из авторов GC-Net ( https://arxiv.org/pdf/1703.04309.pdf ). Сейчас сетка на втором месте в kitti benchmark, но на первом какая-то мутная ерунда, которую я не мог нагуглить.