用线程池思路优化 AI 训练任务调度

前言 AI 训练任务的时候，经常遇到一个很典型的场景：几块 GPU 摆在那里，利用率却上不去，这不是卡不够，而是任务在排队，大任务占着显存不放，小任务干等；有的任务在等数据加载，有的任务在等前一个跑完，这看起来是“算力不够”，实际上是“调度没做好”。 这个问题可以通过Java 线程池的思路来解决，核
用线程池思路优化 AI 训练任务调度
作者：Bandwagonset云观察
分类： AI趋势
标签： #Java ,  #GPU ,  #AI
共 1 篇文章
页