该成语来源于中国明朝时期的一段历史。当时，明朝国家财政困难，需要借粮为粮仓添货，以应对即将到来的战争。但是，征粮重税，民众不敢轻易交纳，加之地方官员贪污，拨款残缺不齐，导致基层出现了粮食短缺的情况。为了解决这个问题，一些地方官员便动起了歪脑筋，指使手下的阴兵秘密地到民间收购粮食，不过并不支付现金，而是发放借据，并承诺在未来的某个时间里归还。
然而，这些借据最终没能兑付，因为当时财政出现了更大的短缺，加之战争的加剧，政府无法兑现承诺。由于这些借据不能兑付，民众就陷入了疲于奔命的借还循环中，甚至有些人因为背负了过多的债务而破产，土地被没收，家破人亡。
因此，天下粮仓阴兵借粮成为了一个负面的成语，用来形容某些人借债不还，失信于人的行为。
