应与良性小动脉性肾硬化症及肾小动脉胆固醇结晶栓塞鉴别，它们也可引起慢性肾脏缺血性病变。
良性小动脉性肾硬化症（BANS）需有长期持续高血压史（常为10余年），而本病可不伴高血压或仅有较短期高血压；两病肾病临床表现相似，但是BANS两肾大小对称，而本病两肾大小常不一致；两病肾脏病理均显示肾实质缺血性病变，但是BANS患者肾小动脉硬化十分突出，而本病不伴高血压时无肾小动脉硬化。除以上各点外，有无肾动脉粥样硬化狭窄的影像学变化是两病鉴别关键。
肾小动脉胆固醇结晶栓塞又称粥样栓塞性肾病，它与缺血性肾病一样均可由肾动脉粥样硬化引起。血管外科手术或导管插管诱发管壁粥样硬化斑大量碎裂、胆固醇结晶广泛栓塞肾小动脉时，临床呈现急性肾衰竭；而管壁粥样硬化斑反复自发小量碎裂，引起肾小动脉多次小范围栓塞时，临床却呈现进行性慢性肾衰竭。后者需与缺血性肾脏病鉴别，鉴别要点是在肾穿刺组织的小动脉腔和（或）肾小球中发现胆固醇结晶（石蜡包埋切片中，仅能见到胆固醇结晶溶解后的结晶形裂隙）。
不过，在此必须强调，肾动脉粥样硬化性缺血性肾脏病常能与BANS和（或）胆固醇结晶栓塞并存，此时它们将共同致病，加速肾衰竭进程。