离子探针主要由三部分组成：一次离子发射系统、质谱仪、二次离子的记录和显示系统。前两者处于压强〈10-7Pa的真空室内。其结构原理如图所示。
① 一次离子发射系统
一次离子发射系统由离子源（或称离子枪）和透镜组成。离子源是发射一次离子的装置，通常是用几百伏特的电子束轰击气体分子（如惰性气体氦、氖、氩等），使气体分子电离，产生一次离子。在电压作用下，离子从离子枪内射出，再经过几个电磁透镜使离子束聚焦，照射在样品表面上激发二次离子。用一个电压约为1KV的引出电极将二次离子引入质谱仪。
② 质谱仪
质谱仪由扇形电场和扇形磁场组成。二次离子首先进入一个扇形电场，称为静电分析器。在电场内，离子沿半径为r的圆形轨道运动，由电场产生的力等于向心力。运动轨道半径r等于mv2/eE，与离子的能量成正比。所以扇形电场能使能量相同的离子作相同程度的偏转。由电场偏转后的二次离子再进入扇形磁场（磁分析器）进行第二次聚焦。由磁通产生的洛仑兹力等于向心力。不同质荷比的离子聚焦在成像面的不同点上。如果C狭缝固定不动，联系改变扇形磁场的强度，便有不同质量的离子通过C狭缝进入探测器。B狭缝称为能量狭缝，改变狭缝的宽度可选择不同能量的二次离子进入磁场。
③ 离子探测系统
离子探测器是二次电子倍增管，内是弯曲的电极，各电极之间施加100-300V的电压，以便逐级加速电子。二次离子通过质谱仪后直接与电子倍增管的初级电极相碰撞，产生二次电子发射。二次电子被第二级电极吸引并加速，在其上轰击出更多的二次电子，这样逐级倍增，最后进入记录和观察系统。
二次离子的记录和观察系统与电子探针相似，可在阴极射线管上显示二次离子像，给出某元素的面分布图，或在记录仪上画出所有元素的二次离子质谱图。
