德军装甲部队最初的重型坦克单位是1942年2月16日组建的第501、502重坦克连，它们在同年5月10日在埃尔福特（Erfurt）共同组成了第501重装甲营，这也是德军第一个独立重装甲营。此后将重型坦克编入营级规模的独立作战分队成为德军装甲部队的编制通例，大部分虎式和虎王坦克都配属到陆续组建的各重装甲营内。从1942年至1945年，在国防军陆军部队序列内共组建了12个重装甲营，其中10个采用5开头的三位数字作为部队番号，从第501营至第510营，仅有第316重装甲营和“大德意志”装甲掷弹兵师所属装甲团的第3营例外，其中后者是德国陆军部队中唯一的师属重装甲营。
在1942年底，武装党卫军部队序列内也组建了重装甲单位，党卫军第1“警卫旗队”师、第2“帝国”师和第3“髑髅”师三支王牌部队各自拥有了一个装备9辆虎式的重坦克连。在库尔斯克战役之后，上述三个连被扩编成重装甲营，编制与陆军同类单位相同，番号为党卫军第101、102、103重装甲营，分别配属党卫军第1、2、3装甲军，1943年10月还计划组建党卫军第104重装甲营，准备配属党卫军第4装甲军，但没有实现，上述三个营在1944年夏季改称为党卫军第501、502、503重装甲营。除了上述15个陆军和党卫军重装甲营外，在战争中还存在一些独立的虎式坦克分队，大多是连级规模，通常附属于军、师级单位、战斗群、伞兵部队和装甲兵学校。
在组建之初，由于虎式坦克数量不足，重装甲营编制内仅编有两个坦克连，每连辖四个坦克排，每个排装备2辆虎式坦克和2辆三号坦克，全连共有8辆虎式和8辆三号，此外每个连部配置1辆虎式，营部直辖2辆虎式，这样全营共有20辆虎式和16辆三号，计36辆坦克。随着虎式坦克产量的增加，重装甲营的编制规模得到扩充，增加了第三个坦克连，每连辖三个坦克排，每排编有4辆虎式坦克，连部编有2辆虎式，全连共计14辆，三个连总共42辆坦克，加上营部直辖的3辆坦克，则重装甲营的虎式坦克总数达到45辆，最初用于充数的三号坦克则全部取消，这是战争后期重装甲营的标准编制。
在1943年至1944年间，各重装甲营的补充通常享有优先权，尽管战损很大，都能及时补充，在短时间内恢复满编状态，甚至达到超编。但在1944年秋季之后，随着战局恶化，装备匮乏，补充难以得到保证，重装甲营的缺编开始变得普遍，而且虎式坦克机械故障繁多，时常需要维修，因此能够投入作战的坦克数量通常低于编制数量。
除了坦克连外，重装甲营最初还辖有一个营部连和一个维修连，营部连由以下作战支援单位组成，包括参谋部、通信分队、侦察排、工兵排、防空排、医疗分队和供给分队，而维修连则包括各个后勤维修分队。当重装甲营扩编为三个坦克连后，配属的后勤支援部队也相应扩大，在营部连、维修连之外又组建了单独的供给连。在维修连内编有三个维修排和一个抢修排，其中第1、2排负责履带式车辆的维修，第3排负责轮式车辆的维修，抢修排负责战地紧急修理。每个坦克连也配置了支援单位，包括连部、卫生队、维修分队和运输分队，并配属22辆轮式车辆，运送上述单位的人员和物资。在全营范围内，除了45辆虎式坦克外，其他各型轮式或履带式车辆配置数量多达278辆，用于支援虎式坦克作战。到战争末期随着装备日渐匮乏，这些支援车辆的数量下降到233辆，但种类更加多样，编组更趋完善，重装甲营后勤支援车辆的构成和数量详见附表
附表：德军重装甲营作战及支援车辆编成及数量
注1：8辆四号自行高炮中有4辆装载单装37毫米炮，4辆装载四联装20毫米炮；
注2：所有半履带式自行高炮均装载四联装20毫米炮。
从编制人数看，一个重型坦克连共有113名官兵，而重装甲营的全部人员为1093人，包括28名军官、274名军士、694名士兵、7名平民雇员（维修技师）和90名辅助人员（主要是自愿为德军服务的前苏军战俘）。到战争即将结束时，重装甲营的兵力也有所减少，坦克连编制内的运输分队被并入供给连，坦克连的编制人数下降至88人，包括4名军官、46名军士和38名士兵；供给连的人员增加到248人，包括5名军官、55名军士和188名士兵；营部连的兵力为176人，包括9名军官、37名军士和130名士兵；维修连有207人，包括3名军官、37名军士和167名士兵；全营编制总人数为902人，包括7名平民雇员。