随着M16A2的研制成功,美军也开始考虑为特种部队研制发射SS109/M885弹的新型卡宾枪了。就像M16A2一样,这种新型卡宾枪也是根据海军陆战队的需求而在1983年开始设计的。当时海军陆战队的武力侦察连(Force Recon)正式装备的小型肩射武器只是M3A1“注油枪”(非正式使用的是XM177E2),而装甲车组成员也是使用M3A1,海军陆战连认为应该为这些人提供一种卡宾枪。最初柯尔特公司为海军陆战队研制的M16A2卡宾枪基本上只是把M16A2上的改变应用到653型卡宾枪上,即更换了1/7缠距的14.5英寸(368mm)重型枪管,改用M16A2消焰器,用3发点射代替全自动射击,改用M16A2的机械瞄准具。这种M16A2卡宾枪在1985年完成设计,柯尔特公司的型号编号为720型,而在军方的测试计划中称为XM4。但国会否决了海军陆战队的XM4采购预算,结果武力侦察连不得不采用海军的HK MP5-N冲锋枪来代替老旧的M3A1冲锋枪,而其他的美军特种部队则在1988年开始使用的RO727等其他M16A2卡宾枪。
美国陆军的试验与鉴定司令部(TECOM)在1986年4月重开XM4卡宾枪的研制工作和第2阶段试验。经过进一步试验和改进后,XM4在1991年3月被正式定型并命名为“美国5.56mm北大西洋公约组织口径M4卡宾枪”(The United States Carbine, Caliber 5.56mm NATO, M4)。M4与其他M16A2卡宾枪最明显的区别特征是其枪管在距离准星座前25mm的位置上加工了一个缩颈的形状,这是在后来的试验中为了挂装M203榴弹发射器而作出的改动。为了能够挂装原有的M203榴弹发射器,M16A2在护木内的枪管直径与M16A1是相同的,但卡宾枪的护木较短而护木外又采用M16A2式的厚枪管,因此柯尔特的工程师就在护木外的枪管中段加工了这个缩颈,这样就能挂装M203榴弹发射器。固定枪托也能装上去用,但在美军中并不常见有这样做的。
M4卡宾枪还把原本只有两个固定位置的伸缩式枪托改为有四个固定位置,再后来又改为六个。另外M4的照门虽然是M16A2式的,但表尺最远只可调到600米,而非M16A2的800米。由于下机匣是M16A2的,因此射击方式为半自动和三发点射。由于M4和M16A2非常相似,事实上它们有80%的零件可以互换,因此最初也称为M16A2卡宾枪。M4首先装备82空降师,用于取替M16A1/A2步枪、M3A1冲锋枪和车辆驾驶员使用的部分9mm手枪,1994年正式列装。
M4卡宾枪首次参加实战是在1991年的海湾战争,战争爆发前美军突然发现他们缺少新步枪,许多部队仍在使用M16A1,而M16A2只是在1986年才开始陆续装备,有许多部队还没有完成换装。由于需要尽快获得大量的M16A2和M4,因此美国国防部批准增加M4的供应商,缅因州的大毒蛇轻武器公司(Bushmaster Firearms)获得一份供应M4卡宾枪的采购合同,并为陆军供应了4, 000支M4,这批枪在“沙漠盾牌”和“沙漠风暴”期间被第82空降师使用,据说施瓦茨科普夫将军(Schwarzkopf)的卫兵也是使用大毒蛇M4。然而当时美军还没有取得M4的生产权(因为美国已经获得M16的生产权,因此当年才能把M16A2的生产合同判给FNMI),柯尔特威胁将会控告美国未经许可就向其他公司转让M4的工艺文件,结果大毒蛇就只得到这一份M4的采购合同。