1259年中国制成的以黑火药发射子窠的竹管突火枪，被认为是世界上最早的身管射击火器。欧洲枪械的发展大致经过了以下过程：14世纪出现火门枪，15世纪出现火绳枪，16世纪出现燧石枪(又称燧发枪)，19世纪初出现击发枪，19世纪中叶出现金属弹壳定装弹后装击针枪，19世纪下半叶出现弹仓枪，19世纪末出现自动枪械。在这长达600余年的发展过程中，枪械本身由前装到后装，由滑膛到线膛，由非自动到自动，经历了多次重大的变革。19世纪中叶以前，枪械的发展主要集中在提高点火方法的方便性和可靠性方面，19世纪末开始在提高射速方面有了突破性的进展。同时，枪械的品种由少到多，重量逐渐减轻，口径由大到小，射程由近及远，射速也逐渐提高，才发展到今天这样的水平。
步兵使用的小型爆炸性或燃烧性弹药通常称为榴弹。最早的榴弹主要以杀伤和燃烧为主，以后才发展出现了破甲、化学、烟幕、照明等弹种。榴弹可以手投(手榴弹) 、枪发(枪榴弹)或用专门的榴弹发射器发射。
据史料记载，手榴弹于11世纪初首先出现于中国，15世纪末出现于欧洲。枪榴弹和榴弹发射器出现于16世纪末期，是为了增加手榴弹的投掷距离而开发的。
在第二次世界大战中，陆续出现了火箭发射器和无坐力发射器。60年代又出现了根据火箭发射原理制成的并带有制导系统的单兵导弹。
轻武器是在战术需求的引导与推动下，和技术可能(即生产力发展水平)的允许与制约下，逐步发展起来的。远古时代人们幻想的“神弹子”和“掌手雷”，由于火药的发明，枪械和手榴弹的出现，而变为现实。面对敌集群步兵的快速冲击，提高发射速度，一直是早期枪械发展的重大课题，只有在科学技术进步到19世纪末期，后装枪和金属弹壳定装枪弹已经成熟，使得自动武器出现之后，才算基本得到解决。
20世纪初，堑壕战的兴起，使一度受到冷遇的手榴弹再度受到重视；为了伴随步兵班战斗，笨重的机枪演进出了轻机枪；阵地争夺战的增加，要求在近距离内发扬火力,使冲锋枪出世参战；飞机和坦克在战场上的运用 ，使坦克机枪、航空机枪、高射机枪、反坦克枪、无坐力发射器、火箭发射器和单兵导弹等相继发展起来。20世纪中叶核武器的诞生，步兵摩托化、装甲化的实现，大大促进了步兵的战场运动速度和防护能力的提高，对枪械的要求，由突出威力转变为在保证必要威力的条件下，突出机动性和持续作战能力，6毫米以下的小口径突击步枪随之发展成为世界潮流。
轻武器在战术需求推动下的发展，反过来也对军队编成、战术运用，甚至军事理论产生过重大影响。17世纪中叶出现刺刀，滑膛枪手有了格斗自卫的武器，17世纪末长矛手便从欧洲军队中消失了，冷兵器退居到次要地位。
17世纪以前敌对双方交战距离经常很近，手榴弹曾风行一时，许多军队中都编制有专门的“榴弹兵”。自动武器于19世纪末的出现，对战场态势和战术的影响尤为明显,各国军队不得不抛弃兵员密集的“纵队战术”,采用“散开战术”；同时“跃进”亦成为在密集的机枪和步枪火力下的主要运动方式；在敌方机枪火力被克服之前，所有步兵冲击成功的希望都是很小的，冲击前的火力准备也就成为非常必要的战术了。
【发展趋势 】
20世纪80～90年代，轻武器经历着更新换代的变革。美国、苏联和西欧诸国都进行了轻武器装备更新；亚洲、非洲、拉丁美洲以及东欧一些国家也不同程度地采用了新型轻武器。这个时期轻武器新产品开发也十分活跃，有些已经研制成功并开始装备军队，有些正处于开发试验阶段。
现代轻武器的发展趋势大致为：
①突击步枪将继续在结构和性能方面进行创新与发展，先进战斗步枪、轻型步冲合一枪、新卡宾枪、单兵自卫枪、步枪轻机枪合一的新型单兵战斗武器等已经出现；步枪和轻机枪组合而成的班用枪族将进一步得到广泛应用。
②特种部队使用的轻型单兵武器将有较大发展。
③手枪的发展，将着重解决手枪弹头命中人体后使其迅速丧失战斗力的停止作用和侵彻性能同时提高的问题。
④狙击步枪趋向加大射程，使用更大威力的弹药和提高射击精度。
⑤步机枪弹药，特别是多作用枪弹、无壳弹、箭形弹、双头弹和其他一些新结构枪弹将有较大发展。
⑥自动榴弹发射器将大幅度减轻重量，开发新型高威力弹药(包括近炸引信)和昼夜使用的测距瞄准合一的袖珍火控系统。
⑦普通口径的通用机枪或中型机枪的地面野战使用将趋于减少，这类机枪将主要装备在各种车辆、直升机、低空作战飞机上单独使用或在战斗车辆上作为并列武器(与主炮同轴)使用。
⑧地面使用和车载、机载大口径机枪将继续得到发展，主要是减轻重量，增加弹药品种，开发轻便高效火控系统，加大射程和提高射击精度。
⑨霰弹枪军用性能的提高，将成为重点研究开发项目之一。
⑩低发射痕迹(无焰、无烟、微声)的轻武器将有进一步的发展。轻型近程反装甲、攻坚和杀伤压制用的火箭发射器和无坐力发射器将有较大发展。步兵用轻便廉价的光学瞄准镜、夜视器材和测距瞄准合一装置将以较快速度开发和使用。反恐怖活动和防暴武器弹药将更加受到重视。轻武器训练和演习弹药以及实战模拟装置的开发，将加快步伐并逐步得到广泛应用。
随着科学技术的进步，轻武器将在探索新的工作原理、新型结构产品方面继续发展，世界各国层出不穷的各种新式枪械和弹药的试验方案，就说明了这个问题。
在提高轻武器机动能力的同时，还要着重增强其威力，加大其火力密度，以提高其作战效能；提高轻武器对任务、人员和环境的适应性，加强轻武器反坦克、反空袭的能力，使枪械实现点、面杀伤与破甲一体化。轻武器在新材料(如轻金属、工程塑料等)、新能源(如非火药能源——电磁能、声能、光能等)和高技术的采用方面也将大有前途。