据《辞源》解释，挽歌是古人送葬执绋挽丧车前行的人所唱哀悼死者的歌。挽歌由乐曲、歌词组成。《左传•昭公三十年》记：“先君有所助执绋矣。”杜预注：“绋，挽索也。”古时出殡，灵柩前面有用绳索围成的圈子，称为“绋”。至亲好友们手扶绳子，有的号泣，有的悲呼，有的唱“挽歌”。
关于挽歌的起源，有种种不同的说法。《晋书•礼志》记载：“新礼以为挽歌出于汉武帝役人之劳歌，声哀切，遂以为送终之礼。”这是说挽歌起源于劳动号子。
而三国时西蜀学者谯周认为，挽歌出于汉初田横的门人。《世说新语•任诞》四五刘孝标注引《谯子法训》：“有丧而歌者，或曰：‘彼为乐丧也，有不可乎？’谯子曰：‘《书》云：‘四海遏密八音。’何乐丧之有！’曰：‘今丧有挽歌者，何以哉？’谯子曰：‘周闻之：盖高帝召齐田横，至于尸乡亭，自刎奉首。从者挽至于宫，不敢哭而不胜哀，故为歌以寄哀音。”西晋的崔豹也这样认为，在《古今注》卷中《音乐第三》说得更具体：“《薤露》、《蒿里》，并丧歌也。出田横门人。横自杀，门人伤之，为之悲歌，言人命如薤上之露，易晞灭也。亦谓人死，魂魄归于蒿里，故有二章。”
实际上，“薤露”之名始见于《宋玉对楚王问》：“其为《阳阿》《薤露》，国中属而和者数百人。”（《文选》卷四五）宋玉生于楚怀王十年（公元前319年）。《庄子》也记载：“绋讴所生，必于斥苦。”司马彪注：“绋，引柩索也，讴，挽歌。斥，慢缓，苦，用力也。”是说挽歌产生于抬灵柩的人为整齐步调、均匀力气而发出的喊声。由此可知，至少庄子时代就有手扶柩绋而长歌当哭的事了。可见，远在战国时期挽歌便出现了。
现代学者张亮采在《中国风俗史》中则认为挽歌出现更早。比如《礼记•檀弓》记：“季武子寝疾……及其丧也，曾点倚其门而歌。”《左传•哀公十一年》记载，因为齐国侵略鲁国郊外，鲁国联合吴国攻击齐国，鲁国将领公孙夏认为齐军必败，“将战，公孙夏命其徒歌《虞殡》。”《虞殡》是送葬挽歌，表示敌方必死。《列子•仲尼篇》：“季梁之死，杨朱望其门而歌。随梧之死，杨朱抚其尸而哭。”这些记载将挽歌的年代前推到了春秋时期。
到汉武帝时，“薤露”“蒿里”经过西汉乐府协律都尉、著名艺术家、“性知音、善歌舞”的李延年的改造，双双进入乐府，“薤露”送王公贵人，“蒿里”送士大夫庶人，使挽柩者歌之，称之为挽歌，又谓长短歌，成为“新声变曲”。
汉魏以后，唱挽歌已经是朝廷规定的丧葬礼俗的内容，《宋书》卷五一《刘道规传》：“及长沙太妃檀氏、临川太妃曹氏后薨，祭皆给鸾辂九旒，黄屋左纛，辒辌车，挽歌一部，前后部羽葆、鼓吹，虎贲班剑百人。”自东汉至魏晋南北朝，挽歌竟然成为士林名流的爱好，不仅送葬时唱，而且饮宴游乐时也唱，是名流达士的一时之风尚。如《后汉书•周举传》记载：永和六年三月上己日，大将军梁商“大会宾客，燕于洛水，举时称疾不往，商与亲昵酣饮极欢，及酒阑倡罢，继以‘薤露’之歌，坐中闻者，皆为掩涕。太守张种时亦在焉，会还，以事告举，举叹曰：‘此所谓哀乐失时，非其所也，殃将及乎！’”又如《世说新语•任诞》四三：“张湛好于斋前种松柏，时袁山松出游，每好令左右作挽歌。时人谓‘张屋下陈尸，袁道上行殡。’”
类似的任诞之举，《后汉书》的作者范晔也曾经为之。范晔出身书香门第、官宦之家，史书说他“少好学，博涉经史，善为文章，能隶书，晓音律”（《宋书•范晔传》）但他性格存在缺陷，“薄情浅行数犯名教，为士流所鄙。”其中之一是，他在彭城王刘义康手下做右军参军时，彭城王的太妃死了，正准备下葬，许多官员与送葬者都集合在东府。范晔的弟弟广渊，时为司徒祭酒，当日正在值班。范晔不去送葬也就罢了，他却与人到弟弟宿舍，夜中酣饮，还开着北面的窗户，以听挽歌为乐：“晔与司徒左西属王深宿广渊许，夜中酣饮，开北牖听挽歌为乐。”（《宋书•范晔传》）刘义康自然大怒，把他左迁去当宣城太守。可是他并不接受教训，依然我行我素，最终陷入谋反小集团，被朝廷处决。他在《狱中与诸外甥侄书》的开头就说：“吾狂衅覆灭，岂复可言”，说明他是认识到自己的问题，只是为时已晚。
挽歌一般由死者的亲友所制所唱，但也有出于礼节、情感等原因，丧家主人专门请人上门帮助唱挽歌。清代学者俞正燮《癸巳类稿》引唐人李匡义《资暇集》说：“丧筵伎婢，唱悲切声，助主人哀。”古代也有生者写下挽歌嘱亲友在他死后歌唱。大诗人陶渊明在临终前的三个月就写了三首挽歌，让亲友在其出殡时歌唱。挽歌之一写道：“荒草何茫茫，白杨亦萧萧。严霜九月中，送我出远郊。四面无人居，高坟正嶣峣。马为仰天鸣，风为自萧条。幽室一已闭，千年不复朝。千年不复朝，贤达无奈何。向来相送人，各自还其家。亲戚或余悲，他人亦已歌。死去何所道，托体同山阿。”在陶渊明生活的时代，有不少文人雅士，每于闲暇宴游之际，自作挽歌，令左右相和着歌唱，故意表示出一种对死的彻悟、达观，专门做给人看。
挽歌也有依大致的旋律填上歌词。《礼记•间传》：“斩缞之哭，若往而不反……此哀之发于声音者也。”郑玄注：“三曲，一举声而三折也，偯，声余从容也。”《颜氏家训》引了上述说法后说：“《孝经》云‘哭不偯’。皆论哭有轻重质文之声也。礼以哭有言者为号，然则哭亦有辞也。江南丧哭，时有哀诉之言耳；山东重丧，则唯呼苍天，期功以下，则唯呼痛深，便是号而不哭。”不同的哭声、不同的哭辞。
《晋书•礼志中》说：“汉魏故事，大丧及大臣之丧，执绋者挽歌。”挽歌由牵引车的人边行边唱，当时已有专以唱挽歌为职业，世称“挽郎”。在皇室，还从贵族子弟中选拔优秀少年来充当挽郎，《宋书•礼志二》记载：“有司又奏依旧选公卿以下六品子弟六十人为挽郎。”关于挽郎，不少诗文都有记载。元代佚名《柳营曲•风月担》：“舆车前唱挽曲，冻的来打孩歌，再谁将风月担儿拖。”清孙枝蔚《挽范眉生客死燕中》诗：“挽歌但使皆名士，行哭何须是妇人”，说明挽歌盛行，歌者无论男女。《金瓶梅》：“王婆道：‘眼望旌捷旗，耳听好消息！不要交老身棺材出了，讨挽郎钱。’”《水浒传》：“我便先还了你招文袋、这封书，歇三日却向你讨金子，正是‘棺材出了，讨挽歌郎钱’。”这“讨挽郎钱”，成为一句俗语，反映了当时社会存在大量挽歌和挽郎的现实。
挽歌的出现，实际上与传统的丧葬制度是不合的。因为按照周王朝和儒家的要求，丧葬礼制是“居丧不举乐”的，比如《礼记•曲礼上》就规定：“望柩不歌，入临不翔，当食不叹，邻有丧，舂不相，里有殡，不巷歌，适墓不歌，哭日不歌”。可见，“居丧不举乐”是一个非常重要的丧葬礼仪的规定，也符合人情伦理。所以，在周朝前期，无论在朝在野办理丧事时，是没有挽歌现象的。
但是到了周朝平王东迁之后，随着周王室逐渐衰弱，诸侯势力不断扩展强大，形成“尾大不掉”的形势。周天子权威丧尽，不仅诸侯不买账，就是诸侯国的卿大夫也不把周朝君王放在眼里，诸侯、卿大夫等冒用周天子的礼仪、器物的行为不断发生，比较典型的就是季氏“八佾舞与庭”的僭越行为。《论语•八佾篇》：“孔子谓季氏：‘八佾舞于庭，是可忍也，孰不可忍也。’”。佾是奏乐舞蹈的行列，一佾指一列八人，八佾八列六十四人。按周礼规定，只有天子才能用八佾，诸侯用六佾，卿大夫用四佾，士用二佾。季氏是鲁国的正卿，只能用四佾，他却用八佾，突出地表明了周室政治已经到了礼崩乐坏的局面。孔子对于这种破坏周礼等级的僭越行为极为不满，表示实在不能容忍。但是，“落花流水春去也”，这是大势所趋，孔子也没有办法阻挡。于是，旧的等级制度，也包括丧葬制度开始动摇、衰败，相应的，民间乃至官僚贵族的丧礼活动中就逐渐出现了“以歌代哭”的丧葬歌曲，即挽歌。
