刘琨，字越石，中山魏昌（今河北无极县）人，是汉中山靖王刘胜之后。（刘胜即那位在河北满城陵墓中放置金缕玉衣的西汉荒淫王爷。他有儿子一百余人，三国刘备也号称其后代。）
刘琨青少年时代，完全是过着贵族高干子弟醉生梦死、豪奢不羁的生活。
刘琨的祖父刘纳曾为相国参军，其父刘藩位至光禄大夫。如此父祖，可以想见刘琨贵族公子哥的周围环境定是笙歌满目，金玉满堂。二十六岁时，刘琨已得“司隶从事”这样的清闲官职，平日一直是大豪客石崇（与皇帝舅舅王恺斗富的名垂千古的富翁）金谷园别墅的座上常客。这位高干子弟饮酒赋诗，听琴观舞，纵情山水，日日夜夜享乐其间。皇后贾南风权势熏天之时，她外甥贾谧官至秘书监，也是一位喜爱文墨、专事冶游的贵族公子哥。当时的一帮文士豪客都与他气味相投，其中包括刘琨、石崇、左思、潘岳、陆机、陆云、欧阳建等人，号称“文章二十四友”——这个贵族沙龙鱼龙混杂，什么样人品的人都有，大小诗人、政客厕身其间，虽然带有很大程度上趋炎附势的味道，但这些人中间也不乏上佳的诗作问世。游冶之日，刘琨一首《胡姬诗》最能体现他当时的轻佻、放荡以及声色犬马之情：“虹梁照晓日，渌水泛香莲。如何十五少，含笑酒垆前。花将面自许，人共影相怜。回头堪百万，价重为时年。”
赵王司马伦杀掉皇后贾南风，虽知刘琨与贾后一党关系不错，但司马伦的儿子司马荂是刘琨的姐夫，两家有秦晋之谊，加上刘家兄弟声名卓异，所以，不仅没杀没罚，还对他们加以拉拢，以刘琨为记事督（机要秘书主任）。成都王司马颖、齐王司马冏等宗室三王兴兵讨伐司马伦，刘琨还被司马伦任命为冠军将军，与孙秀的儿子孙会率三万禁卫兵出战。
黄桥一战，刘琨大败，烧掉河桥仓皇逃跑才保得一命。
齐王司马冏等人囚杀赵王司马伦，很想把这位曾抵拒三王军队的刘琨抓起来杀掉，但“以其父兄皆有当世之望，故特宥之，拜兄（刘）舆为中书郎，（刘）琨为尚书左丞，转司徒左长史”。全凭西晋有尊崇名望的社会风气，刘琨不仅最终没被杀掉，还能在乱世中升官发财。其中缘由，除了其贵族名望的因素外，刘琨早年在金谷园与王族贵戚的宴饮交游和文学才能肯定也帮了他的大忙，其出口成章的才能与作曲作赋的敏思，给诸位司马氏王爷留下了很深的印象。
齐王司马冏执政不久，又被长沙王司马乂所杀。混乱之间，刘琨与哥哥刘舆跑到镇守许昌的范阳王司马虓那里，被委以军中司马（高级参谋）之职。
东海王司马越为政，刘琨与司马越一系的司马虓患难与共，使这位范阳王能成功拥有冀州之地。他还带兵成功地救出陷入敌军手中的父母，统帅几路军马奉迎大傻皇帝晋惠帝于长安。东海王司马越见刘琨为自己卖命，高兴之余封他为广武侯，食邑两千户。
晋怀帝永嘉元年（307）东海王司马越任刘琨为并州刺史，加振威将军，领匈奴中郎将，作为“自己人”安插至并州一带以抵御反叛的五部匈奴刘渊等胡人。
刘琨之所以能被东海王司马越委以如此大任，全赖其兄刘舆的鼎力相助。
刘舆，字庆孙，年少时就与弟弟刘琨名重当时。京都人有语曰：“洛中奕奕，庆孙、越石。”兄弟两人青年时代举止浮夸，一直以贵族高门子弟自居，数次欺侮寒人出身的孙秀。这位杀掉潘岳大才子的小人手中得权后很想也干掉刘氏兄弟。但刘氏兄弟与赵王司马伦有姻亲关系，牙根恨得痒痒，也不能把这两个人弄死。经历了赵王司马伦、齐王司马冏两“朝”王爷，兄弟俩因“清贵显名”都能保得一命。范阳王司马虓深念自己兵败逃命时刘舆、刘琨兄弟一直追随自己左右之功，他在邺城站稳脚跟后，向自己一系的东海王司马越竭力保荐刘氏兄弟。刘舆被封为征虏将军、魏郡太守。
范阳王司马虓病死后，刘舆当机立断，矫诏赐死了邺城内被囚的成都王司马颖，为东海王司马越除去了一大心病。久闻刘舆之名，司马越想把刘舆召至京城在自己身边做事。有人很嫉妒刘舆的才干，就对司马越讲他的坏话：“刘舆像块脏肉，谁接近他都会受到污染。”
司马越先前没有直接和刘舆打过交道，听亲信这么一说也很警惕。所以，这位东海王把刘舆召至京城后，一直对他心存疑戒，未加重用。
刘舆入京后，“密视天下兵簿及仓库、牛马、器械、水陆之形，皆默识之”。当时，战事频繁，内忧外患，军国多事。司马越每次开会召集众臣僚佐商议对策时，他手下那些文士、武将都唯唯诺诺，不知所对。唯独刘舆侃侃而谈，有条有理，要数据有数据，要细目有细目，山川、水路、战术、战略，娓娓道来，应对如流。“（司马）越倾膝酬接，即以为左长史”。刘舆也不只是那种仪貌堂堂、只会耍嘴皮子的主儿，“宴客满筵，文案盈机，远近书记日有数千，终日不倦，或夜以继之，皆人人欢畅，莫不悦附。命议如流，酬对款备，时人服其能”。欢饮笙歌之余，这位爷竟也把军国大事处理得服服帖帖。看来，刘舆不仅仅是有情商，其智商也超出常人。
正是由于东海王司马越把刘舆定为至亲心腹，才对其弟刘琨加以器重。“（刘）舆乃说（司马）越，遣（刘）琨镇并州，为（司马）越北面之重”。也是为东海王在西北巩固一个根据地。
刘舆才高如此，也逃不过一个“命”字。不过，此位仁兄死得很是时候，各路胡人大军围困，洛阳未失陷时，他因手指感染，得败血病而死，时年四十七。死后备极哀荣，追赠骠骑将军，谥曰贞。
好风凭借力。凭借亲哥哥的保荐，刘琨终有一施抱负的机会。
胡贼横行的并州路
刘琨当初在赵王司马伦手下打过大败仗，福兮祸兮，也增添了不少领兵战斗的经验。在赴任路上，虽“道险山峻，胡寇塞路”，他仍敢“以少击众，冒险而进”。在给朝廷的表章上，刘琨道出了并州一带胡寇猖狂、人民死亡的悲惨景象。
“……臣自涉州疆，目睹困乏，流离四散，十不存二，扶老携幼，不绝于路。及其在者，卖妻鬻子，生相捐弃，死亡委危，白骨横野。哀呼之声，感伤和气。群胡数万，周匝四山，动足遇掠，开目睹寇。……”
艰难苦恨途中，刘琨又作《扶风歌》以抒怀，心情沉郁，词意慷慨：
“朝发广莫门，暮宿丹水山。……据鞍长叹息，泪下如流泉……烈烈悲风起，泠泠涧水流。挥手长相谢，哽咽不能言……去家日已远，安知存与亡。慷慨穷林中，抱膝独摧藏……资粮既乏尽，薇蕨安可食……君子道微矣，夫子故有穷。惟昔李骞期，寄在匈奴庭；忠信反获罪，汉武不见明。我欲竟此曲，此曲悲且长；弃置勿重陈，重陈令心伤。”
历尽千辛万苦，刘琨率领一路招募的一千多号人，沿路搏斗进击，最终到达晋阳城（今山西太原）。当时的晋阳，经五部匈奴军队蹂躏，官府建筑全都被烧焚一空，僵尸遍地。侥幸存活下来的民众，个个被饿成活骷髅，面无人色，整个城内不仅荆棘成林，吃饱了人肉的野狼也四处乱窜。刘琨到后，“剪除荆棘，收葬枯骸，选府朝，建市狱”，几乎重新构建了晋阳城。其间，胡寇和坞堡强盗相继来袭，刘琨率从属兵士“恒以城门为战场”，数历惊险，驱除贼寇，终于在晋阳安顿下来。
刘琨，晋人，自有浑然天成的“魏晋风度”。有许多个寒风凛凛的夜晚，晋阳城外胡骑纷纷，团围城市。守兵、人民窘迫之计，刘琨一袭白衣，乘月登楼，发出阵阵清啸之声，“贼闻之，皆凄然长叹”。（啸是魏晋时代名人常有的举动，鲁迅等人认为是吹口哨，笔者觉得“啸”更可能是以低嗓发出的悲吟之声，类似低音歌声中的咏叹）夜深之际，刘琨又吹奏胡笳，音声哀感行人，“贼又流涕嘘唏，有怀土之切。向晓复吹之，贼并弃围而走”。在那样一个血腥、杀戮、乱离的时代，音乐仍有如此巨大的魔力，“胡笳退兵”——竟成中华审美史上的万古绝唱。直至唐代，仍保存有刘琨创造的《登陇》、《望秦》、《竹吟风》、《哀松露》、《悲汉月》五首曲子，统称《胡笳五弄》，其间融有愁远绵长的胡笳之曲，宛转凄伤，令人顿起怀乡思旧之情。当然，刘琨城楼之上独自一人，肯定不是正规的合声演奏，仅是一支胡笳在手，明月当头，呜呜咽咽。墙外群胡，伫马低首，泪眼迷离，谁也不忍心抽白羽搭弦给这位大文豪、大音乐家当胸一箭，艺术的魅力，至此已臻极致。
当时，匈奴刘渊已经称汉王，其老巢离石距晋阳才三百多里地，匈奴铁骑可以一天内驰至晋阳城下。刘琨文武全才，对周遭的匈奴别部“杂虏”施以离间计，“降者万余落”。结果，刘渊反而大惧，迁出离石，在蒲子造坚城而居，唯恐刘琨来袭。
说来也好笑，刘渊称王时，“立汉高祖以下三祖五宗神主而祭之”，并追尊蜀汉主刘禅为孝怀皇帝。刘禅他爸刘备，一直号称中山靖王之后，刘禅肯定也当属中山靖王之后无疑。而这位大晋忠臣刘琨，恰恰是百分百没有掺假的中山靖王之后，汉室血亲。如果论理讲礼，刘渊和刘琨还真能论论世系排行，没准论来论去，两人能论出谁是谁的大爷来（刘渊之所以姓“刘”其实是因为“很久很久”以前刘邦曾嫁汉室疏宗公主于匈奴，他是冒姓刘氏而已）。