少年时期
他幼年时，家境贫寒，父亲是一个箍桶匠，一家人靠父亲仅有的一点收入维持生活。刘冠雄的父亲有五个儿子，除四子早丧外，其他四个后来都在海军中任职。儿子们成名后，刘冠雄的父亲被奉养在家中，衣食不愁，但他却舍不得丢掉使用多年的箍桶担子，一直保存着。他的这副担子有时还能派上特殊用场：当儿子们发生矛盾又劝说无效的时候，他就会挑起担子，威胁要上街去，以此来平息他们的争执。
刘冠雄是兄弟中最小的一个，也是后来官位最高的一个。少年时，他和许多福州子弟一样，考入了设在马尾的福州船政学堂。福州船政学堂由前学堂和后学堂组成，前学堂专门培养造船人才，后学堂专门培养海军军官。后学堂设有驾驶（航海）和轮管（轮机）两个专业，刘冠雄是驾驶班的第四期学生。
刘冠雄完成了在福州船政学堂为期三年半的堂课学习和近两年的海上实习后，顺利毕业，被派往北洋海军，成为一名见习军官。
海外求学
1877年清政府派出海军留学生共三十人前往英国、法国学习；五年后，清政府又派出第二期海军留学生共十人赴英、法两国学习。1884-1885年的中法战争，使清政府进一步认识到加强海军建设的极端重要性。所以，战争刚刚结束，清政府就定下“大治水师”的决策。1885年底，清政府决定选派第三期海军留学生前往英国、法国学习。这次留学共选派了三十三人，其中驾驶专业十七名，轮管专业两名，制造专业十四名。驾驶专业是从福州船政学堂和天津水师学堂驾驶班的毕业生中挑选的，刘冠雄有幸成为其中的一员。
1886年4月6日，刘冠雄等三十三名海军留学生从中国香港启程，前往法国。他们乘坐的是一艘法国邮轮，经过近一个月的航行，于5月5日达到法国马赛。十四名制造专业的学生留在法国就学，刘冠雄等十七名驾驶专业和两名轮管专业的学生则前往英国留学。
抵达英国后，十九名留学生被分配学习不同的科目。刘冠雄等八人奉派“学习操放大炮枪队阵图大副等兼驾驶铁甲兵船”。是年10月，刘冠雄与黄鸣球、邱志范三人被派到英国军舰“额格士塞兰德”号上学习炮术。第二年6月，他们转入武力士炮厂，学习制造枪炮和火药等。
1887年清政府决定派员前往英国、德国接受订购的四艘新式巡洋舰：“致远”、“靖远”、“经远”和“来远”。为节省数十万元的经费，此次接舰没有另加保险。所以，沿途安全便显得极为重要，北洋海军派出最优秀的官兵参加这次接航行动。四舰各配备管驾官一人、大副一人、留学生二人。四舰的管驾官分别是邓世昌、叶祖圭、林永升、邱宝仁。除邓世昌外，其他三人都在英国留学过。
正在留学的刘冠雄，也被特招参加了接舰工作。他是十七名在学驾驶留学生中唯一一位被特招参加接舰任务的，因为他在留学之前，就是一名出色的军官。
刘冠雄被安排在“靖远”号巡洋舰上担任大副。负责指挥这次接舰行动的北洋海军总查、英国人琅威理就驻在该舰。
在英国抱士穆德海口拍摄到的“靖远”舰接舰官兵的职责，都参照英国海军的有关规定执行。按照分工，管驾官负责“总理全船事宜”；大副的职责是管理“船内事宜”，“凡舟之行止，人之功过皆主之”。因此，刘冠雄的责任十分重大。1887年9月，“致远”、“靖远”等四艘巡洋舰和在英国订造的“左队一号”鱼雷艇，从英国朴茨茅斯港出发回国。经过两个多月的艰苦航行，他们穿越大西洋、地中海、红海和印度洋，于是年底顺利回国。刘冠雄就此结束了他的留学生活。
加入海军
1888年4月，“靖远”等四艘巡洋舰和“左队一号”鱼雷艇驶抵天津大沽，加入了北洋海军。此后，刘冠雄便一直留在“靖远”舰上任帮统等职。
是年8月，中国台湾吕家望番社围攻设在卑南的清军大营，形势紧急，中国台湾巡抚刘铭传请求援助。北洋海军提督丁汝昌接到命令后，立即率“靖远”“致远”两舰赶往中国台湾，抵达卑南后，刘冠雄与“致远”号帮带大副陈金揆奉命率六十人登陆，携带两门六磅舰炮，配合陆军作战。经过十多天的战斗，最终平息了叛乱。
北洋海军成军后，刘冠雄被正式任命为“靖远”舰帮带大副。1891年6月，刘冠雄因为在平定中国台湾叛乱的战斗中表现出色，经李鸿章上报朝廷，予以提前晋升官阶。
“致远”和“靖远”这一对姐妹舰是北洋海军中速度最快的巡洋舰，所以，二舰经常奉派执行一些紧急任务。刘冠雄多次随舰前往朝鲜、日本、俄国和中国香港及南洋等地区执行海上巡弋、对外交涉、迎送贵宾、保护侨民等任务，增长了见识，积累了经验。
甲午战争
1894年7月，中日甲午战争爆发。9月16日，清政府派出陆军四千人，增援驻守朝鲜的清军。援军由北洋海军护送，由海上运至中朝边境的大东沟登陆，然后从陆路抵达朝鲜。 为了完成这次护航任务，北洋海军的主力战舰全数出动，两艘亚洲最大的铁甲舰、十艘巡洋舰、两艘炮舰和四艘鱼雷艇，组成了一支庞大的护航舰队。
9月17日早晨，增援朝鲜的部队在大东沟顺利登陆，北洋舰队完成了护航任务。上午10时，准备返航的北洋海军，发现了来袭的日本舰队。正在大东沟口外十海里处担任警戒任务的十艘北洋海军战舰，立即列队迎敌。12时50分，北洋海军的旗舰“定远”号率先开炮，黄海海战爆发。这是世界海战史上首次装甲舰队的大会战。刘冠雄随舰参加了这次著名的海战。
海战中，由于北洋海军提督丁汝昌负伤，旗舰“定远”号上的信号装置也被日军炮火摧毁，北洋海军失去了指挥，阵形很快被日舰冲散，各舰陷入了被日舰分割包围的危险境地。经过数小时的恶战，北洋海军的“超勇”、“扬威”、“致远”和“经远”四艘巡洋舰先后被击沉，“济远”、“广甲”两艘受伤逃跑。继续坚持战斗的“靖远”等舰，仍是各自为战，没有统一的指挥，形势变得越来越不利。
一直在协助指挥“靖远”舰作战的刘冠雄，见形势危急，立即向管带叶祖圭建议说：“定远舰一定是受伤无法指挥了，现在情况紧急，应该立即由我舰代替指挥，集合各舰。否则，我军有全军覆没的危险。”
叶祖圭大胆地接受了刘冠雄的建议，毅然下令在“靖远”舰上升起令旗，担负起指挥舰队行动的重任。“靖远”舰向星散的各舰发出集合的信号，在附近的“来远”、“平远”、“广远”三艘巡洋舰和两艘炮舰及四艘鱼雷艇，见“靖远”舰升旗集队，都纷纷赶来会合。各舰在“靖远”舰的指挥下，又重新列队迎敌。
此时，已是强弩之末的日本舰队见北洋海军声势复振，感到形势对己不利，加之天色渐黑，害怕遭到北洋海军鱼雷艇的攻击，于是全速撤离。“靖远”舰指挥各舰尾追数里，因速力不敌日舰，无法追及，返航回旅顺。
黄海海战中，“靖远”舰的表现十分英勇，虽然中弹一百余发，船舱进水，官兵伤亡数十人，但仍然坚持战斗到海战结束，并重创日军“比睿”号巡洋舰，迫使其退出战斗。刘冠雄作为舰长最主要的助手，自然功不可没。特别是，他在关键时刻建议由“靖远”舰升旗集队，使北洋海军最终转危为安，更是厥功甚伟。 黄海海战后，刘冠雄又随舰参加了威海海战。在这次海战中，北洋海军全军覆没。“靖远”舰也被日军炮火击沉。
甲午战争结束后，劫后余生的绝大多数北洋海军军官都因战败获咎，被清政府革职遣返。刘冠雄却十分幸运，战后不久便被派往德国，执行接舰任务。 战争期间，北洋海军在德国的伏尔坚厂订购了一艘八百五十吨的新型驱逐舰，命名为“飞鹰”号。战争结束后几个月，清政府决定派刘冠雄等接舰官兵乘坐德国公司的“拜晏”号轮船，从上海出发，经过五十天的航行，达到德国。
刘冠雄接带“飞鹰”号回国后，出任该舰管带。当时，北洋海军已在甲午战争中损失殆尽，整个北洋只有五艘军舰，“飞鹰”舰是其中最大的一艘（850吨）。刘冠雄此时在海军中的地位之重要，也由此可见。
刘冠雄担任“飞鹰”舰管带期间，无意中在历史上留下了富有传奇色彩的一笔。 1898年9月21日，慈禧太后发动宫廷政变，囚禁了光绪皇帝，康有为等领导的戊戌变法遭到残酷镇压。政变的当天，慈禧太后下令立即封锁北京城和京津铁路，务必要逮捕维新领袖康有为。清政府从康有为的弟弟那里得知，他此前一天已到了天津，于是，立即在天津展开了大搜捕。但此时，有如神助的康有为却已经登上了一艘名为“重庆”号的英国轮船，起程前往上海了。恼羞成怒的慈禧太后一面电令烟台和上海方面在康有为登岸时将他捉拿，一面命天津火速派出军舰追赶“重庆”号。为免生意外，慈禧太后下令，一旦将康有为抓获，立即就地正法。 此时任“飞鹰”舰管带的刘冠雄，奉命率舰从海上追赶康有为。“飞鹰”舰的航速几乎是“重庆”号的一倍，如果开足马力，要追上“重庆”号，简直易如反掌。 但是，“飞鹰”舰追至中途，刘冠雄却下令停止追赶，返回天津。
刘冠雄为何要下令军舰返航呢？历来有不同的说法。包括康有为在内的不少人认为，“飞鹰”舰是因为装煤太少，不得不放弃追赶。还有一种说法，是“飞鹰”舰在追赶“重庆”号的途中，锅炉发生了爆炸，被迫中途返回。但也有人认为，“飞鹰”舰之所以中途折回，是因为刘冠雄有意要放康有为一条生路。理由是刘冠雄留学英国数年，早已受欧风熏陶；后来，他又受曾留学欧洲的海军前辈如严复等人的影响，赞成康有为的维新思想，支持康有为发起的变法运动。因此，在危难时刻，他救了康有为。
刘冠雄的前程并没有因为这次事件受到什么大的影响。不久，他的老上司、“靖远”舰管带叶祖圭被清政府重新起用，出任正在重建的北洋海军的统领。刘冠雄深得叶祖圭的赏识和信任，在海军中的地位日益显赫。1899年，清政府在英国订购的两艘四千三百吨主力巡洋舰“海天”、“海圻”建成来华，刘冠雄被任命为“海天”舰管带。
对抗海外
甲午战争结束后，西方列强趁清政府战败之机，掀起了新一轮瓜分中国的狂潮。1897年，德国强占胶州湾；1898年3月，俄国租借旅顺口；4月法国租借广州湾（今广东湛江市）；7月，英国租借威海卫（今山东威海市）。清政府无力招架，几乎是有求必应。 1899年3月，意大利也加入到瓜分中国的行列中，要分一杯羹，提出租借中国三门湾的无礼要求。为了增加“说服力”，意大利还派出三艘军舰来中国炫耀武力，并向清政府发出最后通牒。 意大利人来势汹汹，清政府不知虚实，十分紧张，遂征询海军意见。
刘冠雄向叶祖圭进言说：“意大利军舰万里远航而来，一定疲惫不堪，补给也十分困难，其劳我逸，形势对我们有利。况且，我军现有“海天”、“海圻”、“海容”、海筹”、“海琛”五艘新购的巡洋舰，完全有实力与意舰一战。” 叶祖圭十分赞同刘冠雄的分析，并将这一分析作为海军的意见上报了清廷。 清廷得到海军的答复，心里有了底，断然拒绝了意大利的最后通牒。意大利本来就是虚张声势，看到中国方面的态度强硬，只好放弃租借三门湾的无理要求。
1900年，义和团运动爆发，八国联军入侵。清廷中的顽固势力企图借用义和团的力量来达到排外的目的，极力主战。6月21日，慈禧太后下令向十一个国家宣战。两江总督刘坤一、湖广总督张之洞等对清廷这一近似荒诞的命令不予承认，拒绝参战。他们在美、英等国的支持下，与驻上海的各国领事订立“东南互保章程”，声明要遵守中外条约，保护外国人的生命财产安全。接着，两广总督李鸿章、山东巡抚袁世凯等也纷纷加入这一“互保”的行列。
海军对清廷向列强宣战的命令也持消极态度。当时，海军各舰正在山东登州一带海面操巡，山东巡抚袁世凯极力促海军各舰南下，以避联军。于是，担任“海天”舰管带的刘冠雄与队长林颖启一道，率海军各舰前往上海。 抵达上海后，刘冠雄、林颖启及各舰管带走访了各国驻沪领事，声明舰队南来，是为了保护中外人士生命财产安全，不要因此产生误会。这样，海军也加入了“东南互保”的行列。 此次海军南下，刘冠雄在其中扮演了一个重要角色，引起了各方的关注。此时，他已成为海军界一颗冉冉升起的新星。
遇难成祥
然而，正当刘冠雄春风得意之时，一场意外的灾难突然降临到了他的身上，几乎使他性命不保。
1904年2月，日俄战争爆发，日军进攻沙俄占领的旅顺口。清廷无力制止发生在本国领土上的这场战争，只得宣布“中立”。 4月23日，刘冠雄奉命率“海天”舰从烟台出发，赶赴江阴装运军火，以济辽西“中立”之需。
24日，军舰在海上遇上了大雾天气。到了晚上，大雾越来越浓重，海上能见度已很低。在这种情况下，军舰应当减速缓行。但是，刘冠雄认为任务紧急，时间不容耽搁。他相信，凭借自己多年海上航行的经验，完全可以应付这样的恶劣天气。所以，他没有下达减速的命令，而是指挥军舰继续以原速穿雾疾行。 可是，刘冠雄万万没有想到，此时他犯了一个致命的错误。他的过于自信酿成了一场罕见的灾难，他将为此付出沉重的代价。
25日凌晨，“海天”舰驶至长江口外舟山鼎星岛附近。刘冠雄下令核计水程表里数，准备驶入吴淞口。正在这时，忽听军舰左舷方向“鸣角甚近”。刘冠雄判断附近有民船，为避免相撞，下令立即转舵。不料，军舰撞到了礁石上。由于“海天”舰船速太快，来不及反应，军舰冲上了礁石，舰首高高昂起，指向天空。 刘冠雄见军舰触礁，急忙采取措施抢救，但为时已晚，一切都已无济于事。上午9时以后，海上突然刮起了西北风，汹涌的海浪猛烈的撞击着受伤的军舰，使舰体不断与礁石摩擦、碰撞，军舰伤情变得愈加严重，舰尾部分渐渐沉入了水中。 直隶总督兼北洋大臣袁世凯接到“海天”舰触礁的报告后，立即派代理北洋海军统领萨镇冰星夜赶往出事现场，调查事故原因，并组织救援。
萨镇冰赶到后，马上展开救援工作。“海天”舰上有三名水手失踪，其他三百四十八名官兵获救，多数被招商局的轮船送上岸，留下六十人，由刘冠雄带领，负责看守军舰，拆卸炮械。 与此同时，萨镇冰与驻沪副总税务司裴式楷等人取得联系，请上海耶松洋厂提供帮助。该厂用抽水机排水，希望能减轻军舰重量，使其上浮。无奈，海水随抽随灌，毫无效果。萨镇冰又联系一家丹麦公司帮助打捞。这家公司有打捞铁甲舰的能力和经验，但他们至少需要五十天才能赶到。 当丹麦公司的打捞船到达时，“海天”舰已无法打捞出水，只好设法打捞舰上的设备。经过一年多的努力，陆续从“海天”舰上打捞起机器设备、枪炮弹药等项，价值约三十五万两白银，其中由丹麦公司打捞的价值约十二万两，海军官兵自行打捞的价值约二十三万两。最后，付给丹麦公司打捞费用近七万两。
“海天”舰和“海圻”舰是甲午海战后清朝最大的两艘军舰（4300吨）。“海天”舰的毁损，对海军来说是一个重大损失，引起朝野震动。刘冠雄很清楚，作为管带，损毁巨舰，按律当斩。尽管一些军政界的朋友为他多方奔走，但他深知自己罪不可赦，难免一死。所以，他终日为恐惧笼罩，精神几乎崩溃，甚至想到了自杀。 但是，在危难时刻，袁世凯出面救了他一命。
当年，刘冠雄在袁世凯力倡之下率舰南下，参加“东南互保”，袁世凯便对他颇有好感。八国联军之役后，袁世凯破格升任直隶总督兼北洋大臣，成为刘冠雄的上司，对刘更加赏识和信任。所以，在“海天”舰触礁后，袁世凯力保刘冠雄。 袁世凯在向朝廷报告“海天”舰触礁情况的第一份上奏中，便十分巧妙地为刘冠雄作了开脱，称刘冠雄是因为“迎提军火，深恐迟误”，才不得不“冒雾前行”，其失误“系因公奋往”所致。所以，他在上奏中只是提出将刘冠雄“即行革职”，同时建议仍将其留在舰上，协助萨镇冰组织打捞工作，戴罪立功。此后，清廷虽有重办刘冠雄之意，但袁世凯以“其罪可诛，其才可录”为由，力请宽赦，最终使刘冠雄免于一死，仅受到革职的处分。 袁世凯的救命之恩，令刘冠雄感激不尽。此后，他为报答袁世凯，竭力事袁。他因此而飞黄腾达，也因此而受到后人的指责。此后的荣辱皆由此始，这次事件成为他一生命运的转折。
刘冠雄被革职以后，离开了海军，投在袁世凯的门下。曾担任过德州机器厂总办等职。刘冠雄善于交际，精明能干，并且颇有文才，很快成为袁世凯的亲信。 几年后，“海天”舰触礁事件渐渐被人们忘记，刘冠雄又重返海军任职。1908年，他被清廷赐予工科举人出身，1910年出任海军部军学司科长，1911年改任广东水师营务处总办。
竭力事袁
1911年10月，辛亥革命爆发，清政府很快瓦解。刘冠雄避居上海，静观局势变化。上海都督陈其美聘请他为沪军都督府高等顾问，1912年1月3日，中华民国临时政府在南京成立。5日，临时大总统孙中山任命黄钟英为海军总长。在当顾问期间，刘冠雄赢得了黄钟瑛的高度肯定和全盘信任，黄逢人就称赞刘冠雄“资望才学中外共知”，27日，黄钟英致函孙中山，请辞海军总长职务，要求改任海军总司令。黄钟英在函中称赞刘冠雄“资望才学中外共知，实足以表率海军，魇伏众望。”因此，他向孙中山建议由刘冠雄担任海军总长一职，但孙中山没有同意。
局势的动荡变化很快就将刘冠雄推向了政治活动的最前沿。1912年2月，南北议和，孙中山辞职，2月15日，临时参议院选举袁世凯为临时大总统。18日，南京临时政府派教育总长蔡元培等人为专使，赴北京迎接袁世凯南下就职。自己的“恩公”要来南京主政，刘冠雄兴奋不已，遂主动请缨参加北上迎接团。袁世凯哪里肯来南京，一番阴谋诡计、软硬兼施后，袁如愿以偿在北京荣登总统宝座。袁世凯在运作于北京就职临时大总统的过程中，刘冠雄虽然没帮什么忙，但逮到机会就会向人宣讲袁世凯此举的“合理性”和“苦衷”，还策动海军次长汤芗铭、“海容”舰舰长杜锡珪两名海军要人投奔袁世凯，也算是袁世凯上台的“有功之臣”了。
最终，袁世凯还是在北京就任了临时大总统，并组成北京政府第一届内阁。3月30日，袁世凯任命刘冠雄为海军部总长。刘冠雄追随袁世凯终于得到了丰厚的回报，一夜之间，成了海军的最高领导人。11月，刘冠雄被授予海军上将军衔，成为民国的第一位海军上将。
民国初建，海军建设百废待兴。刘冠雄任职后，着手整顿部务，建章立制，集权于中央，使海军建设统一、有序，并收到了一些成效。刘冠雄认为中国陆海交错，海防任务繁重与海军力量薄弱的矛盾十分突出，得从装备、战术、人才上全面加强海军建设。甫一上任，他就着手制定了十年发展计划，接收各地海军机构，组织制定条例规章，积极整顿海军教育，各项工作开展得有声有色，当然，刘冠雄所作所为是有一定前提的，那就是听凭袁世凯的调遣，袁世凯希望刘把海军建强建好，当然是希望能为袁本人所用，而在刘冠雄的统领下，中华民国海军在不少时候都扮演了“袁家军”的角色。
1913年7月，孙中山发动反对袁世凯独裁统治的“二次革命”，刘冠雄率海军积极参加了镇压活动。
驻守上海的海军舰队暗中与讨袁军联系，准备参加起义。刘冠雄得知消息后，立即将舰队调至烟台整训，加强控制。随后，海军部次长汤乡茗奉命率领一支分舰队前往湖口，配合袁世凯的北洋军，镇压李烈钧指挥的江西讨袁军。刘冠雄则亲率海军主力南下，进攻以陈其美为总司令的上海讨袁军。
7月28日，刘冠雄率舰进抵上海，掩护北洋军登陆，增援被上海讨袁军围攻的江南制造局。为配合北洋军的进攻，刘冠雄指挥海军以猛烈的炮火轰击讨袁军驻守的吴淞口炮台。双方激战十余日，“海圻”舰受伤，吴淞炮台也被击中要害。
由于讨袁军顽强抵抗，加之海军中有许多官兵同情甚至支持革命，海军作战显得十分不利，迟迟不能攻占吴淞炮台。袁世凯对海军的表现很不满意，致电刘冠雄称，进攻吴淞口炮台多日未下，此间外人讥诮海军怯懦。 8月13日，吴淞口炮台最终被攻陷。但袁世凯仍不能满意，他致电刘冠雄称，此次攻占吴淞炮台，著名“匪首”却未获一人，殊不可解。 刘冠雄接到袁世凯的电报后，向袁详细报告了攻占吴淞口炮台的经过，并就他对海军的指责进行了解释。 在海军攻占吴淞口炮台的同时，海军配合北洋军击退了上海讨袁军对江南制造局的进攻，上海起义宣告失败。
8月14日，袁世凯任命刘冠雄兼任南洋巡阅使，率舰队开赴南京，镇压黄兴指挥的江苏讨袁军。
25日夜，刘冠雄指挥舰队猛攻南京狮子山炮台，同时派“海筹”、“永丰”等四舰乘机上驶，掩护冯国璋的第二军在下关登陆。随后，参加会攻南京的海军各舰在刘冠雄的指挥下，不分昼夜猛轰南京城，配合冯国璋部向南京讨袁军发起总攻。9月1日，南京被北洋军占领。
不久，刘又兼南洋巡阅使，率领海军赶赴江苏镇压讨袁军。8月，刘又奉袁世凯之命，到福建以“编遣”为名，解散了宣告独立的许崇智的第十四师，把马尾船政局及各炮台收归海军部管辖。12月，刘冠雄兼任福建都督，他趁机解散了国民党福建支部，追缴全省国民党员证书证章，一举整垮了国民党的福建地方组织。
孙中山领导的“二次革命”最终被镇压，刘冠雄指挥的海军起了重要作用。袁世凯深知这一点，因此对刘冠雄更加信任和倚重，设法笼络。刘冠雄率舰南下时，袁世凯曾秘密付给他一笔巨款作为军费。“二次革命”被镇压后，这笔巨款还剩下数十万元。刘冠雄回京后，当面向袁世凯汇报经费的开支情况。袁世凯却有意将话题叉开，顾左右而言他。刘冠雄将缮写的经费开支清单呈袁世凯过目，袁世凯看也不看，随手将清单仍给刘冠雄，生气地说：“这么一点小钱，你自己看着办就行了，怎么还来麻烦我？”
刘冠雄不知道袁世凯何意，又不便深问，只得告辞。回去后，刘冠雄对袁世凯的举动百思不解，心中忐忑，于是找来自己的心腹幕僚商议。这位幕僚对刘冠雄说：“这是大总统赞赏总长的忠勇勤勉，特以此款奖励。只是大总统不便讲明，所以才这样做。总长又何必多虑呢？”刘冠雄听罢大喜，对袁世凯更加感激。
袁世凯当政期间，内阁更换了好几届，但刘冠雄始终是海军总长的不二人选。1913年7月，熊希龄受命组织北洋政府第四届内阁时，刘冠雄曾提出，由他的老师严复出任海军总长，自己甘愿位居其次，担任海军部的次长。但这个意见一经提出，便被袁世凯给否决了，他在有关此事的呈文上明确批示道：“断不准行。”袁世凯一锤定音，刘冠雄只好从命，在新内阁中再次担任海军总长。
刘冠雄在担任海军总长的同时，还先后临时兼代过交通总长和教育总长。“二次革命”结束后，刘冠雄率部队前往福建剿办当地土匪。1913年12月5日，袁世凯又命他兼领福建都督。刘冠雄只当了二十几天的都督，到了30日，各省都督全部被裁撤，他又回到北京继续任海军总长。
1915年，袁世凯的帝制活动正紧锣密鼓的进行。刘冠雄虽然一贯积极追随袁世凯，但对推行帝制并不赞成，他甚至还曾与王士珍一起当面劝告袁世凯，要他慎重行事。结果，惹得袁世凯很不高兴。刘冠雄担心会引来杀身之祸，不敢在公开反对帝制。是年10月，刘冠雄不得不附和当时的形势，与其他海军长官一起，联名上书袁世凯，请求变更国体，实行君主立宪制。12月，预备“登基”的袁世凯册封文武百官，刘冠雄被特封为二等公，这是海军人员得到的最高爵位。
镇压起义
袁世凯的倒行逆施，激起了全国人民的强烈反对。孙中山领导的“中华革命党”率先在上海开展了反对袁世凯复辟帝制的斗争，刺杀了袁世凯在上海的得力干将上海镇守使、海军中将郑汝成。郑汝成是刘冠雄留学英国时的同学，“二次革命”期间，郑汝成在刘冠雄率领的海军舰队配合下，击败了进攻江南制造局的讨袁军。
郑汝成被刺后，“中华革命党”人趁袁世凯在上海的统治削弱之机，发动了起义。12月5日，他们首先策动“肇和”号巡洋舰起义，并占领了该舰。接着，“肇和”舰炮击江南制造局，与岸上各路起义部队配合，准备一举攻占上海。但是，由于袁军力量过于强大，起义最终失败。
海军参与上海起义，使刘冠雄十分震惊，特别是“肇和”舰的舰长是由他亲自推荐的，更让他心里感到窝火。“肇和”舰的舰长黄鸣球，是刘冠雄的同乡，福州船政学堂的校友，两人还曾一起留学英国。刘冠雄当上海军总长后，破格提拔黄鸣球为“肇和”舰的少将舰长。“肇和”舰起义时，黄鸣球于前一天的晚上被骗上岸去参加宴会，未在舰上。
事件发生后，黄鸣球被逮捕。海军总司令和“肇和”舰所属的练习舰队司令也被撤职查办。不久，海军总司令一职也被取消，舰队由海军部直接指挥。 继上海起义之后，蔡锷等于12月25日在云南发动起义，组成了护国军，拉开了护国战争的帷幕。
蔡锷起兵后，全国各地纷纷响应，袁世凯急调重兵进行镇压。1916年4月15日，刘冠雄奉命率领“海圻”、“海荣”两舰，护送从招商局雇佣的“海晏”、“新铭”、“新裕”三艘运兵轮船，前往福州增援。五艘轮从塘沽起航，“海圻”舰与“海晏”轮先行，“新铭”轮随后跟进，刘冠雄亲率“海容”舰与“新裕”轮在最后。
22日，“海容”舰与“新裕”轮行至温州海面时，海上风浪大作，浓雾漫天。夜里11时许，“海容”舰与“新裕”轮不幸相撞，“新裕”轮挣扎至1时许，沉入海中。全船只有船长和两名电工幸免于难，其余七百多名陆军官兵无一生还。在死难者中还有几名海军部的官员。被刘冠雄特请赦免，随船发往军前效力的黄鸣球，也在这次事故中遇难。
“海容”舰与“新裕”轮相撞事件发生后，有关方面对事故责任进行了三个月的调查，最后，“海容”舰舰长干联璈被“褫职夺官”。而此时，刘冠雄也已经去职。
刘冠雄事事唯袁世凯是从，但他并非盲从之徒，也有一些自己的独立思想，尤其是在袁推行帝制上明确表示反对，甚至与王士珍一道规劝过袁世凯，不料被袁训斥为不懂政治，便再也不敢公开反对帝制，一度还随大流组织海军联名上书袁世凯赞成帝制。不过，刘冠雄虽然表面上同意，但从内心深处却认为跟着袁世凯搞帝制是“祸在日后”，不跟从则“祸在目前”，对袁当皇帝后封自己为“二等公”更是惶惶终日、夜不能寐。1916年1月，犹豫不决的刘冠雄奉命南下镇压“护国运动”，至5月才回京。在亲身感受了全国上下汹涌澎湃的反对浪潮后，刘冠雄断定袁世凯已行将末路，为了给自己留条后路，遂称病坚决不露面。
事实证明刘冠雄此举的明智，他的“归隐”使他没有因支持过袁世凯称帝而受到牵连，不过，或许正是因为没有了袁世凯这个靠山，刘冠雄在政治上也成了强弩之末，1916年6月6日，帝制失败的袁世凯忧愤而死，副总统黎元洪继任大总统，段祺瑞任国务总理，组成新内阁。黎元洪推荐自己在海军中任职时的老上司程璧光出任海军总长。担任了四年多海军总长的刘冠雄就此下野。不久，因黎、段发生矛盾，段祺瑞去职，张勋乘乱拥立溥仪复辟。1917年7月，段祺瑞在天津起兵，驱逐张勋，重新担任国务总理。在新组成的内阁中，刘冠雄被重新请出，担任海军总长。此后，政府更迭不断，王士珍、段祺瑞、钱能训等又先后组阁，而刘冠雄始终得以蝉联海军总长。
晚年
1919年12月，靳云鹏组建第十二届内阁，刘冠雄去职，萨镇冰接任。这样，在北京政府的前十一届内阁中，刘冠雄出任了九届内阁的海军总长。
刘冠雄虽然离开了政府，但仍与上层保持着密切的联系。1920年6月，刘冠雄回福建省亲，大总统徐世昌又特意电召他陪同美国公使到北京议事。1921年6月，北京政府委派刘冠雄等为查勘福建等省禁烟大员。次年7月，刘冠雄本意出任福建省长，但因遭到旅沪闽人和北京福建同乡会的通电反对。受此打击，刘冠雄顿感心力交瘁，11月，大总统黎元洪特派刘冠雄为福建镇抚使。1923年4月，刘冠雄又出任闽粤海疆防御使。是年10月，大总统曹锟特任刘冠雄为熙威上将军。
20世纪20年代，军阀混战，国是日非，海军也在内战中四分五裂。刘冠雄深感心力交瘁，遂萌生退意，多次以身体有病为由，提出辞职。1923年11月，北京政府终于同意了他的辞职请求。
刘冠雄辞职后，寓居天津，不再过问世事，整日以种花植树自遣。1927年，刘冠雄患上了肠病，只能饮流质。后因饮食不慎，导致肠大量出血。刘冠雄的家人从北京请来西医，常住家中为其诊病，但终未能挽救他的生命。是年6月24日，刘冠雄在天津家中病逝，终年六十七岁。
