早期经历
于冲汉是清末秀才出身。1891年（光绪18年），他任县丞及直隶总督衙门文案。此后他到日本，在东京外国语学校任中文讲师。
1904年（光绪31年）日俄战争后，于冲汉任办理辽阳西部巡警事宜、辽阳交涉局局长。1910年（宣统2年），他任长春道台衙门帮办。翌年，他任奉天交涉司随办、辽阳知州。
1912年1月1日中华民国成立，于冲汉任外交部特派奉天交涉员、奉天巡按使署外交顾问。此后，他任张作霖所率第27师总文案，并任其外交顾问。1920年（民国9年），他任奉天官银号总办、东三省巡按使署总参议。同年8月，他任国务院参议。11月他奉张作霖之命作为特使前往日本。此后他任辽阳电灯公司总经理以及鞍山铁矿公司振兴公司总办。
1922年（民国11年），他任东三省保安总司令部总参议。1925年（民国14年），他升任东三省特别区行政长官。翌年，他转任中东铁路督办。1927年（民国16年）他辞职。1928年（民国17年），他任东三省保安总司令部参议。在张作霖手下，于冲汉在王永江死后和袁金铠被合称为奉天文治派的双璧。张学良继承张作霖大业后，因张学良同旧派疏远，故于冲汉政治的影响力渐失。
汉奸岁月
1931年（民国20年）九一八事变爆发，于冲汉得到关东军支持，任奉天地方维持委员会副委员长兼奉天地方自治指导部部长（长子于静远任该部自治训练处处长）。于冲汉很重视后一职位，宣传伪满洲国建国的理念。后来石原莞尔赞扬于冲汉是满洲国“建国最高功劳者”。此后于冲汉坚持绝对保境安民及不养兵主义，这成为伪满洲国断绝同国民政府的联系，独立建国的思想武器。
1932年（大同元年）3月，伪满洲国正式成立，于冲汉任首任伪监察院院长。
1932年11月12日，于冲汉在大连病死。
