山西会馆的兴建源于旅蒙商的发展。旅蒙商早在17世纪就出现了，据《清圣祖实录》记载，在康熙帝征讨噶尔丹行经蒙古草原时，允许各部、各旗沿途向清军出售马、牛、羊、骆驼等物。由理藩院另设一营，商人在营中贸易。清朝军队每营派一名官员，专司贸易之事。随军贸易的商人，从蒙古各旗收购和从内地贩运物品，以供应军需为主。后来，随军贸易渐渐扩大到了清朝驻蒙古地区的驻军中。他们除了给部队包办粮草、贩运马匹和供应一些其他物品外，还和当地王公贵族、牧民进行贸易，这就是旅蒙商的前身。

在1691年会盟中，蒙古王公向康熙帝提出与中原地区通商的请求，康熙帝获准后，派遣在京城的八家大商号到多伦诺尔设立铺面，做草原贸易。多伦会盟后，清政府对多伦旅蒙商十分重视，并给予很多优惠政策，再加上草原贸易利润丰厚，直隶、山西、陕西、山东等地的商人蜂拥而至，尤其随着汇宗寺、善因寺两座喇嘛教寺院的兴建而日益昌盛，多伦在不到60年的时间里，发展成为一座典型的旅蒙商城、蒙古地区贸易都会。旅蒙商人把内地大量的绫罗绸缎、铁木瓷器、药材香料、日用百货、茶叶烟草等运到多伦，销往内、外蒙古各旗，又将草原上的绒毛、皮张、盐碱土特产等汇集多伦，然后销往中国各地。旅蒙商事业如日中天，多伦城人口最多时达18万，注册商号4000余家。在当时，有所谓十大粮商、八大银号、五大烧锅、两大当铺之说。随着贸易越做越大，相同地区实力较强的商人先后在多伦商业城建起了自己的聚会场所，也就是后来的会馆。

山西会馆建筑规模宏大，布局紧凑合理，基本属于中轴建筑。大致可分为住宿休闲区、娱乐区、商会议事区和关帝庙，其中住宿休闲区在会馆的东西两端，娱乐区主要以大戏楼为中心，商会议事区位于会馆的中间院落内。馆内建筑以砖木结构为主，设计精巧，木刻、石刻、檐下柱梁、斗拱、雕刻精美栩栩如生，有院四进、大殿三座，附跨院六座，大小牌坊五座，山门一座，大戏楼一座，画像殿六间，神像殿八间，共计房屋95间，院内全部为大青石铺地，会馆临街座北朝南，占地5500平方米，大牌楼前立有一长条碑前书“伏魔宫”后书“与天地参”。它的正门也叫过马厅，左侧房是赤兔马，右边也是一匹马。正门门楣上悬挂着一块匾，写着“山西会馆”四个大字。山门西侧另开着个便门，呈半圆形月亮门，门楣上写着“晋境胜地”四个人字，也是常人出入的地方。过了正门是大戏楼前院、同乡客房、戏台、前殿、钟鼓楼、过厅、正殿。前殿与过厅间有迥廊连接，楼、台、厅、殿、廊舍亭榭错落有致，设计精巧，工艺高超。前后檐下的桁、枋、柱和台阶等各部位均绘有民间故事和禽兽花鸟，故事以三国故事为主，大多表现刘、关、张的故事。

会馆正殿中间位置供奉着关羽夜观春秋的塑像，东侧是怀抱宝剑，手掌印信的关平，西侧是手扶青龙偃月刀的周仓。关帝庙正殿内雕梁画栋，已历经200多年风雨，但颜色依然鲜艳，在内蒙地区属于保存比较好的彩绘，具有很高科学研究价值。关帝庙东配殿内的墙壁故事画，也是会馆内的一绝，整个墙壁所描绘的是三国里的重要故事片段，以关羽一生的业绩为主线，桃园结义、夜观春秋、大破黄巾、应有尽有。每一幅画的注角上都标有商号赞助的银两数目，钱多画面大，钱少画面小，既体现了关羽的忠义诚信，又透露出了商人斤斤计较的心境。每月的初一、初五、十五是山西商人进香的日子，这三天里，关帝庙里烟雾缭绕，热闹非凡。

会馆建筑最有特色的是戏楼，戏楼座南朝北，正中悬挂雕刻鎏金花边的长方形匾额，上书“水镜台”三个字，系清代康熙年间书法大家傅山所书。戏台设有上下的阶梯，底座全由长方形条石砌成，高约8尺，呈“凸”字形。台上两根大红明柱支撑着戏楼的前半部分。戏台后面的屏风上端写有“紫金东来”四个大字。戏台楼顶四角的飞檐斜刺苍穹，斗拱的顶部有麒麟图案，戏台前面大横梁上悬挂着两面镜子，面向北面，在台下找好角度观看此镜可看到善因寺全影。楼脊正前横梁上方东、西、中是三个葫芦状的铜制装置起避雷作用。整体上看，大戏楼结构精巧，气势雄伟。据考古学家介绍，采用这种建筑结构形成的，在中国仅有两座，是典型的黄河文化群落的体现。戏台前的戏场为露天戏场，场内铺满规格相同的方块石板，看似不大，但可容纳上万观众。每年的五月十三开台唱戏，一直唱到秋后天凉，到六月十五多伦庙会期间会馆内的演出活动达到高潮，正月十五由会唱戏的商人在台上唱坐腔戏（不化妆，坐着唱），自娱自乐，天气好时，连唱数日，所唱剧种主要是山西邦子，哪出戏都可以演，唯独不能上演《走麦城》一出。

商务议事区平时并不开放，只有重要商业议事活动才可使用。议事厅内所举行的最重要的会议就是正月十五的议事日。这一天所预示的就是旧的一年已经过去，新的一年将要开始，多伦的一千多户山西商号的负责人都要到会馆参加会议，以几十名会董为中心，在议事厅总结过去一年山西各商号的经营状况，决定新一年山西商号的经营策略等。赏罚分明是必不可少的一个内容，经营出色的商号要给予奖励，经营不好或违规商号要罚戏若干场，这样，会馆一年内请戏班子的费用自然就有了着落。这不仅起到了惩罚的作用，而且宣传了山西商人。会议最终形成决议，然后向在外院听戏的其它众多家商号宣读议事结果，新的一年商业活动也就正式开始了。

山西会馆是山西旅蒙商在多伦留下的一处重要的历史文化遗产，从乾隆后期到清末，山西商人一直是多伦商业城的最主要的经营队伍，他们靠着诚实勤奋的精神，用牛车、骆驼将内地的大量日用百货运到蒙古草原的各个角落，又将草原上的牲畜皮张运回多伦，再销往关内各省，他们所有的商号数量仅占多伦商号总数的四分之一，但所拥有的资产却占整个多伦的一半以上，是当时多伦财富的主要创造者。

在会馆的西侧，有一尊抗日名将吉鸿昌将军的立身汉白玉塑像。

1933年5月，日军入关，连续攻下中方几座城池，其中就有军事重镇多伦城。1933年6月，冯玉祥、吉鸿昌、方振武将军在张家口组织了察哈尔民众抗日同盟军，在察哈尔地区抗击日军，六月二十一日，吉鸿昌将军亲率同盟军主力，兵分三路，北上出击。同盟军很快收复了康保县城，又连克宝昌、沽源，随后兵锋直指多伦。

多伦为塞北重镇，又是华北与蒙古之间交通要道，日寇深知其得失利害关系，因此日伪军占据后欲经营为察北重要据点和巢穴，派重兵驻防，同时还有空中优势。

七月七日，进攻多伦的战斗打响，敌人在空军的支持下，同盟军伤亡较重。为避免损失，吉鸿昌派副官带兵四十名扮做运柴的商贩，潜入城内，分住东南西北中五座清真寺内，届时以点燃柴木为信号，里应外合。十二日拂晓，趁敌机未到，全线发动猛攻，吉鸿昌将军亲率部下，身先士卒，此时城内火光四起，枪声连片，敌伪军队大乱，同盟军乘势冲入城内。自七月七日，浴血奋战五昼夜，于七月十二日十二时前结束战斗，一举收复失守七十二天的塞外重镇——多伦。

当日抗日同盟军陆续开入城内，吉鸿昌将军由南靖堡进城，受到多伦各界人民的夹道欢迎，吉鸿昌笑着向人们招手致意，并在人多的地方宣传抗日救国道理。为方便指挥，吉鸿昌将军将山西会馆改为其抗日的前线指挥部，十五日在山西会馆召开大会，有近万人参加，院内外都站满了人，把整个会馆挤得水泄不通。吉鸿昌将军站在戏台上再次宣传抗日救国的道理，动员青年们参军，号召人民群众大力协助同盟军等。

收复多伦打破了日军不可战胜的神话，举国振奋，全国各界纷纷通电声援祝贺。多伦城是当时中国军民依靠自己的力量收复的第一座军事重镇，对抗日战争产生了巨大的影响。当时有一首诗中写到：“殷殷碧血遍荒郊，旷世勋名万古流。报道山河归故主，满廷贼桧尽含羞。”由于蒋介石破坏同盟军抗日，后来在日伪军和国民党军队的夹击下，同盟军弹尽粮绝，同年9月，多伦城再度为日寇占领。随后，吉鸿昌将军转入地下工作，1934年11月被国民党逮捕。11月22日，被秘密解往北平。11月24日晨，面对“就地枪决”的命令，吉鸿昌将军镇静安祥地向敌人要来笔墨纸砚，挥笔疾书，写出了自己怎样走上革命道路，历述国民党反动派祸国殃民的罪行。殉难前，从容走上刑场，以树枝作笔，以大地为纸，写下了浩然正气的就义诗：“恨不抗日死，留作今日羞；国破尚如此，我何惜此头！”然后严正地对刽子手说：“我为抗日而死，不能跪下挨枪，我死了也不能倒下！给我拿椅子来，我得坐着死！”，当刽子手在他面前举起枪时，他扬眉瞪目，高呼：“抗日万岁！”“中国共产党万岁！”壮烈牺牲。1945年，在中共“七大”上，被定为全党褒扬的革命烈士。1984年在纪念烈士牺牲50周年前夕，邓小平为《吉鸿昌将军牺牲五十周年纪念辑》题了书名，聂荣臻在书上题词：“民族英雄吉鸿昌永垂不朽！”薄一波在书中题词：“慷慨赋词，英勇就义，吉鸿昌烈士永垂不朽。”

为缅怀先烈，开辟爱国主义教育基地，在会馆内树立了吉鸿昌将军雕像。