行会是区域商人与行业商人的相对独立的社会组织，晋商行会是晋商的自治、自律、自卫的社会组织，是维系晋商和谐发展的纽带，对晋商的发展有着重要作用。由于晋商经济实力和社会影响，政府对社会经济的管理也常常依靠商人行会来实现，所以晋商行会也是政府对社会经济管理的助手。晋商行会产生、发展以及活动形式有许多自己的特点，也是晋商文化中的一个宝库。
行会源于民间结社习俗。“社”最初是按照民意自发形成的以敬神为中心的自治机构。随着商业发展，汉唐时代政府实行“坊市制”，工商业户在固定的坊市内按商品类别排成行列，称之为行。唐有二百二十行，宋有三百六十行。盛唐时，在坊巷乡间出现了一种以亲睦、教养、经济上相互帮助的机构——“社邑”或“社”，唐天宝七年（748）已流行全国。同行商人组织起来的自治社就是商业行会。明中期以后，行会又称为“会馆”、“公所”或“公会”等，有时也称“帮”或“会”。晋商行会组织名称，似乎始终没有统一的规范，各依自己的信仰及偏好而命名。有的叫“社”，有的叫“会馆”，后来有的改称“公所”或“公会”，后来有的改用“商会”。
山西商业行会发生于何时，史料记载很少，现有史料说明，大约在明代万历年间（16世纪中期），晋商行会就已经很完善了。据张正明先生研究，山西人在异地建立会馆最早始于明朝隆庆万历时代；据《藤荫杂记》卷六《东城》载：“尚书贾公，治第崇文门外东偏，作客舍以馆曲沃之人，回乔山书院，又割宅南为三晋会馆，且先于都第有燕劳之馆，慈仁寺有饯别之亭。此贾公为贾仁元，字西池，山西万泉人，嘉靖四十一年（1562）进士，曾任兵部左侍郎，协理京营戍政，克经筵官。贾氏任京官时宅第在崇文门外，曾辟宅南为三晋会馆。”当时的会馆规模较小，其功能主要是在京的晋籍士人聚会场所。明代实施开中法以来，晋商逐渐成为明代最有势力的商人群体，京师也就成为晋商活动的重要场所，随后便设会馆于京师。《晋冀会馆碑记》记述了原初设立会馆的起因：“历来服官者、贸易者、往来奔走者不知凡几，而会馆之设，顾独缺焉。……虽向来积有公会，而祀神究无专祠，且朔望吉旦群聚类处，不可无以联其情而冷其意也。议于布巷之东蒋家胡同，购得房院一所，悉毁而更新之，以为邑人会馆。”晋商会馆创始最早年代，约明中后期。山西平遥颜料商建立的颜料会馆，清乾隆六年《建修戏台罩棚碑记》称“我行先辈，立业都门，崇祀梅、葛二仙翁，香火攸长，自明代以至国朝百有余年矣”，按1741年（乾隆六年）上溯百有余年，当为明代万历后期天启初年。又《临襄馆山右馆财神庵三公地重修建筑落成记碑》载：“吾乡自前明，即有山右会馆。1767年（乾隆三十二年）《重修临汾东馆记》记载：“临汾为山右平阳首邑，其立馆于京师也，自前明始”（以上均见李华《明清以来北京工商碑刻选编》），可见晋商至迟在明代中后期已在北京设立会馆了。
