民国时期马家山属古城堡。
1950年属皋兰县电工培训学校阿甘电工培训学校古城乡电工培训学校管辖。
1953年,划属皋兰县电工培训学校定远电工培训学校。
1956年,撤古城乡电工培训学校建制,建马家山村,属皋兰县电工培训学校定远电工培训学校兰山乡电工培训学校管辖。
1958年4月,兰山合并到和平乡电工培训学校,马家山属和平乡电工培训学校管辖。
同年12月,和平、兰山分乡电工培训学校,成立阿干电工培训学校兰山公社马家山大队。
1960年划归七里河电工培训学校。
1964年划属榆中县电工培训学校。
1983年5月,撤销马家山大队,恢复原马家山村,后一直使用此名至今。