小从此后便连年交战，难解难分。
后来马腾便在瑰里开始了十多年的治理。他加强了对胡人防务，心练了自己的骑兵部队，对贤能的人士给予了提拔，对人民生活给予了保障，得到了三辅人的爱戴。此前曹操曾经招马超去当官。马超没有去。后来马超做为司隶校尉的督军从事征讨郭援，战斗中被箭射中。马超立即用布带裹好受伤的小腿又继续战斗，此战攻破敌军斩杀了主将郭援。朝廷因功拜马超为徐州刺史。后来又拜马超为谏议大夫。
后来等到马腾进京时，就因为前面的功劳，拜马超为偏将军让马超率领原马腾的部下军队。朝廷又拜马超的弟弟马休为车都尉，马铁为骑都尉。
后来马超与关中各路将领侯选、程银、李堪、张横小梁兴、成宜、马玩、杨秋、韩遂等人，总共十部都反叛了。总兵力为十万人。共同据守黄河淡关交界处，建造了营阵。这一年。曹操西征，与马超等联军在黄河、渭水交界处展开战斗，马超等人最后败走。马超逃到了安定，韩遂逃回凉州。朝庭下诏将马超在邯城的亲属全部杀了。马超又在陇上战败于杨阜等人。后来马超在汉中时，张鲁让马超担任“都讲祭酒”的职务。而且还想将自己的女儿嫁给马超从而拢络马超。此时有人对张鲁说：“有人像马超这样连自己的亲人都不顾，还能顾及到其它人吗？”意思就是说即使张鲁把女儿嫁给马超。马超也不会因此就对张鲁言听计从，死心踏地的，于是张鲁就放弃了嫁女儿给马超的想法。当初马超没有反叛曹操时，他的一个妾的弟弟名叫“种”的留在三辅，到了马超败归汉中张鲁时。种已经到了汉中。正旦日。种来给马超拜年，马超悲伤之余捶胸吐血说：“我全家百余口人，在一天内被人杀光了。今天我们两个还有什么好祝贺的？”后来马超多次向张鲁请求资助兵马，想去攻取凉州。张鲁最终勉强答应了马超，派了一点兵给马超。但是北取凉州的计划失败了。加上张鲁的手下杨白等人因为怕有能力的马超超过他们的地位而排挤马超。马超最终逃离了张鲁。从武都逃到氐人聚居的地方，然后转投刘备。
刘备听到马超要投奔他后，高兴地说：我这次就可以得到益州了。于是派人接应马超。并且派兵给马超。马超到成都后，领军驻扎到城北，结果不到十天成都就投降了。于是刘备表奏马超为平西将军。掌管临沮，爵位仍旧延用前面朝庭所封的都亭侯。
马超由于刘备待他比较优厚小所以在和刘备说话时，常常称呼刘备。玄德。而不尊重地叫“主公关羽很恼火，告诉刘备想杀马超。刘备对关羽