韩遂没有采纳，后曹操听闻此事，感叹马超不死，他就无葬身之地了。
曹操拖住马超的部队，命徐晃、朱灵等人偷偷趁天黑渡过蒲阪津，
马超派梁兴率领步骑五千余人攻打徐晃，被徐晃击退，顺势占领黄河以西，安营扎寨。
曹操在潼关北面强渡黄河，渡了一半，马超率领一万多精军赶到，猛攻曹军船只。
曹操靠部下许褚救得性命，校尉丁斐见机放出大批牛马引诱，马超的军队都去争抢牛马，队形大乱，曹操因此渡过黄河。
马超军队败退后，占据了渭河口来抵抗曹军，曹操就多设疑兵，偷偷让军队渡过渭水在渭水南岸扎营。
马超等联军趁夜偷袭曹营，但被曹操所设伏兵击败。
马超等人便驻守在渭南，派人送信，以割让黄河以西为条件求和，被曹操拒绝。
九月，曹军渡过渭水，马超等人多次挑战，曹操都不应战。
马超等联军只好再三请求割地，送人质求和。
当时曹操与韩遂、马超只带少数人马会面，马超依仗自己武力强大，尝试在马前放置六斛米囊来回奔走，
用斛米测量曹操的体重，想要突然上前捉拿曹操，被曹操身边的将领许褚怒目注视，马超才不敢动手。
曹操知道后，自嘲差点被狡猾的贼人所欺凌。
之后曹操听从贾诩的计策，假装应和，故意离间马超与韩遂，二人之间互相猜疑。
于是曹操才与马超等约定日期会战，马超等联军大败，成宜、李堪等都被斩杀，马超与韩遂等人逃到了凉州。
马超逃奔西戎少数民族部落，曹操率军一路追击至安定，因为河间有人反叛才撤军返回。
建安十七年（212年），马超的余党梁兴等人驻守蓝田县，曹操命令夏侯渊出兵征伐，平定了他们。
马超逃到凉州上邽，郡人任养等率众人来迎接他。
之后马超率领西戎诸部袭击陇上郡县，陇上郡县纷纷响应马超。
只有冀城拥护州郡的命令而坚守。马超兼并陇右的军队，又得张鲁派来的大将杨昂襄助，集结了上万人，一齐攻冀城。
马超将冀城包围，凉州刺史韦康派属下阎温去向夏侯渊求救，马超军于显亲境内将阎温抓获并送与马超身前。
马超劝降阎温时，阎温假意答应却又在冀城下大喊援军很快会来，后又拒绝马超的再次招揽，马超遂将其杀害。
五月，马超的父亲马腾被杀，并夷三族。
冀城兵众从正月至八月一直坚守，援兵仍旧未来，凉州刺史韦康便派人向马超求和，
马超进城后，拘押杨阜，杀害韦康，占据冀城并收编韦康的兵马。
夏侯渊率兵救援韦康，来迟一步，在离冀城二百多里的地方，被马超的军队赶来打败。
建安十八年（213年）十一月，马超在汉阳郡依靠羌人和其他少数民族作乱，
氐王千万也叛变响应马超，他们驻守在兴国，后被曹操手下将领夏侯渊击败，氐王千万逃奔马超，其余手下则全部投降。
之后马超自称征西将军，兼任并州牧，督掌凉州军事大权。
建安十九年(214年)，韦康的旧部杨阜、姜叙、梁宽、赵衢等人，共同密谋攻打马超。
杨阜、姜叙二人先在卤城发难，马超出兵攻打却未攻下；
梁宽、赵衢则趁马超出兵之机紧闭冀城城门，杀了他的家小，马超无法进城，进退两难，于是袭击历城，杀害姜叙母亲。
后马超与杨阜交战，兵败，于是逃往汉中依附张鲁。
当时张鲁很看重马超，封马超为都讲祭酒，想把自己的女儿嫁给他为妻，被人劝阻才放弃。