黄龙府是辽朝重要的国库之所在，也是辽国的经济命脉。阿骨打建国后的第一件大事就是占据黄龙府。但是黄龙府外城防御完善，内城守备坚固，若要强攻硬取，一旦辽兵增援就会腹背受敌。阿骨打决定“围点打援”，围住黄龙府，扫清其外围，歼灭救援军队。

黄龙府外围被扫平后，阿骨打率兵直捣黄龙府。当时的黄龙府被围困数月，守将耶律宁在内无粮草、外无援兵的情况下，惶惶不可终日。阿骨打一声令下，金军如潮水般涌至城下，人人奋勇杀敌。辽兵一触即溃，耶律宁见大势已去，弃城而逃。

当时金太祖只有2万人，两军比例是1比5。?阿骨打为了鼓舞军心，在将士面前仰天大哭道：“我与汝等起兵，无非是痛恨辽邦残忍欲自立国，现在天祚帝亲至恐不可当。我们现在有两条路，一是拼以死战转危为安；二是你们抓我一个献给天祚帝，杀我一族投降契丹，或许能转祸为福。”遣将不如激将。吴乞买等趋进道：“火来水淹，兵来将挡，天祚帝残暴不仁众心离散，就使来了一、二百万，也不怕他。”

金主道：“你等果能尽死力，须听我号令同去御敌！”诸将齐声应令，遂调齐人马倾国而出，行至黄龙府东，遥见辽兵如潮水一般。阿骨打下令军中道：“敌利速战，我利固守，且深沟高垒静观敌衅，再行进兵。”将士遵令按兵不动。

正当两军攻防正酣时，辽朝内部出现纷争另立政权，天祚帝回军自救，阿骨打紧追勐打，辽军大败。此战之后，曾经不可一世的大辽国一蹶不振，直至灭亡。

1116年闰正月，渤海人高永昌据东京反辽。天祚帝募兵镇压，金太祖也统领内外诸军攻讨，高永昌兵败被杀。东京州县全为金朝所占据。金太祖加号大圣皇帝，改第二年年号为天辅。

六月，金太祖领兵追击天祚帝，归化、奉圣二州相继投降。蔚州辽臣也来降附。十二月，金太祖统率各部向燕京进发，宋军自南路配合攻辽，左企弓、虞仲文等汉臣开城降金。金太祖入城接受官员们的朝贺。

天辅七年（1123年），金兵将燕京的工匠和财宝掳掠一空，然后将燕京的六州之地分给宋朝，金太祖领兵回师。

阿骨打痛恨辽，但对宋比较和善。金国大臣左企弓曾劝阿骨打不要归还“燕云十六州”，但阿骨打还是如约归还了“燕云十六州”中的六州。

阿骨打共有五子：大太子名为粘罕，又作粘没喝，二太子名为宗望，又作斡离不，三太子答罕，又作讹里朵，四太子宗弼，又作金兀术，五太子泽利。阿骨打要试五子本事如何，一日在演武厅上放置一座铁龙，原是镇国之宝，重有一千余斤。阿骨打即命番官传旨道：“不论哪位公子，有能举得铁龙者，即封为昌平王、扫南大元帅。”旨意一下，王子们个个想做元帅。这个上来摇一摇，涨得脸红；那个上来拔一拨，挣得面赤。个个满面羞惭退将下去。阿骨打道：“当年项羽拔山子胥举鼎，难道我儿中就没有人能举得起这千斤之物吗？”正烦恼间，旁边忽然闪出一人，但见他生得：

脸如火炭，发似乌云。虬眉长髯，阔口圆睛。身长一丈，膀阔三停。分明是狠金刚下降，却错认开路神狰狞。

原来是阿骨打第四个公子，名唤兀术。金兀术年方二十堂堂一表，十八般武艺无有不通，猿臂善射善于用兵，端的是有万夫不当之勇。当下上前俯伏奏道：“臣儿能举这铁龙。”阿骨打一听大喜，即命他去举铁龙。兀术左手撩衣，右手将铁龙连举三举，然后撩在一边，上厅来拜见父王缴旨。阿骨打即封他为昌平王、扫南大元帅，总领金国三川兵马。

阿骨打刚刚起兵反辽时，金兀术尚未成年。金太祖第二次发动大规模反辽战争时，金兀术见不远处有辽兵三百余人，金兀术率百骑追击，交战中金兀术失尽，遂抢夺辽兵长剑独杀八人，生擒五人。金兀术初次参战就显示出超人的勇勐，令女真将士刮目相看。

金兀术爱一小卒之妻，杀卒而夺之，宠以专房。一日昼寝，忽见此妇持利刃欲杀他。惊起问之，妇曰：“欲为夫报仇耳。”金兀术默然使去。第二天集合将士对此妇说：“我不想杀你，又不能留你，你到诸将中选一个人嫁给他吧”。妇指一人，术即赐之。

宣和七年（1125年），金灭辽后便大举南侵攻宋。阿骨打选定良辰吉日，发兵五十万，祭了珍珠宝云旗，进兵中原。真个是人如恶虎，马似游龙；旗旗蔽日，金鼓喧天。金军强渡黄河，金兀术率先锋三千骑逼近开封，只见他：

头戴一顶金镶象鼻盔，金光闪烁；旁括两根雉鸡尾，左右飘分。身穿大红织锦绣花袍，外罩黄金嵌就尤鳞甲；坐一匹四蹄点雪火龙驹，手拿着螭尾凤头金雀斧。好像开山力士，浑如混世魔王。

宋徽宗听说金兵南下后立即禅位赵桓，然后出城南逃，金兀术选骁骑百名追之，未及，获马三千而还。金兵包围开封，宋以割让太原、中山、河间三镇等条件与金求和，金军返回燕京。

这年八月，金太祖在返回上京的路上病死，时年五十六岁。其弟完颜吴乞买即皇帝位，是为金太宗。