五年之后，即公元190年，汉灵帝去世，董卓趁着外戚势力和宦官实力火拼的时候率军进入京城，掌控了朝廷。稍稍平静的天下，再次陷入混乱。当时天下的各路黄巾大都被诸侯剿杀，像曹操在兖州吞并了三十万黄巾军。而幽州有公孙瓒，荆州有刘表，南阳有袁术，益州有刘焉，汉中有张鲁，各路枭雄各用手段，镇压黄巾，霸占一方。而当时的冀州，原本是韩馥的领地，可是袁绍却假借帮助对抗公孙瓒，乘势夺取了冀州。
冀州的许多州县，本来在张燕的手中。在韩馥时代，韩馥暗弱，而张燕也已经臣服于朝廷，两个人勉强算是和平共处。可是袁绍来到冀州，自然是把剿灭张燕，清除冀州的其他势力作为自己的第一要务。张燕和袁绍之间，完全没有共存的可能。
于是，张燕做了两个决定。第一个，“燕遂以其众与豪杰相结”，张燕拿出钱财，拿出诚意，和讨好冀州的各路豪杰，也就是那些军阀、豪门。应该说，这么做有一点作用，毕竟张燕也算是国家任命的正式官员，并且主动表示了诚意。
于是，也有那么一些人，去劝说袁绍，不要征讨张燕，何必多一个敌人呢?可是作用不大。因为袁绍不同韩馥。韩馥没什么野心，自己吃国家俸禄，既然皇帝都没有吩咐剿灭张燕，自己又何必多事?可是袁绍不一样，他一心想着以冀州为根据地，做大做强自己，然后逐鹿中原，争夺天下。袁绍是个心存帝王之志的野心家，自然不能容忍自己的卧榻之侧，有他人酣睡。
于是，张燕做出了第二个决定，联合幽州的公孙瓒，共同对付袁绍。
公孙瓒本是幽州将领，是幽州牧刘虞的手下。在袁绍夺取冀州之初，双方就发生大战。公孙瓒在幽州多年，手下有精锐部队“白马义从”，名号很响，一些少数民族人看到骑白马的赶紧就逃。白马将军公孙瓒，很是风光了几年。在双方交战之初，公孙瓒取得了不少胜利，而和公孙瓒携手的张燕，自然也获利多多。
可是，公孙瓒这个人贪得无厌，治军是一把好手，可是在治民方面却很白痴。他杀掉了自己的上级，废黜了刘虞许多宽仁的政策，并且和幽州边境的一些少数民族部落结下难解的仇怨。而多番胜利，也让公孙瓒骄傲自满。结果在界桥之战，四万步骑被袁绍手下一位名叫鞠义的将领用八百弩兵给击败了。界桥之战后，袁绍乘胜追击，而公孙瓒一败再败。结果，在公元199年的时候，被袁绍消灭，幽州也并入了袁绍的地盘。
而在公孙瓒灭亡前的一刻，还曾经派遣儿子公孙续向黑山军首领张燕求救。张燕知道唇亡齿寒的道理，一旦公孙瓒失败，袁绍必然全力进攻自己。虽然黑山军号称有百万之众，可真正能打的只不过是十万人。于是，张燕答应了公孙瓒的请求，派出自己的十万主力出击。
本来，公孙瓒准备率军出城，逃亡黑山军，然后再率军反攻。可是有位部将劝说公孙瓒，现在您的部下之所以拼死奋战，那是因为他们的家人都在城堡当中，一旦将军出城，没有人在城堡中主持大局，恐怕城池马上就会陷落。这位部下说得有理。公孙瓒听后，就犹豫不决，最后放弃出走，选择死守。
当时，张燕已经率领十万人星夜兼程，分三路援救公孙瓒。可惜，天意弄人。公孙瓒曾经写了一封密信，派出使者，想交给张燕。公孙瓒邀请张燕率领五千精锐骑兵，在易京北方低洼处埋伏，然后点火为号，自己立刻率军突击出城，前后夹击，必然会大败袁绍。计策本来不错，可惜半路却被袁绍截获。
袁绍得到密信之后，派人抢先去截击张燕部队，并且在易京北方的低洼地区埋伏，举火为号。公孙瓒以为张燕已经到达，果然率军出城，刚好进入袁绍的埋伏圈。公孙瓒大败，主力丧尽，只能退回城堡。
公孙瓒的易京拥有三四十米高的城墙，硬攻的话，袁绍军队必然死伤惨重。最好的方法便是引蛇出洞，在城外和公孙瓒决战。本来公孙瓒一直龟缩，没有机会。可没想到公孙瓒竟然主动出城，结果大败。而大败之后，公孙瓒军队死伤惨重，城中军民人心浮动。而袁绍也开始挖地道，越国高大的城墙，自己挖到易京腹地。当袁绍军队出现在易京城中的时候，公孙瓒知道大势已去，就杀尽妻女，然后自焚而死。
而张燕呢，在公孙瓒死后也被袁绍多番围剿，势力范围大大缩减，不得不退出郡县，重新回到山中，躲避袁绍的锋芒。
不过，袁绍最强大的时候，也就是袁绍开始衰弱的时候。
在袁绍夺取幽州的第二年，也就是公元200年，袁绍已经拥有了冀州、青州、并州、幽州四大州，成为天下最强的诸侯。而曹操也在巩固兖州的势力之后，夺取了刘备(吕布)的徐州、袁术的扬州、豫州一部，而张扬等小小诸侯也逐一被曹操消灭。曹操已经成为黄河中下游地区唯一的诸侯势力，成为天下第二号强人。可以说，袁绍和曹操之间的争斗，难以避免。
而黑山军首领张燕，恰恰活跃在袁绍和曹操中间。按照一般人的理解，袁绍拥有四州之地，军力强大，而曹操的地盘不足袁绍的二分之一，兵力更是远远不及。可是，“燕遣使求佐王师，拜平北将军”，张燕主动请求帮助曹操平定袁绍。这是为什么呢?
一来，是张燕和袁绍之间的仇恨已久。虽然说在袁曹相争的时候，袁绍对张燕表面上也算不错，一旦曹操被灭，那么张燕必然死无葬身之地。二来，曹操虽然弱小，但是却“挟天子令诸侯”，拥有道义上的正确性。三来，曹操本人颇有谋略，于是，有天下枭雄之称的刘备也不得不拜服在曹操的脚下。而吕布、袁术、张绣、张扬之流那都是一时豪杰，可是都被曹操平定。
而最关键的，当是第四点。就是曹操对待归降之人，大都宽仁。在公元199年，也就是公孙瓒灭亡的同一年，张绣投降了曹操。对待公孙瓒的部下，袁绍是挥起屠刀，唯恐除之不尽;而曹操呢，对待一再叛变的张绣，甚至是害死了自己长子曹昂的张绣，竟然主动把女儿交给他，对张绣恩宠有加。可以说袁绍和曹操，对比鲜明。
跟着袁绍混，死路一条，跟着曹操混，保不定有口饱饭吃。于是张燕做出了那个决定。
事实证明，张燕的判断果然没错。在三年之后，即公元204年，冀州被曹操拿下。张燕因平叛有功，被封为安国亭侯，享受封邑五百户。不久之后张燕就去世了。在张燕死后，张燕的子孙继承爵位，绵延不绝，完全融入到魏晋士大夫行列。可以说，张燕成功的由一位黑道老大，洗白成为朝廷公卿。
