公孙瓒是贵族子弟，但因母亲出身低微，只能任书佐。因美貌、声音洪亮与才智受太守赏识，被邀请为女婿。
受岳父帮助曾与刘备和刘德然共同师事于卢植。他亦曾拜于刘宽门下作门生，与王邑、傅燮、魏杰等人为同门。
公孙瓒后来在太守刘其下任御车。在刘其犯法被发配交州日南时敢于违法乔装成士兵沿途护送，途中刘其获赦还。公孙瓒归来后因此德行被举孝廉，任为辽东属国长史。
有一次公孙瓒跟随数十名骑兵外出巡逻关塞，看到数百名鲜卑骑兵，公孙瓒就退到空亭对随行队伍说道：“如不主动进攻必将被杀。”于是手执长矛策马带队冲入鲜卑队伍，杀伤数十人，虽幸免于死，自己也损失过半。鲜卑人以此为戒，再不敢轻易越进关塞。公孙瓒升迁为涿县县令。
光和年间，边章、韩遂叛乱，朝廷从幽州征发三千精锐骑兵，并给予公孙瓒都督行事的符节，统帅此三千骑兵。
公孙瓒率军到蓟中时，渔阳人张纯引诱辽西乌桓首领丘力居等叛乱，攻占右北平郡、辽西郡属国的城市。公孙瓒以三千骑兵追讨张纯等叛贼，立下战功，升为骑督尉。此时，属国乌桓首领贪至王率众归降公孙瓒。公孙瓒又升为中郎将，封为都亭侯，进驻属国，此后的五六年间，与北方游牧民族争战不断。
中平五年（公元188年），公孙瓒与张纯、丘力居等战于辽东属国石门，张纯等大败，张纯于是抛下妻儿逃入鲜卑境内。公孙瓒继续追击，由于太深入，反被丘力居围困于辽西管子城二百余日，粮尽士溃，士卒死伤大半。
丘力居军也粮尽疲乏，远走柳城。朝廷诏拜公孙瓒为降虏校尉，封都亭侯，又兼领属国长史。公孙瓒于是统领兵马，守护边境。每次一听到敌人来袭，公孙瓒马上声疾色厉，作战时像是打自己的仇人似的，甚至一直打到夜深。从此乌桓都害怕公孙瓒的勇猛，不敢再来进犯。公孙瓒常与身边数十个善于骑射的人都骑白马，相互间为左右翼，自号“白马义从”，而白马义从最出名的当然是三国演义里的赵云赵子龙了。
黄巾之乱时，丘力居钞略青、徐、幽、冀，四州被其害，公孙瓒无法抵御。
朝廷派宗正刘虞任幽州牧。刘虞到任后，派遣使臣到游牧民族中晓以利害，责令他们献上张纯的首级。丘力居等听说刘虞到了，纷纷派遣使者前来沟通归附之事。公孙瓒担心刘虞立功，暗中派人在途中暗杀这些使者。游牧民族明白此事后，便绕道到刘虞处。刘虞上报朝廷撤掉驻防军队，只留下公孙瓒统万余步兵、骑兵屯驻右北平。
中平六年（公元189年）三月，张纯被其门客王政杀掉并把首级送给刘虞。刘虞因安抚游牧民族有功而被授予太尉之职，封为襄贲侯。不久，又迁刘虞为大司马，公孙瓒为奋武将军，封为蓟侯。