曹操は若くして機知と権謀に富んだが、放蕩を好み品性や素行を治めなかったため世評は芳しくなかった。ただ太尉の橋玄は「天下は乱れようとしており、当代一の才の持主でなければ救う事はできない。天下をよく安んずるのは君である」などと曹操を高く評価した。また、橋玄が紹介した月旦評で有名な後漢の人物鑑定家の許子將（許劭）は、「子治世之能臣亂世之奸雄」（子は治世の能臣、乱世の奸雄（姦雄））[1]または「君清平之奸賊亂世之英雄」（君は清平の奸賊、乱世の英雄）[2]と評した。曹操は後に橋玄を祀り、かつての恩義に報いた。
20歳のときに孝廉に推挙され、郎となった後、洛陽北部尉、頓丘県令、議郎を歴任した。
洛陽北部尉に着任すると、違反者に対して厳しく取り締まった。その任期中に、霊帝に寵愛されていた宦官蹇碩の叔父が門の夜間通行の禁令を犯したので、曹操は彼を捕らえて即座に打ち殺した。このため法の禁を犯す者は現れなくなり、曹操を疎んじた宦官などは追放を画策するも理由が見つからず、逆に推挙して県令に栄転させることによって洛陽から遠ざけた[3]。
光和7年（184年）、黄巾の乱が起こると騎都尉として潁川での討伐戦に向かい、皇甫嵩や朱儁とともに黄巾軍に大勝し、その功績によって済南の相に任命された。済南では汚職官吏の罷免、淫祠邪教を禁止することによって平穏な統治を実現し、後に東郡太守に任命された。しかし、赴任を拒否し、病気を理由に故郷に帰った。若くして隠遁生活を送ることになった曹操だが、その間も文武の鍛錬を怠ることはなかったという。
中平5年（188年）、黄巾の乱平定に功のあった者が選ばれた西園八校尉に任命された。
故郷にいるとき、王芬、許攸、周旌らによる霊帝廃位のクーデター計画に誘われるが、伊尹、霍光、呉楚七国の乱を例に挙げて参加を断った
