武城人。大器晚成，故年轻时宗族的人都看不起他，只有堂兄崔琰很赏识他。太祖曹操平定了冀州，征召任命他为邬县县长。他贫穷无车马，步行去就任。曹操征讨壶关，询问哪位官员最有德政，并州刺史张陟推举崔林，于是提拔崔林为冀州主簿，又调任署别驾、丞相掾属。魏国建立后，又逐渐提升为御史中丞。魏文帝登基后，崔林被任命为尚书，出任幽州刺史。北中郎将吴质统领黄河以北的军事力量，涿郡太守王雄对崔林的副官说：“吴质中郎将，是皇上所宠幸的显贵大臣。持节统领军事，州郡官吏无不敬仰他，而崔林却丝毫不与他联系。如果吴质以不整治边塞之罪名杀你，崔林又怎能保护得了你呢？”副官将这番话告诉了崔林，崔林说：“我把脱离幽州刺史这个官职，看得如同脱鞋一样，怎能牵累你呢？幽州与胡虏(边塞少数民族)接壤，应该以温和平静的方法来治理，扰乱他们就会逼他们生出叛逆之心，这样便给国家平添北方边塞的顾虑和忧患。”在崔林任职期间，胡虏没有兴兵叛乱。但崔林到底还是因为不讨好上司，被降为河间太守。人们都为崔林抱不平。崔林被任命为大鸿胪。龟兹王派侍子来朝见，朝廷嘉奖他们远道而来，褒赏给龟兹王非常厚重的礼物。其余的各国都各自派侍子来朝见，来往使节络绎不绝。崔林担心这些派遣使者来的国家并不是真心归顺，只是想暂时取得魏国的庇护以对付胡虏，故而通过互通使节，求得魏国封的印绶，而朝廷派人一路上保卫护送使者，损失更多。动用人力，花费钱财来干这些无益之事，被夷狄胡人所取笑，这是过去就忧虑的事情。于是写信告诉敦煌郡，并记载前代给予诸国赏赐或丰厚、或略薄的旧事，使这件事有个常规。魏明帝即位后，赐给崔林关内侯的爵位，又转授光禄勋、司隶校尉。所属各郡都免除不合法度的官员，整肃有错误的官员。崔林为政看重诚信，识大体，所以他离职后，部属官员每每怀念他。散骑常侍刘劭作《考课论》，魏明帝诏令下达给各级官吏。
崔林议论说：“考察《周官》中关于考核官吏成绩的内容，条文已经很完备了，自周康王以后，就逐渐地衰落，这就是为什么考验官吏成绩的法令，因人而生效，因人而失效。到了汉末，难道是因为官吏的组织法规不健全而招致失败的吗？现今的军队，有的鄙陋，有的胆小如鼠，准备了法令条规，三令五申，但却仍然增减无常，本来就难于一致。而且，万目不张时，应当举其纲，众毛不整时，应当抖振衣领。皋陶(传说舜之臣，掌刑狱之事)在虞作官，伊尹在殷为臣，不仁的人都远远地离去。三王五帝未必一致，而各有
