諸葛亮走出茅廬之前，和曹操似乎沒什麼交集，然而，少年時代諸葛亮的命運也曾懸於曹操之手。這還從得從漢獻帝初平四年(公元193年)談起。那一年，曹操的父親曹嵩為避戰亂，居住在山東琅琊一帶，其實也就是諸葛亮的家鄉。曹操命令泰山太守應劭去迎接曹老太公。徐州太守陶謙派部下陰平去護送。當時曹家的輜重有一百多輛車，財富外露，引起陰平及其部卒的貪心，「士卒利嵩財寶」，結果在華、費這一帶殺了曹老太公全家，其中包括曹嵩的幼子曹德，財貨被搶劫一空。然後，陰平和士卒逃跑。
這件事在《三國演義》裡也有描述，曹操勃然大怒，興大兵為父報仇，不過其行為已經大大超出報仇的範圍，變成了濫殺無辜。曹操進攻徐州，陶謙敗走，當時徐州有很多為躲避董卓之亂而來的長安、洛陽的居民，結果碰上曹操指揮的大屠殺，慘不忍睹，被坑殺十多萬，都沉入泗水，導致泗水河不能流動。說曹操是殺人狂，一點也不過分，比董卓還過分。曹操大軍所到之處，史書的記載是「雞犬亦盡，城邑無復行人。」這跟曹操自己所寫的「千里無雞鳴，白骨蔽於野」沒啥區別。曹操的屠殺行動，產生了大量的難民，往南邊逃命。
就在曹操的屠刀在徐州山東一帶肆虐時，有一個叫諸葛玄的人，當時是劉表的手下，赴京城匯報關於荊州的工作，聽說曹操發難，立即從京城趕回老家琅琊，帶走哥哥諸葛珪的遺孀和兒女，去廬江避難，也就是今天的安徽一帶。而這個諸葛珪的兒女當中，就有諸葛亮，諸葛玄就是他叔叔。當時的諸葛亮十四歲，一起逃難的還有弟弟諸葛均，以及姐姐妹妹。曹操當時三十九歲，和諸葛亮是完全不對稱的，在少年諸葛亮的眼中，曹操就是一個令人不寒而慄的殺人惡魔，這對諸葛亮以後的政治態度，不能不說沒有產生一定的影響。
諸葛玄當時被劉表推薦為豫章太守，官挺大的，沒想到這個職位是雙黃蛋，當時朝廷又任命朱皓為豫章太守。這事怎麼擺平？靠槍桿子！諸葛玄拼不過朱皓，只好帶著諸葛亮一家投奔劉表，半路上在平頂山生病，由鼎鼎大名的神醫張仲景醫治，但神醫也沒醫好諸葛玄，諸葛玄就死在平頂山。也有說諸葛玄是被叛兵殺死的。諸葛亮後來輾轉到了南陽，劉表也很照顧他，也難怪，誰讓他叔叔是劉表的老部下，而且後來諸葛亮的老婆又是劉表夫人蔡氏的外甥女呢。