唐朝的時候，有一個小有名氣的詩人，名叫趙嘏(ɡǔ)。他的詩寫得很有特色，連著名的大詩人杜牧也十分欣賞。因為趙嘏曾在一首詩中寫出“長笛一聲人倚樓”的佳句，所以他又被人稱為“趙倚樓”。
當時，在吳地有一個名叫常建的人，也很喜歡寫詩，對趙嘏十分仰慕。有一次，常建聽說趙嘏到蘇州來玩，便很想乘機得到趙嘏的詩句。他估計趙嘏一定要到當地的名勝靈巖寺去遊覽，就預先在靈巖寺的牆壁上題了兩句詩，希望以此引出趙嘏的詩句來。
果然不出常建所料，趙嘏到蘇州不久，便來到了靈巖寺。當他看到寺壁上題的兩句有頭無尾的詩時，一時興起，提起筆來，添上兩句，湊成一首完整的詩。這樣，常建的願望就實現了。由於常建的前兩句詩不如趙嘏的後兩句詩好，所以人們便把常建的這種做法叫做“拋磚引玉”，意思是拋出一塊磚頭，引出一塊寶玉。
後來，“拋磚引玉”逐漸成了人們熟知的成語，比喻用粗劣的東西換取珍貴的東西。現在人們常常用“拋磚引玉”來表示謙虛，比喻自己的看法和文字十分粗淺，希望能引出別人的高見或佳作。