另一方面,調查問卷或者說任何一種樣本調查的方法均存在缺陷。問題之一就是答案的可靠性。在一大群人中,如果我問,請指出這是一個長句還是一個短句。每一名被調查者只能選擇「長」或者「短」這兩個答案中的一個。55%的人可能回答「長」,同時,就會有45%的人回答「短」。因為這是一個既定選擇問題,這個問題會迫使那些認為既不長也不短的人去選擇這兩個極端選項中的一個。這種方法可以用來清除中間派或者判斷人們的傾向。但是,如果明天再問一次,他們可能會選擇相反的答案,因為有很多人並不確定。
另一個問題,通過調查問卷得出的結論可能是無效的。在上面的例子中,我可能會得出這樣一個結論:大多數人認為有17個單詞的句子是長句。但是,沒有考慮調查對像樣本人數是否足夠多,55%和45%之間是否存在很大的差異,並且也沒有另外17個單詞組成的句子做對比,因此,上述結論有可能是完全無效的。更進一步說,問卷調查並沒有讓人理解什麼情況下的長才是真正的長。
問卷調查的許多問題都可以通過有經驗的專家和合理的問卷設計來解決。然而,即使是最好的專家和最優秀的問卷設計也不敢保證從這些所謂的「量化研究」中得出的結論是最終的結果。
通常情況下,調查研究有助於判斷。依據調查研究的類型不同,有的研究可能對形成判斷很有幫助,有的卻微乎其微。這通常也會影響判斷力的強弱。當然,這絕不是對調查研究的一種污蔑。但是,從我的調查研究生涯中所學到的最重要一課可以歸納為一個詞:處處小心。