Даний термін бере свій початок з часів середньовіччя і як не дивно, повязаний з церквою.

В католицькій церкві існує наступний звичай. Коли церква вирішує когось канонізувати (тобто визнати нового святого), влаштовується диспут між двома ченцями.

Один всіляко вихваляє померлого «мученика» або «угодника»; це - «адвокат божий» («адвокат» - від латинського слова «адвокаре»: закликати на допомогу). Іншому ж доручається доводити, що канонізіруемий чимало грішив і негідний такого високого звання. Цей-то сперечальник і називається «адвокат диявола».

Потім адвокатами диявола стали звати людей, які люблять погано говорити про інших, намагаються і в хорошому неодмінно знайти недоліки, погані сторони. Називають так і прискіпливих, уїдливих опонентів.