Впервые эта фраза появилась в юмористическом детективе «Псмит-журналист» английского сатирика Пелама Вудхауса – создателя легендарной парочки Дживса и Вустера. Роман «Псмит-журналист» печатался частями в детском журнале «Капитан» с 1909 года, а в 1915 году вышел в книжном варианте. Произведение стало очень популярным благодаря блистательному юмору и динамичному детективному сюжету. Неугомонный молодой джентльмен постоянно ввязывается в истории. То, приехав в Нью-Йорк, оказывается в центре внимания преступного мира, то расследует кражу бриллиантового ожерелья в старинном родовом замке. Все проблемы, возникающие при этом, разрешаются самым изящным и остроумным способом.

— По-моему, — сказал Псмит, — настал один из тех моментов, когда мне следует спустить с цепи мой шерлок-холмсовский метод. А именно. Если бы сборщик квартирной платы уже побывал здесь, то, мнится мне, товарищ Спагетти, или как там вы его назвали, здесь больше не появился бы. Иными словами, загляни сюда сборщик налогов и не обрети наличных, товарищ Спагетти скитался бы сейчас в холодном ночном мраке и не возникал бы под недавно родным кровом. Вы следуете за ходом моих рассуждений, товарищ Малоней?
— Верно! — сказал Билли Виндзор. — Конечно же.
— Элементарно, мой дорогой Ватсон, элементарно, — прожурчал Псмит.

Спустя 14 лет после выхода книге, фраза «Элементарно, Ватсон» звучит в американском фильме «Возвращение Шерлока Холмса». Это была первая звуковая кинолента о Шерлоке Холмсе. Хотя в фильме действовали Холмс и Ватсон, сюжет существенно отличался от конандойлавского и был довольно слабым. Несмотря на это, фильм имел огромный кассовый успех и хорошую критику. Цитата из фильма практически полностью повторяет цитату из книги «Псмит-журналист»:

Ватсон: Потрясающе, Холмс!
Холмс: Элментарно, мой дорогой Ватсон, элементарно!

В 1935 Холмс произнес «Элементарно, Ватсон» в британском фильме «Триумф Шерлока Холмса». С годами фраза набирала популярность и превратилась в «визитку» Шерлока Холмса. По числу экранизаций история о Шерлоке Холмсе и докторе Ватсоне попала в Книгу рекордов Гиннеса. На данный момент насчитывается более 200 кинокартин с участием сыщика.

В книгах Артура Конан Дойла слова «Элементарно» и «мой дорогой Ватсон» все же встречаются, но по отдельности. В рассказе «Горбун» эти фразы находятся через абзац друг от друга.