Нечаев родился 20 сентября (2 октября) 1847, в селе Иваново-Вознесенское Владимирской губернии в семье мещанина, служившего в трактире. С 14 лет начал работать. О себе он рассказывал, что он сын крестьянина и выучился грамоте 16 лет от роду. В 1865 переселился в Москву, где пытался сдать экзамен на звание народного учителя, но провалился. Через год выдержал этот экзамен в Петербурге и получил место учителя в Сергиевском приходском училище. В 1868 поступил вольнослушателем в Петербургский университет. Зимой 1868-69, принимая участие в студенческих волнениях, пытался взять на себя роль лидера, но неудачно. Распустив слух о своем аресте и бегстве из Петропавловской крепости, скрылся за границей, опасаясь преследований властей.
В марте 1869 он оказался в Женеве у М. А. Бакунина, объявив себя представителем новой волны революционного движения. Бакунин был очарован Нечаевым, оказывал ему всяческую поддержку и даже поселил у себя. Нечаев встречался также и с А. И. Герценом, который отнесся к молодому революционеру с явным недоверием, но по настоянию Н. П. Огарева, также подпавшего под обаяние Нечаева (он даже посвятил ему стихотворение «Студент»), передал на бакунинско-нечаевские «революционные затеи» часть так называемого Бахметевского фонда. Этот фонд предназначался для финансирования революционного движения в России и находился в совместном распоряжении Герцена и Огарева.
Нечаев совместно с Бакуниным издал от имени несуществующего «Всемирного революционного союза» ряд ультрареволюционных манифестов: «Постановка революционного вопроса», «Начало революции» (журнал «Народная расправа», №1). Тогда же им, по-видимому, был написан и «Катехизис революционера», автором которого длительное время считался Бакунин, и только после публикаций последних лет авторство Нечаева можно считать доказанным, хотя влияние бакунинских идей в этом знаменитом тексте, как отмечают историки, несомненно, чувствуется.
«Катехизис» состоял из четырех разделов, в первом из которых «Отношение революционера к самому себе» провозглашалось, что «революционер – человек обреченный… он… разорвал всякую связь с гражданским порядком и со всем образованным миром и со всеми законами, приличиями, общепринятыми условиями, нравственностью «этого мира». В разделе «Отношение революционера к товарищам по революции» эти товарищи классифицировались по степени их полезности для революции, причем революционер более высокого разряда должен смотреть на «революционеров второго и третьего разрядов» как «на часть общего революционного капитала, отданного в его распоряжение». Формулируя «Отношение революционера к обществу» (третий раздел) Нечаев подчеркивал, что он не должен останавливаться «перед истреблением положения, отношения или какого-либо человека, принадлежащего к этому миру, в котором все – и все – должны быть ему равно ненавистны». «Все это поганое общество» Нечаев предполагал разделить на несколько категорий, причем первая из них составляла «не отлагаемо осужденных на смерть». При вынесении смертного приговора следовало руководствоваться не личной виной того или иного человека, а пользой его убийства для революционного дела. Далее следовали еще пять категорий людей, которых следовало уничтожить позднее или использовать в интересах революции, не останавливаясь перед шантажом, и лишь немногие могли «выработаться» в настоящих революционеров.