Местные власти немедленно обратились за помощью в расследовании преступления в частное детективное агентство – тогда это было совершенно обычным делом. Агентство Болдуина – Фелтса из Блуфилда было весьма серьезной конторой, славившейся высоким профессионализмом сотрудников. В те времена подобные детективные конторы имели гораздо больше возможностей для проведения расследований и поиска преступников, чем шерифы небольших городков (следует добавить, что иногда, благодаря местным связям, своими возможностями они превосходили даже федеральную полицию). Одно из их преимуществ состояло в том, что они имели информацию обо всех преступниках, проживающих на их территории, и эта информация регулярно обновлялась.
Однажды в Кентукки Говард Литтл уже обвинялся в убийстве. По его новому месту жительства этот факт никому не был известен, но он значился в досье, которым располагали детективы. Поэтому Говард сразу же привлек внимание сотрудников агентства Болдуина. Разумеется, он был далеко не единственным подозреваемым, проживающим в округе, но имелись и другие обстоятельства, которые говорили против него. Один из сотрудников агентства зашел к Литтлу домой, чтобы побеседовать с ним. Оказалось, что большую часть вечера и часть ночи воскресенья, то есть то самое время, когда было совершено убийство, Говард Литтл провел вне дома и вернулся только после полуночи – в мокром сюртуке и с неизвестно откуда взявшимся фонарем в руке. При этом на ноге у него имелся глубокий порез. Надежного алиби у Говарда Литтла не оказалось, и его жена в этом смысле ничем ему не помогла. К тому же незадолго до описываемых событий Литтл зачем-то на время одолжил у приятеля револьвер.
В июне 1892 года, работая в должности судебного пристава, Говард Литтл убил человека по имени Джейкоб Кинни (в некоторых публикациях он фигурирует как Джордж Маккинни). Это произошло в округе Пайк, штат Кентукки, то есть совсем недалеко от Херли. Предметом раздора между Литтлом и Кинни стала женщина. В момент казни Литтлу было 38 лет. Это означает, что убийство Джейкоба Кинни он совершил в двадцатилетнем возрасте. Тогда ему предъявили обвинение и приговорили к пожизненному заключению, однако после четырех лет пребывания в тюрьме Литтл был помилован губернатором штата Кентукки.