Там он и находил своих жертв. Большинство из исчезнувших (жертвами становились мальчики и юноши в возрасте от 13 до 20 лет) были бродягами, никто их особо и не искал. Почти все жертвы были подобраны им в зале ожидания Центрального Вокзала Ганновера. В то время вокзал, особенно в ночное время, считался зоной повышенной опасности. Ночью туда пройти было довольно трудно, но Хаарманна, как полицейского, пускали. Хаарманн выбирал наиболее запущенного и грязного подростка или юношу. Подходил к нему, предъявлял полицейский значок, предлагал пожить в каморке при мясной лавке. В большинстве случаев бродяги соглашались. Через пару дней знакомства Хаарманн склонял их к сексуальным отношениям. Те не сопротивлялись, так как Харманн умел выбирать жертв-геев. Через пару дней или недель он убивал их. Происходило это всегда одинаково: он придушивал жертву, а когда та теряла сознание, перегрызал ещё живому парню горло, выпивая кровь.

Хаарманн не убил ни одной женщины, так как считал их «вместилищем порока и распространителями венерических заболеваний», и брезговал их кровью. В 1919-м Хаарманн встретил Ханса Гранса, который стал его постоянным любовником и сообщником в преступлениях. Мясо жертв Гранс предложил добавлять в сосиски, которые готовились в лавке Хаарманна. В 1923 году Гранс наладил сбыт человеческого мяса под видом говядины в ближайшие рестораны и кафе.

До середины 1924 года Хаарманн убивал в основном тех, кого выбирал Гранс. Хаарманн убивал не только из-за мяса. К примеру, Адольф Ханнапель был убит потому, что Грансу понравились его новые брюки, а Эрнст Шпекер стал жертвой из-за новой рубашки. 22 июня 1924 года Хаарман попытался силой заставить молодого человека по имени Фромм ночевавшего на вокзале пойти с ним «поесть мяса». Парень не хотел, и слышал про убийства бродяг с вокзала Ганновера и отказался. Хаарман попытался силой увести юношу.

Фромм оказал сопротивление, на вокзал прибыла полиция и задержала обоих. Хаарманну не помогло звание полицейского. В участке Фромм уверенно заявил, что Хаарманн грязно приставал к нему. А ещё и напомнил о слухах про убийства людей с вокзала. Полицейские прислушались к словам Фромма. Хаармана, несмотря на его принадлежность к полиции, оставили в камере. В его лавке провели обыск. Они обнаружили останки человеческих тел, и Гранса застали в лавке в момент, когда тот разделывал тело парня, исчезнувшего с вокзала несколько дней назад. После ареста Хаармана и Гранса одежда из их квартиры была осмотрена родственниками и членами семей пропавших. При этом выяснилось, что гардероб Ханса Гранса полностью состоял из одежды жертв. На судебном процессе Фриц Хаарман признался, что убил с 1918 по 1924 года 24 мальчика. Однако число трупов, согласно следственным данным, составляло 27.

Все жертвы были в возрасте между 10 и 22 годами. По собственным показаниям, он убивал своих жертв укусом в шею, затем расчленял их.

Хаарман был приговорен 19 декабря 1924 года к смерти через обезглавливание на гильотине. Выслушав приговор, Хаарманн сперва впал в ступор, а потом рассмеялся. — Я все равно вернусь! — закричал он. — Вы же знаете, что вампиры бессмертны!