Pierwsze koncerty zespołu Złe Psy odbywały się na zlotach motocyklowych, ze względu na zainteresowanie Nowaka. Uczestniczył w nich m.in. basista Paweł Mąciwoda, późniejszy członek zespołu Scorpions. W 2001 roku skład zespołu uległ ustabilizowaniu Nowak oprócz gry na gitarze, został wokalistą zespołu. Ponadto dołączyli gitarzysta Rafał Rogulski, basista Filip Güntzel oraz perkusista Dariusz Świechowski.
Twórczość zespołu zyskała zainteresowanie wytwórni muzycznej Metal Mind Productions. Debiutancki album zatytułowany Forever został wydany 21 października 2002 roku. Wydawnictwo cieszyło się uznaniem publiczności jak i krytyków muzycznych. Na przełomie 2003 i 2004 roku zespół Złe Psy ograniczył działalność koncertową w związku ze zobowiązaniami Nowaka w jego macierzystym zespole TSA. W 2006 roku uległ zmianie skład zespołu, nowym gitarzystą został Grzegorz Babisz, basistą Bartosz Szwed, natomiast perkusistą został Marek Motylski. W grudniu 2007 roku Motylskiego zastąpił znany z występów w zespole TSA Marek Kapłon. Rok później w odnowionym składzie zespół dał szereg koncertów w Polsce.
Jesienią 2008 roku Nowak ponownie zmienił skład zespołu. Do współpracy zaprosił gitarzystą Jacka Kasprzyka, basistę Pawła Nafusa i harmonijkarza Przemysława "Stonę" Stankiewicza. Pierwszy koncert w odnowionym składzie odbył się w Toruniu. W 2009 roku Nowak wraz z zespołem przygotował nowe kompozycje z przeznaczeniem na drugi album. W tym samym roku jeden z utworów pt. "Jodyna" grupa zaprezentowała podczas występu zarejestrowanego w TVP (zagrała wówczas także kolędę "Wśród nocnej ciszy", zaś muzykom towarzyszył na harmonijce ustnej Bartosz Łęczycki).
W marcu 2012 roku, tuż przed zaplanowaną premierą drugiej płyty zespołu, Andrzej Nowak zwrócił się do rozgłośni Polskie Radio Opole w swoim rodzinnym mieście z prośbą o emisję utworu "Urodziłem się w Polsce" promującego album. Stacja odmówiła emisji utworu uznając, iż "jest niemedialny i szowinistyczny". W odpowiedzi lider zespołu Złe Psy wyraził swoją dezaprobatę wobec decyzji publicznej rozgłośni podkreślając, że utwór jest wyrazem jego patriotyzmu, dumy z polskości i bycia Polakiem oraz dodał, że patronat nad nowym albumem grupy objął Urząd Miasta Opole. Decyzja odmowna Radia Opole stała się następnie przyczynkiem do medialnej dyskusji w kwestii emisji utworów muzycznych o treściach patriotycznych. Oficjalna strona grupy Złe Psy zaapelowała do słuchaczy zespołu o protest adresowany do rozgłośni Radio Opole przeciwko dyskryminacji zespołu na antenie publicznego radia.
www.zlepsy.pl/