Kovács András 1925 júniusában született a Romániához tartozó Kendén, később pszichológiát, szociológiát és esztétikát tanult Kolozsváron, a Bolyai Egyetemen, majd Budapesten a Pázmány Péter Egyetemen.
1946-ban a Színház- és Filmművészeti Főiskola rendezői szakán folytatta tanulmányait, négy évvel később diplomázott. Első játékfilmjét 1960-ban rendezte Zápor címmel, valamint Bessenyei Ferenc és Bara Margit főszereplésével, majd ismertté az 1964-es Nehéz emberek című filmjével vált, amivel elnyerte a magyar filmkritikusok díját, és az első, 1965-ös magyar filmszemlén is díjazták.
Később Cseres Tibor regénye alapján dolgozta fel az 1942-es újvidéki vérengzést, Hideg napok címmel. A film Karlovy Varyban és a magyar filmszemlén is fődíját kapott. A Magyar Filmművészek szövetségének először főtitkára, majd 1981-től 1986-ig elnöke volt, 1994-től 1998-ig pedig az MTV kuratóriumának elnöki tisztségét is betöltötte.
A kilencvenes évektől már csak dokumentumfilmeket készített a televízió számára. 1995-ben, hetvenedik születésnapján portréfilm készült róla A nehéz emberek címmel.