Дебют Николая Рыбникова в кино состоялся в 1954 году, в фильме «Команда с нашей улицы». Но картина прошла незамеченной. В следующем году он снялся в роли Котьки Григоренко у А.Алова и В.Наумова в «Тревожной молодости». Рыбников в этой роли был удивительно сдержан, немногословен и скуп на эмоции. Его работу отметили критики, но особой популярности она ему также не принесла.

В картине М.Швейцера «Чужая родня» Николай Рыбников сумел создать абсолютно противоположный образ. Его утверждение на эту роль было трудным. В длинном списке кандидатов на роль сельского механизатора Федора фамилия Рыбникова была самой последней, но на роль его утвердили, и она имела успех.

Настоящую же популярность принесла Рыбникову роль Саши Савченко в фильме «Весна на Заречной улице» (1956). Режиссер картины М.Хуциев вспоминает, что на главную роль они искали совсем другого исполнителя. И все же Рыбников получил эту роль, достойную его дарования. Особо критики отмечали сцену, в которой Савченко признается в любви учительнице Татьяне Сергеевне, где Рыбников должен был играть влюбленного, пришедшего к ней навеселе! Ситуация явно комическая, явно невыгодная для героя, но сцена потрясает. «Происходит это, на мой взгляд, потому, – пишет биограф Ю.Дьяконов, – что актер в течение нескольких минут сумел убедить нас в своей предельной открытости, в этом одном из главных свойств русского характера, в его гордом простодушии и бесхитростности».

Фильм имел огромный успех у публики. А буквально через несколько месяцев после этого на широкий экран вышел еще один фильм с участием актера – фильм А.Зархи «Высота», в котором Н.Рыбников сыграл монтажника Николая Пасечника. В «Высоте» счастье Николая – в сооружении им огромной домны. Он – хозяин жизни. Таким и видит его задиристая, колючая Катя (одна из лучших ролей Инны Макаровой) и влюбляется в него безоглядно. Актриса с волнением вспоминала один из эпизодов фильма, когда Рыбников, как и положено по роли, лихо спускается на руках по железному тросу. В этот момент актриса слышит: «Второй дубль!» – и видит окровавленные ладони Рыбникова, который не успел на первой съемке надеть рукавицы. Макарова – в ужасе. А Коля с улыбкой и со свистом вновь проносится мимо нее.

Героям Рыбникова верили, на них хотели походить. И многие мальчишки середины 50-х годов писали письма сталевару Саше Савченко и монтажнику высотнику Николаю Пасечнику с просьбой рассказать, как и где они обучились своей профессии…

В 1957 году Рыбников впервые попробовал себя в комедии, снявшись в фильме Эльдара Рязанова «Девушка без адреса». Фильм имел огромный успех у публики, однако критика, да и сам режиссер Рязанов посчитали эту картину малоудачной. Снявшись в нескольких фильмах в незначительных ролях, оставшихся незамеченными, Николай в 1961 году получает роль в киноленте Ю.Чулюкина «Девчата», где он сыграл бригадира лесорубов Илью Ковригина. «Профессионалом он был потрясающим, – отмечала Румянцева. – Фильм снимали на Северном Урале. Мороз – за 45 градусов. Просыпаешься ночью – все в инее. Потом по этому морозу долго едем в розвальнях на делянку, где снимали многие фрагменты фильма. Операторы держат камеры под полушубками, иначе моторы отказывают. Ждем, когда в термосах привезут обед. Разливаю его в миски, а он тут же превращается в лед. И вот предлагаю испробовать этот «суп» Илье (Николаю). Он кладет ложку в рот… а вынуть не может. Отогрел, вытащил ее с куском кожи. Потекла кровь. «Ну, – говорим, – все». Видим же – распухает щека. А Коля: «Нет. Будем снимать». И опять сует ложку в свой больной рот. Сняли! А он потом так тихонечко в сторону отворачивается, и… лужица крови. Представляю, какую адскую боль он испытывал…». Фильм «Девчата» имел потрясающий успех и до сих пор остается любимым для нескольких поколений зрителей.

В последующие 9 лет Николай Рыбников снялся в 10 картинах: «Им покоряется небо» (1963), «Хоккеисты» (1964), «Война и мир» (1965-1967), «Дядюшкин сон» (1967), «Разбудите Мухина», т/ф «Длинный день Кольки Павлюкова» (оба – 1968), т/ф «Люди, как реки» (1969), «Старый знакомый», «Плечом к плечу», «Освобождение» (все – 1970). В фильме режиссера Рафаила Гольдина «Хоккеисты» Рыбников исполнил роль тренера Дашкова, а в эпопее Сергея Бондарчука «Война и мир» актер сыграл гусара и поэта Дениса Давыдова.

Следующее десятилетие началось для Рыбникова и его жены Ларионовой весьма многообещающе: режиссер Эдуард Бочаров пригласил их на главные роли в свой фильм «Седьмое небо». До этого звездная пара снялась вместе лишь в одном фильме – «Две жизни», и было это ровно 10 лет назад. Картина «Седьмое небо» имела огромный успех. В 1974 году семейный дуэт появился в фильме «Семья Ивановых».

Потом Рыбников снимается в фильмах «Круг», «Мраморный дом» (оба – 1973), «Потому что люблю» (1975), «Развлечение для старичков» (1977), «Есть идея», «Вторая попытка Виктора Крохина» (оба – 1978), «Уходя – уходи» (1979), «Вторая весна», «Последняя охота», т/ф «Бабушки надвое сказали» (все – 1980).

В 1980-е годы Николай Рыбников в кино снимался редко: за все десятилетие он сыграл всего лишь 9 ролей, большая часть из которых были эпизодическими. Среди них – «Будь здоров, дорогой» (1981), «Без году неделя» (1982), «Выйти замуж за капитана» (1985), «Ночной экипаж» (1987), «Запретная зона» (1988), «Частный детектив, или Операция «Кооперация» (1989) и др.

Но даже эпизодическую роль актер мог превратить в шедевр, как это, например, произошло в фильме «Выйти замуж за капитана», в котором Рыбников сыграл пенсионера Кондратия Петровича, вредного соседа главной героини. За эту роль он был назван «лучшим актером эпизода» по читательскому опросу журнала «Советский экран – 86». В этом же году «Весна на Заречной улице» и «Высота» оказались в списке тех фильмов прошлых лет, которые снова хотят увидеть зрители…

22 октября 1990 года, не дожив до своего 60-летия полутора месяцев, Николай Николаевич Рыбников умер. В 1991 году, уже после его смерти, вышел фильм «Изыди», в котором он сыграл свою последнюю небольшую роль.