С 1 июня 1964 года начались кинопробы актёров на главные и эпизодические роли. Самыми сложными оказались поиски главного героя — студента Владика. Гайдай пересмотрел более сотни кандидатов, среди которых были: Олег Видов, Всеволод Абдулов, Виталий Соломин, Евгений Петросян, Сергей Никоненко, Евгений Жариков, Геннадий Корольков, Иван Бортник, Валерий Носик и Александр Збруев. Велись переговоры и с Андреем Мироновым. В итоге художественный совет студии остановился на кандидатуре Валерия Носика, хотя сам режиссёрсомневался. Случайно увидев фотографию молодого актёра Александра Демьяненко, Гайдай отправляется 11 июля в Ленинград на личные переговоры. Оба остались довольны друг другом. Актёр потом вспоминал:
Я как прочёл сценарий «Операции „Ы“», понял, что фильм обречён на успех. Ничего подобного в нашем кино тогда не было.
Валерий Носик сыграл в фильме эпизодическую роль студента на экзамене.
Не совсем устраивал Леонида Гайдая и Михаил Пуговкин, которого художественный совет рекомендовал на роль Верзилы в первую новеллу. В итоге Пуговкин сыграл прораба на стройке.
После фильмов «Пёс Барбос и необычный кросс» и «Самогонщики» Гайдай прекратил творческое сотрудничество с Никитой Богословским. С фильма «Операция „Ы“ и другие приключения Шурика» началась совместная работа с Александром Зацепиным, тогда ещё малоизвестным композитором. Впоследствии ни один известный фильм Леонида Гайдая не обходился без музыки и песен этого композитора.
Съёмки фильма
Фильм снимался в Ленинграде, в павильонах киностудии Мосфильм, в районе Свиблова и в районе МГУ (Москва), а также в Одессе.
Многие гэги были придуманы во время съёмок самими актёрами. Так, Юрий Никулин придумал сцену, где Шурик «ранит» его героя, Балбеса, рапирой и из его груди хлещет «кровь» —красное вино. Сцена с щёлкающим зубами скелетом была импровизацией Никулина.