Классическая гармонь состоит из следующих элементов: правый и левый полукорпус с клавиатурами. Правый полукорпус имеет дополнительный гриф, именно на этом полукорпусе исполняется основная мелодия. На левом полукорпусе клавиатура находится прямо на нем. Эти кнопки используются для аккомпанемента. На некоторых моделях вместо клавиатуры здесь могут располагаться специальные рычаги с клапанами. Два полукорпуса соединены меховой камерой (иначе, мех), во время игры, растягиваясь и сжимаясь, мех изменяет свой объем.
Воздух входит внутрь меха и выходит из него, при воздушном потоке возбуждаются язычки внутри него – и мы слышим музыку. Борины – это складки меха. Для удобства музыканта, гармони снабжены ремнями – плечевым и запястным. Первый, надевается на плечи и помогает удерживать полукорпуса во время игры. Запястный ремень обычно располагается на левом полукорпусе, служит поддержкой запястья левой руки во время отведения левого полукорпуса, чтобы разжать мех. Внутри полукорпусов находится механика клавиатур – это система специальных рычажков, которые преобразуют команды музыканта от нажатия кнопки до подъема клапана. Клапаны, в свою очередь, открывают и закрывают отверстия. Отверстия находятся на специальной пластине – деке, на ее внутренней стороне расположены резонаторы, а на внутренней – клапаны и механика клавиатуры. Резонаторы образуют множество воздушных камер, в каждой из которых находятся по два язычка, один звучит когда мех сжат, другой – когда разжат. Голосовые планки с язычками и издают звук, это основная конструкция в составе любой гармони.
Из-за притока воздуха язычки издают различные звуки. На гармони можно воспроизводить звуки диатонического звукоряда, этот музыкальный инструмент имеет определенную тональность – Ля, До, Ре, Фа.