Что такое маска слоя?
Одна из самых полезных возможностей в Photoshop – это редактирование одного и того же объекта снова и снова, при этом не повреждая его. Если вам что-то не понравилось, вы можете вернуть всё в первоначальный вид, или частично вернуть. Я не говорю о сочетании клавиш Ctrl+Z (это не поможет вам частично возвращать объект в первоначальное состояние). Сочетание Ctrl+Z (отмена изменений) всего лишь отменяет последний шаг (или несколько). Но полный контроль над всеми изменениями даёт маска слоя (речь также не идёт об истории, имеется в виду возвращение пикселей слоя на выбор пользователя).
Я покажу на примере. Откройте изображение льва. Кликните дважды на фоновом слое, чтобы разблокировать его. Слой нужно разблокировать, чтобы иметь возможность полного редактирования и перемещения по холсту (после разблокирования у слоя появится фон, и он будет прозрачным). И маска слоя не применяется к заблокированному слою. 
Примените маску слоя (Layer Mask). У вас появится белый прямоугольник рядом с иконкой слоя (он представляет маску и все изменения, связанные с ней, будут отображаться на прямоугольнике).
Установите цвета по умолчанию (D) и чёрной кистью с жёсткими краями (Brush Tool) размером 300 пикселей сделайте пару кликов на глазах льва.
Как вы заметили, чёрная кисть на маске работает как ластик на слое. В чём сущность маски? Переключите цвет заливки на белый (X) и обрисуйте два выреза кистью на маске. Вот и весь трюк. Стёртые пиксели снова появились. В этом и есть вся сила маски слоя – вы скрываете пиксели, но не портите сам слой.
Так как же работает маска:
Чёрный цвет скрывает пиксели
Белый цвет возвращает пиксели
Оттенки серого понижают непрозрачность слоя
Допустим, вы работаете с множеством изображений и совмещаете их на одном холсте. В конце работы вам показалось, что стёрли слишком много. Если вы пользовались ластиком, то ничего другого не остаётся, как всё переделать. Но, если вы работали с маской, то вы просто можете взять белую кисть и вернуть желаемые части изображения.
источник, а также несколько уроков
