Маска - это дырка (замочная скважина), через которую видно часть другого слоя.
Маска располагается ниже слоя, который надо маскировать, а не как в видеоредакторе или ФШ - сверху. Маска возможна только для слоя, расположенного в группе (группового слоя) - Bone или Group.
Маска может скрывать как все выше расположенные слои, так и только некоторые из них.
Маска может быть анимированной (возможно еще и растровой - не проверял).
Создание маски и настройка в Moho
1. Свойства группы Masking - Masking - Hide all:
2. Чтобы скрыть отображение маски как слоя, в свойствах слоя маски поставить галку + Add to mask, but keep invisible (можно используя ПКМ):
4. Для того, чтобы маска не работала на какой-то слой, в свойствах этого слоя включить Don't mask this layer, т.е не маскировать этот слой: