Грамматический словарь Зализняка (склонения слова):
Грот-мачта, грот-мачты, грот-мачты, грот-мачт, грот-мачте, грот-мачтам, грот-мачту, грот-мачты, грот-мачтой, грот-мачтою, грот-мачтами, грот-мачте, грот-мачтах
грот-ма́чта
ГРОТ-МАЧТА -ы; ж. Мор. Средняя (или вторая от носа) мачта на парусном судне, имеющем не менее трёх мачт.
ГРОТ-М’АЧТА, грот-мачты, ·жен. (мор.). Средняя, самая высокая мачта на парусных и гребных судах; см. грот-.