Грамматический словарь Зализняка (склонения слова):
Котангенс, котангенсы, котангенса, котангенсов, котангенсу, котангенсам, котангенс, котангенсы, котангенсом, котангенсами, котангенсе, котангенсах
кота́нгенс
-а, м. мат.
Одна из тригонометрических функций — тангенс дополнительного угла.
[От лат. co — вместе и tangens — касающийся]
КОТАНГЕНС, а, м. (спец.). Тригонометрическая функция, равная отношению косинуса к синусу.
КОТ’АНГЕНС, котангенса, ·муж. (·лат. cotangens) (мат.). Тригонометрическая функция — тангенс дополнительного угла.