А может и не запуталась
Вероятнее всего бред, но:
for (i=0; i<=N-1; i++)
num=num+(N-2)**i; //** - типа возведение в степень
//num - результат
--------------------------------------
Ход мыслей (не смеяться, ежели чего

)
3 пары: вариант один Ж1М3Ж2М1Ж3М2
4 пары: Ж1(М3М4)Ж2(М1М2)Ж3(М1М2)Ж4(М2М3) - похоже на двоичную систему, кол-во вариантов 2**4-1=15
5 пар - то же, но типа 3-ная система ...
-------------
Хотя, бред скорее всего

забыла дискретную математику напрочь...