Olá Maira,
Primeiramente, "...if I like dancing" não seria possível, porque o exercício pede "se VOCÊ GOSTARIA DE dançar". A frase "I was wondering if I like dancing" significa "Eu estava me perguntando se eu gosto de dançar".
O segundo ponto é que a pergunta não é se a pessoa "gostar de dançar" (no sentido de apreciar), mas se ela "gostaria de dançar", ou seja, eles estão em uma discoteca e uma pessoa está perguntando se a outra quer/deseja dançar. Esse "gostaria" é geralmente traduzido como "would like". Exemplo:
- I would like to visit my family. (Eu gostaria de visitar a minha família.)
Sobre a sua outra pergunta, isso varia bastante mesmo. Especificamente, quando o verbo vier depois de "to like" (gostar), ele poderá estar tanto na forma do infinitivo com "to" quando na forma "-ing" e, na maioria dos casos, tanto faz. Então:
- I like to swim. = I like swimming. (ambas significam "Eu gosto de nadar" e são corretas)
Em alguns casos, existe uma leve nuance, onde o gerúndio é usado para atividade de hobby, mas nem todo nativo vai sentir essa diferença.
No entanto, essa questão não existe aqui neste exercício, porque o verbo a ser usado não é o "to like" no sentido de gostar, mas sim o "would like" (gostaria, desejo), e ele é SEMPRE "...WOULD LIKE TO...", com o verbo no infinitivo.
Abraços!