Esse é um tema conhecido do VNC - se você configurou seu teclado VPS em um formato diferente do inglês (EUA) e tentar colar no VPS, as posições específicas das teclas ainda serão usadas como se ainda fossem do teclado inglês dos EUA, o que significa que caracteres diferentes serão assumidos.

Para corrigir isso, basta converter o formato do teclado para inglês (EUA) no seu VPS e pronto.