GitLab:

1. открыть Putty Key Generator
2. сгенерировать пару
3. то, что появилось в окошке Public key for pasting into OpenSSH... - скопировать и вставить в SSH Keys гитлаба
4. нажать Conversion > Export OpenSSH key. Его как раз и использовать при подключении через smartGit.

GitHub:

1. Открыть cmd
2. Выполнить ssh-keygen -t ed25519 -C "your_email@example.com" с электронным адресом, из Вашего профиля на GitHub
3. Содержимое файла с расщирением .pub скопировать и вставить в GitHub -> Settings -> SSH and GPG keys -> New SSH key
4. При подключении через smartGit использовать второй сгенерированный файл (приватный ключ)

В смартгит можно управлять ключами в Edit -> Properties -> Authentication