まずは公開鍵秘密鍵の生成に書いてあるとおりに秘密鍵と公開鍵を設定しておきます。
サーバ側で
vi /etc/ssh/sshd_config
と入力し、sshd_configを編集します。
60行目辺りに
PasswordAuthentication yes
とあるので、これを
#PasswordAuthentication yes PasswordAuthentication no
と書き換えて、パスワードでログインすることを不可に設定して保存。
/etc/init.d/sshd restart
でsshdをリスタート。
TeraTermで秘密鍵を使ってログインできることを確認します。
ログインできたら今度はパスワードでのログインが出来ないことを確認して完了。
PoderosaやWinSCPだと、Putty Private Key Files形式しか受け付けてくれないようなので汎用性は低い?かも。
自分はTeraTermなので問題ありませんが。