CentOS 6でfail2banを眺めていたらroundcube-authが有りました。
ログインに失敗した回数でBANするようですので実際に試してみました。

/etc/fail2ban/jail.local

に以下のように記載します。

[DEFAULT]
roundcube_errors_log = /var/www/html/roundcube/logs/errors

[roundcube-auth]
enabled = true

roundcube_errors_logはRoundcubeで指定したエラーログの場所になります（デフォルトではインストールしたディレクトリのlogs/errors）。

service fail2ban start

で起動して、取りあえず一回Roundcubeのログインに失敗してみて、

fail2ban-client status roundcube-auth

でfailed が増えれば、設定は有効です。

fail2banのmaxretry回数に達したら、そのIPアドレスからは一定時間アクセス不能になります。
※同じIPアドレスからアクセスする場合は全員の失敗がカウントされるので、注意が必要。

BANしたくないIPアドレスがある場合

ignoreipでホワイトリストを指定すればOKです。

[DEFAULT]
roundcube_errors_log = /var/www/html/roundcube/logs/errors

[roundcube-auth]
ignoreip = 127.0.0.1
enabled = true