Ставим Nginx(начиная с версии 1.9) и получаем балансировку mysql. Всё просто

user  nginx;
worker_processes  1;
error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;
events {
    worker_connections  1024;
}
stream {
        upstream stream_backend {
            least_conn;
            server 172.17.0.34:3306 max_fails=2 fail_timeout=30s;
            #server backend2.example.com:12345 max_fails=2 fail_timeout=30s;
            #server backend3.example.com:12346 max_conns=3;
        }
        server {
            listen 3306;
            proxy_connect_timeout 1s;
            proxy_timeout 3s;
            proxy_pass stream_backend;
        }
}

Всё просто. Не хуже HAproxy