Esta es una de esas preguntas donde nunca hay buenas respuestas.
Sobre los VST yo siempre hago una aclaración, puede que ya sepas esto, pero no está de más reiterarlo. En Linux se suele hacer una distinción entre dos tipos de plugins VST: los WINVST y los LXVST. En rigor ambos son VST, sólo que con características particulares:
- LXVST: Son plugins VST en formato *.so y son compilados de forma nativa para Linux. Aunque en teoría cualquier VST debería poder compilarse como LXVST, sabemos que en la práctica puede ser un tanto más complicado. Y lo cierto es que plugins VST comerciales que funcionen como LXVST conozco sólo uno:
Pianoteq
- WINVST: Son plugins VST en formato *.dll, son compilados para Windows, pero pueden funcionar en Linux gracias a una capa de compatibilidad: WINE
Los LXVST están soportados en Ardour sin compilar ni complicarse en nada, este soporte es a través de Vestige, es decir, no se requiere el SDK de Steinberg. Los WINVST están soportados en Ardour a través del SDK de Steinberg, y hasta donde tengo entendido, VST-SDK es la piedra de tope por la cual no se pueden distribuir versiones compiladas de Ardour con soporte para WINVST, o al menos no de manera oficial. Y, en general, si un tercero se interesa por distribuir ardour con WINVST, no puede usar el nombre Ardour, debe usar un nombre modificado como "ardour-vst", "ardourVST", "ardour-winvst" u otro nombre de fantasía.
La única forma de obtener ardour con soporte para WINVST es activando esta opción al momento de compilar. O sea, debes instalar todas las dependencias de Ardour en su versión de desarrollo (aparecen etiquetadas como dev), debes conseguir una copia del VST SDK y, por supuesto, el código fuente de Ardour. Luego tienes que ejecutar el gestor de autocompilado (creo que Ardour usa Waf) y activar los WINVST al momento de configurar la compilación.
Si todo esto no es lo suficientemente complicado, debes considerar, además, que activar el soporte para WINVST sólo es posible en arquitectura de 32 bits, y además, si logras hacer correctamente la compilación no hay garantías que Ardour funcione de modo estable, y por si fuera poco, sólo te funcionarán algunos pocos plugins. Realmente, el esfuerzo no vale la pena.
Hay una distribución que ofrece Ardour con soporte para WINVST, es AVLinux:
http://www.bandshed.net/AVLinux.html
A lo mejor probar esta distro en LiveUSB te sale mejor que intentar compilar Ardour.
En resumen, sea por tema de licencias, o por tema de la gran cantidad de alternativas, los VST no han tenido una acogida muy grande en Linux. Si te interesan recomendaciones de plugins LV2 o LADSPA, en este hilo hay muchas recomendaciones:
https://www.hispasonic.com/foros/recopilando-mejores-plugins-para-gnu-linux/403625 
