Hola Diego,
La única forma de crear una nueva instancia es instalar SQL Server.
Puedes instalar SQL Server ejecutando el programa de instalación de forma
interactiva, es decir, pasando por todas las pantallas del proceso de
instalación, rellenando la información que se solicita en cada caso (ej:
directorios de instalación, intercalación, etc.), etc.
La única alternativa que se me ocurre, serÃa construir un fichero de
respuestas, es decir, preparar una instalación desatendida de SQL Server
(asÃ, todas las preguntas de las pantallas, estarán incluidas en el fichero
de respuestas, y la instalación no será interactiva). De este modo, serÃa
posible invocar la instalación desatendida, por ejemplo, desde una aplicación
Visual Basic, o desde SQL Server con xp_cmdshell. Esto no lo he probado nunca
con SQL Server, pero si he preparado instalaciones desatendidas con otros
productos de Microsoft y ha funcionado OK.
No veo más alternativas (aunque pueda haberlas...)
Por último te incluyo un artÃculo de instalación de SQL Server, por si te
resulta de alguna utilidad:
Manual Instalación: Instalar SQL Server 2005 en Cluster, Instalar Analysis
Services 2005 en Cluster, e Instalar Integration Services 2005
http://www.guillesql.es/Articulos/Instalar_SQLServer_SSAS_SSIS_Cluster.aspx
Saludos,
GuilleSQL
http://www.guillesql.es