Como muitos já devem saber, desde versão 1.7.0, o GeoServer está dando suporte a extensão espacial do SQL Server.
Porém ela tem algumas particularidades em relação a outros plugins existentes, então vou explicar como configurá-lo no GeoServer:
1º Passo: Faça o download do plugin na página do GeoServer. É importante ressaltar que esse plugin é o da versão 1.7.1, faça o download sempre da versão que você estiver utilizando, pois pode ter ocorrido alterações/correções.
2º Passo: Descompacte os arquivos e os coloque-os na seguinte pasta
[GEOSERVER_INSTALL]\webapps\geoserver\WEB-INF\lib
3º Passo: Faça o download do SQL Server JDBC driver 1.2 no site da Microsoft
4º Passo: Execute o arquivo que você baixou do site da Microsoft e extraia-o para a pasta que você preferir (Ex: C:\Microsoft SQL Server 2005 JDBC Driver\).
5º Passo: Coloque o arquivo
C:\Microsoft SQL Server 2005 JDBC Driver\sqljdbc_1.2\enu\sqljdbc.jar
Na pasta
[GEOSERVER_INSTALL]\webapps\geoserver\WEB-INF\lib
6º Passo: Reinicie o GeoServer e Pronto!
Veja também o vídeo no YouTube, explicando esse passo a passo: