monte una maquina virtual con vmware y instale un servidor httpd, y dns para prueba local al subir el servicio puedo acceder a la ip y ver mi pagina de inicio pero al intentar usar el nombre de dominio no me deja ver nada y sale esta imagen.
Basándose en lo que dice tu imagen y nuestra experiencia, podrías intentar cualquiera de estas opciones:
1) Cambiar el contenido del archivo index.htm presente en la URL base de archivos web a lo que tú desees. En Linux, puede estar ubicada en /var/www, /var/www/html, /home/usuario/, etc.
2) Si ya tienes instalado una aplicación allí, puede que simplemente necesites borrar el archivo index.htm, el cual estaría apareciendo en vez de la página de inicio de tu aplicación.
3) Podrías borrar index.htm y colocar tu página de inicio específico, quizás un index.html, index.php, etc.
la otra cosa es que quiero saber como poner mi servidor en linea usando la ip publica de mi red alguna mano para mejorar mi conocimiento
Simplemente configura tu IP pública en la interfaz de red (la parte de WAN) en tu servidor. En este caso, no deberás estar bajo un router o NAT sino directamente que puedas tomar tu IP pública asignada. Otra opción es que uses un servidor de DNS dinámico y lo instales en tu servidor. Si tienes una IP pública puedes intentar configurándola primero con tu Windows para ver si funciona y luego sí colocarla a tu máquina virtual.
Saludes. Ojalá te sirva nuestra info
Fututel.com