DEP de Windows XP

DEP corresponde a las siglas de Data Execution Prevention, es un sistema que implementa el SP2. DEP sirve para impedir que se ejecute código malicioso en áreas de memoria reservadas para almacenamiento de datos. Este sistema actúa cuando la memoria se declara como «no ejecutable» y un programa trata de ejecutar código desde esa memoria, Windows cierra el programa. Esto sucede independientemente de si se trata de un código malintencionado o no.
Esta protección en el SP2 esta configurada solo para los servicios pero se puede activar para todos los programas, con el problema de que si una aplicación no soporta DEP tendremos problemas con ella, pero podemos evitar que DEP analice esta aplicación. Para un mayor funcionamiento de DEP el microprocesador debe ser compatible con esta tecnología, aunque si no se dispone de dicha compatibilidad funciona en modo software.
Esta tecnología también será incluida en Windows Vista pero aun no se sabe si estará activada para todos los programas. Otra tecnología de protección de memoria de Windows Vista será ASLR (Address space layout randomization) una tecnología que cada vez que arranca el sistema cambia las direcciones de memoria de los componentes importantes del sistema, esta tecnología ya estaba implementada en OpenBSD y algunas distribuciones de Linux con las herramientas PaX o Exec Shield. ASLR es muy eficaz contra los desbordamientos de memoria que utilizan muchos virus. ASLR esta activada por defecto en Windows Vista.

Cómo configurar la protección de la memoria en Windows XP SP2
http://www.microsoft.com/spain/technet/depcnfxp.mspx

Address Space Layout Randomization in Windows Vista
http://blogs.msdn.com/michael_howard/608315.aspx