QUE ES IPsec ???

IPsec es una extension del protocolo IP. proporciona servicios criptográficos de seguridad, permitiendo autenticación, integridad, y confidencialidad.
IPsec proporciona encriptación y autenticación a nivel de red, dando lugar a una solución de seguridad.

Metodos de funcionamiento
Modo Túnel: este modo se usa cuando uno de los extremos de la comunicacion es un gateway. se encripta el paquete IP en su totalidad, convirtiendo el resultado en los datos de un nuevo paquete IP. el router de origen encripta el paquete y lo reenvía por el túnel IPsec. el router de destino desencripta el paquete IP original y lo reenvía al sistema destino.

Modo Transporte: se usa cuando es un host el que genera los paquetes. solo se encriptan los datos, y la cabecera IP original se deja intacta. este modo tiene la ventaja de que añade pocos bytes a cada paquete. además permite a los dispositivos de la red publica ver el origen y el destino del paquete. esto también implica que un atacante que este realizando un análisis del trafico que circula por la red, pueda ver nuestro paquete.


PROTOCOLOS DE IPSEC

IPsec emplea dos protocolos diferentes - AH y ESP - para asegurar la autenticación, integridad y confidencialidad de la comunicación. Puede proteger el datagrama IP completo o sólo los protocolos de capas superiores.

Authentication Header (AH) cabecera de autenticación, proporciona integridad, autenticación y no repudio si se eligen los algoritmos criptográficos apropiados.

Encapsulating Security Payload (ESP) protocolo de encapsulado de datos seguros, proporciona confidencialidad y la opción altamente recomendable de autenticación y protección de integridad.

Autenticación: Confidencialidad: Intregridad:
Los algoritmos criptográficos definidos para usar con IPsec incluyen HMAC- SHA1 para protección de integridad, y Triple DES-CBC y AES para confidencialidad.

PROTOCOLO IKE
El protocolo IKE resuelve el problema más importante del establecimiento de comunicaciones seguras: la autenticación de los participantes y el intercambio de claves simétricas. Tras ello, crea las asociaciones de seguridad. El protocolo IKE suele implementarse a través de servidores de espacio de usuario, y no suele implementarse en el sistema operativo. El protocolo IKE emplea el puerto 500 UDP para su comunicación.

El protocolo IKE funciona en dos fases: la primera fase establece un isakmp sa(asociación de seguridad del protocolo de gestión de claves de Internet)

En la segunda fase, el ISAKMP SA se emplea para negociar y establecer las asociaciones de seguridad de IPsec.

Puedes encontrar mas informacion en los siguientes enlaces
--Configurando IPsec Linux - Linux
--Configuracion de IPsec en linux con Racoon
--Configuracion de IPsec Windows - Windows