TCP 3-way handshake, 4-way handshake 동작 방식

3-way handshake ?

TCP 연결을 설정하는 과정

(TCP/IP 프로토콜을 이용해서) 통신을 하는 응용 프로그램이 데이터를 전송하기 전에 정확한 전송을 보장하기 위해 상대방 컴퓨터와의 세션을 수립하는 과정

Control bits

• SYN : 연결 설정
• ACK : 응답 확인, 패킷을 받았다는 것 의미 (Acknowledgement Number)
• FIN : 연결 해제, 세션 종료, 더 이상 전송할 데이터 없음

동작방식

[Step1] Client -SYN-> Server

**나 너한테 접속할건데 괜찮니?

• Client가 Server에게 접속을 요청한다. (SYN 비트 설정)

[Step2] Client <-SYN + ACK- Server

웅 괜찮아!

• 서버는 클라이언트의 요청을 수락하고, 동시에 클라이언트에 자신의 연결 요청을 보낸다.
• SYN(연결요청) + ACK(응답) 전송 (LISTEN -> SYN_RECV)
• 그 후 Server는 다시 대기 상태

[Step3] Client -ACK-> Server

오케이 -> 연결 성립 (Establised)

• Client는 서버의 요청을 확인하고 ACK 로 응답한다.

이 과정을 통해 TCP 세션이 수립되고, 이후 데이터를 주고받을 수 있는 안정적인 통신상태가 된다.

4-way handshake ?

TCP 연결을 종료하는 과정

연결 종료는 양쪽 호스트 모두 먼저 시도 가능

• 클라이언트 : 연결을 먼저 요청하는 Host
• 서버 : 연결을 요청받는 Host
• 클라이언트-클라이언트의 형태

Control bits

• ACK
  최초 연결의 첫 번째 세그먼트를 제외한 모든 Segment의 ACK 비트는 1로 설정
  최초 연결의 첫 번째 Handshake 과정에서는 응답할 요청이 없음
• RST(Reset) : TCP 연결을 강제로 종료할 때 사용

Port 상태 정보

• ESTAB
  포트가 연결된 상태
• CLOSE-WAIT
  상대방의 FIN(종료 요청)을 받은 상태
  상대방 FIN에 대한 ACK를 보내고 애플리케이션에 종료를 알린다
• LAST-ACK
  CLOSE-WAIT 상태를 처리 후 자신의 FIN요청을 보낸 후 FIN에 대한 ACK를 기다리는 상태
• FIN-WAIT-1
  자신이 보낸 FIN에 대한 ACK를 기다리거나 상대방의 FIN을 기다린다.
• FIN-WAIT-2
  자신이 보낸 FIN에 대한 ACK를 받았고 상대방의 FIN을 기다린다.
• CLOSING
  상대방의 FIN에 ACK를 보냈지만 자신의 FIN에 대한 ACK를 못받은 상태
• TIME-WAIT
  모든 FIN에 대한 ACK를 받고 연결 종료가 완료된 상태
  새 연결과 겹치지 않도록 일정 시간 동안 기다린 후 CLOSED로 전이한다.
• CLOSED
  연결 수립을 시작하기 전의 기본 상태 (연결 없음)

동작방식

[STEP1] 클라이언트 -FIN-> 서버

연결종료 가능하니?

• 클라이언트가 서버에 연결 종료를 요청하는 FIN 패킷을 전송한다. FIN 비트 : 1
• 이때 FIN 패킷에는 실질적으로 ACK도 포함
• 클라이언트는 FIN-WAIT-1 상태로 전환되며 ACK를 기다린다.

[STEP2] 클라이언트 <-ACK- 서버

우웅! 잠만! 확인해볼게!

• 서버는 FIN을 받고 확인했다는 ACK를 클라이언트에 보낸 후 자신의 통신이 끝날때까지 기다림
• 남은 데이터가 있는 경우 이를 처리한 후 close() 호출
• 클라이언트는 ACK를 받은 후 서버가 남은 데이터 처리를 끝내고 FIN 패킷을 보낼 때까지 기다림
• 클라이언트는 FIN_WAIT_2 상태로 전환

[STEP3] 클라이언트 <-FIN- 서버

종료하자!

• 서버는 남은 데이터를 모두 전송한 후, 연결 종료를 요청한다.
• FIN 패킷을 클라이언트에 전송
• 서버는 LAST_ACK 상태로 전환
• 이후 클라이언트의 ACK 응답을 기다린다.

[STEP4] 클라이언트 -ACK-> 서버

우웅! 아직 안 온 거 있을 수 있으니까 좀만 기다렸다가 종료해야지

• 클라이언트는 FIN 을 받고, 응답 ACK 를 서버에 전송
• 클라이언트는 아직 서버로 부터 받지 못한 데이터가 있을 수 있으므로 TIME_WAIT 를 통해 기다린다.

[AFTER]

• 서버는 ACK 를 받은 이후 즉시 연결을 종료한다.

• TIME_WAIT 시간이 끝나면 클라이언트도 소켓을 Closed

• TIME_WAIT : 의도치 않은 에러로 인해 데드락으로 빠지는 것을 방지, 클라이언트는 마지막 ACK를 보낸 후, 일정 시간 동안 연결을 유지하며, 지연된 패킷이 도착할 가능성을 대비

3-way-handshake와 차이가 나는 이유?

클라이언트가 데이터를 전송을 마쳤다고 하더라도 서버는 아직 보낼 데이터가 남아있을 수 있기 때문이다.

FIN 에 대한 ACK를 보낸 후, 남은 데이터를 모두 전송한 후에 자신도 FIN 메시지를 전송한다.

서버는 마지막 FIN 을 보내기 전 아직 전송하지 못한 데이터를 전송한다.

그러나 데이터가 유실되어 재전송하거나 지연되어 FIN 보다 늦게 도착할 수 있다.

따라서 클라이언트는 FIN을 받은 TIME_WAIT 를 통해 혹시 모를 패킷 수신을 기다린다

Abrupt Connection Release(갑작스런 연결 해제)

RST(TCP reset) :

• RST 비트가 설정된 세그먼트를 전송하면, 연결이 즉시 종료된다.
• ACK 과정 없이, 송신자와 수신자는 바로 연결을 종료한다.
• 정상적으로 닫기 위한 데이터 전송을 기다리지 않고 강제로 세션을 종료한다.
• RST 비트를 1로 설정한 세그먼트를 전송한다.
  • 송신자는 패킷을 보내고 바로 연결 종료
  • 수신자는 패킷을 받으면 바로 연결 종료

RST를 사용해 연결을 종료하는 경우

1. 보안 위반의 경우
   • 악성 코드 또는 의심스러운 트래픽이 탐지되면, 즉시 연결을 종료하여 시스템을 보호한다.

2. 시스템 자원 부족으로 새로운 연결을 유지할 수 없을 때, RST를 사용해 빠르게 자원을 해제하고 다른 연결을 처리한다.

3. TCP 연결에 장애가 발생했거나, 비 정상적인 세션이 감지되면, 즉시 연결을 끊고 새로운 연결을 시도한다.

RST의 특징

• 연결 종료 과정에서의 절차적 보장이 없다는 점에서, 일반적인 FIN 플로우와 차이가 있다.
• 빠른 종료가 필요할 때 유용하지만, 연결 중인 데이터를 잃을 위험이 있다.