[Network] 서버 보안과 암호화

서버 보안

DDoS(분산 서비스 거부) 공격과 방어 방법

• DDoS(Distributed Denial of Service) 공격 : 대량의 트래픽을 유발하여 서버를 마비시키는 공격
• 공격 유형
  • SYN Flooding: TCP 연결 요청을 지속적으로 보내 서버 리소스를 소진
  • UDP Flooding: 무작위 포트에 대량의 UDP 패킷 전송
  • DNS Amplification: DNS 서버를 이용해 대량의 트래픽을 증폭시켜 대상 서버로 전송
• DDoS 방어 방법
  • CDN 사용 (Cloudflare, AWS Shield) → 공격 트래픽을 분산
  • 방화벽 및 IDS/IPS 설정 → 의심스러운 IP 차단
  • Rate Limiting 적용 → 일정 속도 이상 요청 차단
  • 애플리케이션 계층 보안 강화 → CAPTCHA 적용, 비정상 요청 탐지

보안 리스크

• 보안 리스크 : 시스템에 부정적인 영향을 미칠 가능성
  • 취약점 : 시스템이 가진 결함
  • 위협 : 결함을 공격하는 것
• 인시던트 : 실제로 부정적인 영향을 미치는 사건이 발생

→ 리스크 예방과 인시던트 대응 모두 수행

방화벽

• 방화벽(Firewall) : 네트워크 트래픽을 필터링하여 허용/차단하는 보안 장비
  • IP, 포트, 프로토콜 기반으로 필터링 가능
  • 방화벽을 설정하면 특정 트래픽만 허용 가능
  • 패킷 필터링 : 발신자 IP 주소나 이용 중인 서비스 포트를 확인하여 필요없는 통신은 차단

• → 서버와 네트워크에 기본적으로 방화벽과 DMZ 구성해두어야 보안 향상

보안 구역

• 보안 구역 : 보안 수준이 동등한 네트워크로 방화벽으로 나뉘는 구역
  • 인터넷 상 네트워크 : 방화벽 밖에 위치, 비통제 구역, 보안 수준 가장 낮고 신뢰 불가
  • DMZ : 인터넷 상 네트워크와 내부 네트워크 사이에 존재, 내부 네트워크의 보안 리스크를 억제하는 역할
  • 내부 네트워크 : 방화벽 안쪽의 보안 수준이 가장 높은 구역, DB 서버나 파일 서버 등이 배치
  → 패킷 필터링으로 통신

IDS / IPS

• IDS : 침입 탐지 시스템, 방화벽으로 막을 수 없는 불법적인 통신 탐지
  • ex) 하나의 발신지 IP 주소에서 비정상적으로 많은 양의 패킷 감지
  • 수동 조치 필요 → 시간 소요, 누락 가능성
  • 알려지지 않은 공격에 대처 불가, 많은 정책 설정 시 리소스 부하로 성능 저하
• IPS : 침입 방지 시스템, IDS 를 발전시켜 네트워크에서 위협 탐지 시 자동 차단 기능
  • 자동으로 실시간 대응 가능
  • 알려지지 않은 공격에 대처 불가

항목	IDS	IPS
기능	공격 탐지	공격 탐지 & 차단
위치	네트워크 내부에서 감시	네트워크 경로에서 실시간 차단
응답 방식	경고 메시지 제공	자동 차단

UTM

• UTM : 보안 대책 시스템을 통합하여 사용할 수 있게 해주는 기술, 통합 위협 관리
  • 웹 필터링 : 유해한 웹 사이트 URL 에 열람 제한
  • 안티 바이러스 : 네트워크 들어가기 전 게이트웨이에서 바이러스 차단 가능
  • 안티 스팸 : 스팸 메일인지 확인하여 차단하거나 관리자에게 알림
  • 애플리케이션 제어 : 사전에 허용된 애플리케이션만 사용 가능

WAF

• WAF (Web Application Firewall) : 웹 애플리케이션으로 전송되는 요청 정보 분석하여 부정한 정보 포함 여부 판단
  • 탐지 패턴 등록 후 모니터링 → 알려지지 않은 공격에 대응 불가

SSL / TLS

• SSL / TLS : 인터넷상에서 데이터를 암호화하여 송수신하는 프로토콜
  • 도청 방지 : 데이터 암호화로 도청하더라도 내용은 보이지 않음
    • 공통 키 암호 방식, 공개 키 암호 방식
  • 스푸핑 방지 : 공공기관이 기업 등 조직을 신뢰할 수 있다고 인증
  • 변조 방지 : 원본 데이터를 해싱하여 변환하고 비교하여 변조 여부 판단
• HTTPS : HTTP + SSL/TLS 더한 프로토콜

VPN

• VPN : 가상화 기술을 이용하여 프라이빗 네트워크를 실현, 거점끼리 가상으로 전용선을 깔아주는 개념, 공용 네트워크(인터넷)를 통해 안전한 통신을 제공하는 기술
  
  • 데이터가 암호화된 터널을 통해 전송되므로 보안성이 강화됨
  • IPSec VPN, SSL VPN, WireGuard VPN 등의 방식 존재
  • 사용자 → VPN 서버 → 암호화된 연결 → 내부 네트워크 접근
  • 원격 근무, 해외 접속 차단 우회, 기업 내부망 접근에 활용됨
• VPN : 공용 네트워크(인터넷)를 통해 안전한 통신을 제공하는 기술

 

공통 키 암호 방식 / 공개 키 암호 방식

• 대칭키 암호화 (Symmetric Encryption, 공통 키 암호 방식) : 암호화와 복호화에 같은 키를 사용
  • 공통 키 사용 → 암호화 처리에 필요한 CPU 자원과 시간 절약
    • 빠르지만, 키를 안전하게 공유해야 하는 문제 존재
  • 키 분실 시 보안 강도 떨어짐
  • 예제 : AES, DES
  • 사용 사례 : 데이터베이스 암호화, 파일 암호화
• 비대칭키 암호화 (Asymmetric Encryption, 공개 키 암호 방식) : 공개 키와 개인 키를 이용, 한 쪽 키로 암호화한 데이터를 다른 쪽 키로 복호화
  • 공개 키 암호화 데이터가 통신 도중 유출되어도 개인 키 가진 사람만 복호화 가능
  • 공통 키 암호 방식보다 키 관리 부하가 낮다
  • 예제: RSA, ECC
  • 사용 사례: SSL/TLS(HTTPS), 디지털 서명, 전자 서명
    • 디지털 서명 : 사용자가 개인 키로 암호화한 데이터를 수신자가 사용자의 공개 키로 복호화하여 검증

→  HTTPS, VPN, SSH 등은 모두 암호화 기술을 활용하여 보안성을 높임