Fully Connected Network완전 연결 신경망

완전 연결 신경망(Fully Connected Network, FNN)은 인접한 두 층의 모든 뉴런 쌍이 가중치로 연결된 인공신경망 구조다. Dense 네트워크 또는 다층 퍼셉트론(MLP, Multi-Layer Perceptron)이라고도 불린다. 각 뉴런은 이전 층의 모든 뉴런으로부터 입력을 받아 가중합을 계산하고 활성화 함수를 통과시켜 출력을 낸다.

구조와 파라미터

입력층이 n개, 은닉층이 m개의 뉴런을 가질 때 두 층 사이의 가중치 행렬은 n×m 크기이고 편향 벡터는 m차원이다. 따라서 파라미터 수는 m(n+1)이 된다. 층이 깊어지고 너비가 넓어질수록 파라미터 수가 급격히 증가한다. 이미지를 입력으로 받을 경우 픽셀 수가 곧 입력 크기가 되어 고해상도 이미지에서는 파라미터 폭발이 문제가 된다. 합성곱 신경망(CNN)은 이 문제를 가중치 공유로 해결한다.

드롭아웃과 L2 정규화는 완전 연결 신경망의 과적합을 방지하는 데 가장 흔히 사용되는 기법들이다. 배치 정규화는 각 층의 출력을 정규화해 훈련 안정성을 높인다.

적합한 데이터와 활용

완전 연결 신경망은 공간적 구조나 순서 의존성이 없는 정형 데이터(tabular data) 처리에 가장 자연스럽게 적합하다. CNN이나 트랜스포머 같은 특수 아키텍처들도 최종 분류 또는 회귀 단계에서 완전 연결층을 헤드(head)로 사용하는 경우가 많다. 표현 학습 분야에서는 오토인코더의 인코더-디코더 구조에도 활용된다.