순환신경망 RNN - 텐서플로 코드로 동작 원리 쉽게 이해

 

딥러닝을 공부하다 보면 CNN, RNN, LSTM, Transformer와 같은 여러 신경망 구조를 만나게 된다. 그중 RNN은 시간 순서가 있는 데이터를 처리하기 위해 만들어진 대표적인 딥러닝 모델이다. 텍스트, 음성, 주가, 센서 데이터처럼 앞뒤 흐름이 중요한 데이터를 다룰 때 RNN의 개념을 이해하는 것은 매우 중요하다.

 

이번 글에서는 텐서플로 RNN 코드를 직접 실행할 수 있는 형태로 살펴보고, RNN이 어떤 원리로 동작하는지 쉽게 정리한다. 복잡한 이론보다 “왜 RNN이 필요한가”, “코드에서는 어떻게 구현하는가”, “결과를 어떻게 해석하는가”에 초점을 맞춘다.

 

RNN이 필요한 이유

일반적인 신경망은 입력 데이터 하나를 독립적으로 처리한다. 예를 들어 이미지 분류 모델은 한 장의 이미지를 보고 고양이인지 강아지인지 판단한다. 하지만 문장이나 시계열 데이터는 다르다.

 

예를 들어 “나는 오늘 날씨가 좋아서 공원에 갔다”라는 문장을 이해하려면 단어 하나만 보면 안 된다. 앞에서 나온 단어들이 뒤의 의미에 영향을 준다. 이처럼 이전 정보가 현재 판단에 영향을 주는 구조가 필요할 때 사용하는 모델이 RNN이다.

 

RNN은 Recurrent Neural Network의 약자로, 순환 신경망이라고 부른다. 이름 그대로 이전 단계의 정보를 다음 단계로 전달하면서 데이터를 처리한다.

 

RNN의 핵심 개념

RNN은 입력 데이터를 한 번에 모두 처리하지 않고 순서대로 처리한다. 첫 번째 입력을 처리한 결과를 기억하고, 두 번째 입력을 처리할 때 이전 기억을 함께 사용한다. 이러한 기억 정보를 hidden state라고 한다.

 

쉽게 말하면 RNN은 문장을 읽을 때 단어를 하나씩 읽으면서 앞에서 읽은 내용을 내부 상태에 저장하는 구조다.

 

예를 들어 다음과 같은 숫자 흐름이 있다고 가정한다.

1, 2, 3, 4

 

일반 신경망은 각각의 숫자를 따로 볼 수 있지만, RNN은 1 다음에 2가 오고, 그다음 3이 오는 흐름을 학습할 수 있다. 그래서 다음 값 예측, 문장 분류, 감정 분석, 자연어 처리 등에 활용된다.

 

텐서플로로 구현하는 간단한 RNN 예제

아래 코드는 텐서플로를 사용하여 간단한 RNN 모델을 학습하는 예제다. 목표는 숫자 시퀀스를 보고 다음 값을 예측하는 것이다.

from tensorflow.keras.layers import Input, SimpleRNN, Dense
from tensorflow.keras.models import Sequential
import tensorflow as tf
import os

# TensorFlow 로그 레벨 설정
os.environ["TF_CPP_MIN_LOG_LEVEL"] = "2"
os.environ["TF_ENABLE_ONEDNN_OPTS"] = "0"

# 데이터셋 생성 함수
def make_dataset(start=1, end=100):
    x_data = []
    y_data = []

    for i in range(start, end - 3):
        x_data.append([
            [i / 100.0],
            [(i + 1) / 100.0],
            [(i + 2) / 100.0],
        ])
        y_data.append([(i + 3) / 100.0])

    return tf.constant(x_data, dtype=tf.float32), tf.constant(y_data, dtype=tf.float32)

# 데이터셋 생성
x_train, y_train = make_dataset(1, 100)

# RNN 모델 구성
model = Sequential([
    Input(shape=(3, 1)),
    SimpleRNN(32, activation="tanh"),
    Dense(16, activation="relu"),
    Dense(1)
])

# 모델 컴파일
model.compile(
    optimizer=tf.keras.optimizers.Adam(learning_rate=0.01),
    loss="mse"
)

# 모델 학습
model.fit(
    x_train,
    y_train,
    epochs=1000,
    verbose=0
)

# 테스트 데이터 생성 및 예측
test_input = tf.constant([[
    [7 / 100.0],
    [8 / 100.0],
    [9 / 100.0],
]], dtype=tf.float32)

# 예측 수행
prediction = model.predict(test_input, verbose=0)

# 예측 결과 출력
print("입력 데이터:", [7, 8, 9])
print("예측 결과:", prediction[0][0] * 100)

 

실행 결과:

입력 데이터: [7, 8, 9]
예측 결과: 10.019422

 

모델 학습이 정상적으로 이루어졌다면 [7, 8, 9]를 입력했을 때 10에 가까운 값이 출력된다. 딥러닝 모델은 수식을 직접 입력받는 것이 아니라 데이터를 통해 패턴을 학습하므로 결과가 정확히 10이 아니라 9.8 또는 10.1처럼 나올 수 있다.

 

이 점이 머신러닝과 일반 프로그래밍의 차이다. 일반 프로그래밍은 규칙을 사람이 직접 작성하지만, 머신러닝은 데이터에서 규칙을 모델이 학습한다.

 

 

RNN의 한계와 LSTM, GRU

RNN은 순서가 있는 데이터를 처리할 수 있다는 장점이 있지만, 긴 시퀀스를 학습할 때 한계가 있다. 문장이 길어지거나 데이터 흐름이 복잡해지면 앞부분의 정보를 뒤까지 잘 전달하지 못하는 문제가 발생한다. 이를 장기 의존성 문제라고 한다.

 

이 문제를 개선하기 위해 LSTM과 GRU가 등장했다. LSTM은 중요한 정보를 오래 기억하고 불필요한 정보는 버릴 수 있도록 설계된 구조다. GRU는 LSTM보다 구조가 단순하면서도 비슷한 성능을 낼 수 있는 모델이다.

 

RNN은 개념 학습용으로 적합하고, 실제 자연어 처리나 시계열 예측에서는 LSTM, GRU, Transformer를 함께 검토하는 것이 좋다.

 

정리

텐서플로 RNN은 순서가 있는 데이터를 처리하기 위한 기본적인 딥러닝 구조다. 숫자 시퀀스 예측 예제를 통해 보면 RNN은 이전 입력의 흐름을 기억하면서 다음 결과를 예측한다.

 

RNN을 이해하면 LSTM, GRU, Transformer 같은 고급 모델을 이해하는 기반이 된다. 특히 자연어 처리, 시계열 분석, 음성 데이터 처리처럼 시간 흐름과 문맥이 중요한 분야를 공부한다면 RNN의 동작 원리를 먼저 익히는 것이 효과적이다.

 

핵심은 단순하다. RNN은 데이터를 순서대로 읽고, 이전 정보를 기억하며, 그 기억을 바탕으로 다음 결과를 예측하는 신경망이다.