뉴스에서 "AI", "머신러닝", "딥러닝"이라는 단어가 뒤섞여 쓰입니다. 어떤 기사는 "AI가 이겼다"고 하고, 어떤 기사는 "딥러닝 모델이 뛰어나다"고 합니다. 사실 세 단어는 포함 관계입니다.
러시아의 마트료시카 인형을 떠올려 보세요. 가장 큰 인형 안에 중간 인형이, 중간 인형 안에 가장 작은 인형이 들어있습니다. AI, 머신러닝, 딥러닝이 정확히 그런 구조입니다.
AI(Artificial Intelligence, 인공지능)는 "기계가 인간처럼 지능적으로 행동하도록 만드는 기술 전반"을 뜻합니다. 1956년 다트머스 회의에서 처음 정의된 이후, AI는 크게 두 가지 방식으로 발전해 왔습니다.
초기 AI는 전문가가 직접 규칙을 프로그래밍하는 방식이었습니다. 예를 들면 이렇게요.
명확하고 설명하기 쉽지만, 규칙 밖의 상황에는 대응할 수 없습니다. "고양이 사진을 인식하라"는 미션을 규칙 기반으로 만들려면, 귀의 각도·꼬리의 길이·털의 질감 등 무한에 가까운 예외 상황을 모두 입력해야 했습니다.
"규칙을 사람이 만들지 말고, 기계가 데이터에서 스스로 찾게 하자" — 머신러닝의 탄생 아이디어
머신러닝(Machine Learning)은 "명시적으로 프로그래밍하지 않아도 데이터를 통해 스스로 학습하는 AI 기법"입니다.
| 구분 | 전통적 프로그래밍 | 머신러닝 |
|---|---|---|
| 입력 | 데이터 + 규칙 | 데이터 + 정답(레이블) |
| 출력 | 결과 | 규칙(모델) |
| 스팸 예시 | "광고" 단어 있으면 차단 → 우회 당함 | 1만 건 학습 → 미묘한 패턴 스스로 판별 |
머신러닝은 패턴을 찾는 데 탁월합니다. 이메일 스팸 필터, 넷플릭스 추천, 신용카드 이상 거래 탐지가 모두 머신러닝입니다.
하지만 한계도 있었습니다. 이미지나 음성 같은 복잡한 데이터를 처리할 때, 사람이 직접 "어떤 특징을 봐야 할지(feature engineering)"를 정의해줘야 했습니다. 이것이 어렵고 한계가 뚜렷했습니다.
딥러닝(Deep Learning)은 "인간의 뇌 신경망을 모방한 다층 구조로 데이터에서 특징을 스스로 추출하는 머신러닝"입니다.
뇌는 수십억 개의 뉴런이 서로 연결되어 정보를 전달합니다. 딥러닝은 이를 수학적으로 흉내냈습니다. "깊다(Deep)"는 것은 숨겨진 층(Hidden Layer)이 많다는 뜻입니다.
머신러닝에서는 사람이 "고양이 귀를 봐라"고 알려줘야 했습니다. 딥러닝은 수천 장의 사진을 보면서 스스로 어떤 특징이 중요한지 발견합니다. 이것이 이미지 인식, 음성 인식, 언어 이해에서 딥러닝이 압도적인 이유입니다.
| 구분 | AI | 머신러닝 | 딥러닝 |
|---|---|---|---|
| 등장 시기 | 1956년 | 1980~90년대 | 2012년 이후 주류화 |
| 핵심 방식 | 규칙 or 학습 | 데이터로 패턴 학습 | 신경망으로 자동 특징 추출 |
| 특징 추출 | 사람이 설계 | 사람이 설계 | 기계가 자동으로 |
| 잘하는 것 | 논리, 탐색 | 분류, 예측, 추천 | 이미지, 음성, 언어 |
| 한계 | 복잡한 현실 대응 어려움 | 특징 설계가 어려움 | 데이터·연산 많이 필요 |
| 대표 사례 | 체스 프로그램, 전문가 시스템 | 스팸 필터, 추천 알고리즘 | ChatGPT, 얼굴 인식 |