AI는 생각보다 '중립적'이지 않다.
이번 주 The Economist는 흥미로운 질문을 던진다. 같은 고민을 ChatGPT, DeepSeek, Gemini, Mistral에 물으면 서로 다른 조언을 내놓는다. 이는 단순한 모델 성능 차이가 아니라 학습 데이터와 정렬(Alignment)에 의해 형성된 서로 다른 가치관의 결과다.
AI의 편향은 학습 데이터에서 끝나지 않는다. 모델은 후속 학습 과정에서 인간 피드백과 안전 정책, 헌법(Constitution), Character Training 등을 거치며 개발사의 의도와 규범을 내재화한다. 같은 모델이라도 질문 언어가 바뀌면 답변 성향이 달라질 수 있다는 점도 중요한 시사점이다.
투자 관점에서도 의미가 크다. 앞으로 AI 경쟁은 단순히 누가 더 똑똑한 모델을 만드는지가 아니라, 어떤 가치 체계와 신뢰성을 제공하는지가 핵심 차별화 요소가 될 가능성이 높다. AI Safety, 평가(Evaluation), 거버넌스 시장도 함께 성장할 수 있다.
한 줄 요약
"AI 경쟁의 다음 전장은 성능이 아니라, 가치관(Alignment)이다."