# AI 기업 기술력 진짜 vs 쇼, 이 신호만 보면 된다
Canonical: https://social-archive.org/yena/dmCmiz5lLx
Original URL: https://x.com/leafmeta/status/2069909991839183227
Author: Leaf Meta
Platform: x
## Content
## 1 AI 기업 기술력 진짜 vs 쇼, 이 신호만 보면 된다 - AI 워싱 (AI Washing) : AI 기능이 없거나 미약한데 "AI 탑재"를 붙여 홍보하는 관행. SEC, FTC, DOJ 3개 기관이 동시 단속 중이며 2024~2025년 실제 제재 다수 발생 - 메타인지 (Metacognition) : 자기 사고를 스스로 점검하는 능력. "내가 뭘 모르는지 아는" 능력으로, 일반 지능과는 별개의 독립된 기술 - 더닝-크루거 효과 (Dunning-Kruger Effect) : 1999년 정의된 인지 편향. 능력이 낮을수록 자기를 과대평가하고, 진짜 전문가는 한계를 인식해 "범위와 확률"로 말하는 경향 - 시스템 카드 (System Card) : 프런티어 AI 기업이 모델 출시 시 모델의 한계, 위험 영역, 못 하는 것을 공개 문서화하는 자료 AI 기업의 진짜 기술력은 "우리 이거 못 합니다"를 공개적으로 말하는 곳에서 드러난다. 왜냐하면 자기 능력의 경계를 정확히 아는 것은 메타인지, 즉 그 분야를 충분히 깊이 파봤다는 증거이기 때문이다. 반대로 "뭐든 다 됩니다"는 더닝-크루거 곡선의 맨 앞, 'Mount Stupid(아는 게 적을수록 자신감이 치솟는 구간)'에 서 있다는 신호일 수 있다. 그런데 한계를 말하는 게 왜 약점이 아니라 강점일까? 1) 인지과학이 그렇게 말한다 - 능력이 낮을수록 자기를 과대평가하고, 진짜 전문가는 오히려 "범위, 트레이드오프, 확률"로 조심스럽게 말한다 - 파인만(물리학자)도 "진보하려면 우리의 무지를 인정하고 의심의 여지를 남겨야 한다"고 했다. 과학의 본질은 확신이 아니라 잘 정돈된 의심이다 - 그가 남긴 또 다른 말, "당신이 속이기 가장 쉬운 사람은 바로 당신 자신이다" 2) 실제 AI 산업이 이미 그렇게 한다 - 프런티어 AI 기업들은 모델을 낼 때 시스템 카드(System Card)에 모델이 못 하는 것과 위험 영역을 수십, 수백 페이지로 공개한다 - 한 기업은 출시조차 하지 않은 모델의 한계와 위험을 정리한 문서를 공개하기도 했다 (확인된 사례). 능력을 과시하는 게 아니라 능력의 경계를 보여주는 쪽이 오히려 성숙의 신호로 읽힌다 - 무엇을 못 하는지 정확히 아는 조직은, 그것을 알아낼 만큼 깊이 들여다봤다는 뜻이다 3) 그래서 필터는 세 가지로 좁혀진다 - "우리 AI가 뭘 못 하는지"를 구체적으로, 검증 가능하게 말하는가 - 고객 사례가 로고 나열이 아닌 ROI(투자 대비 수익) 수치로 제시되는가 - 벤치마크 결과를 외부 기관이 재현할 수 있는가 반면에, "못 한다"는 말이 무조건 실력의 증거는 아니다. 거짓 겸손이나 영리한 마케팅일 수도 있다. 핵심은 한계를 두루뭉술하게 말하느냐, 아니면 "이 입력에서는 이 수치까지만 됩니다"처럼 구체적으로 짚어내느냐다. 어쩌면 가장 무서운 기업은 자기 약점을 가장 선명하게 아는 곳일지도 모른다. 그런 곳, 본 적 있으신가? #AIWashing #기술력평가 #메타인지 출처: * Anthropic, Claude 시스템 카드 (모델 한계와 위험 영역 공개 문서의 실제 예시) — https:// anthropic.com/news * SEC AI Washing 제재 기록 정리 (Delphia, Global Predictions, Presto Automation 사례) — https:// stoneturn.com/insight/next-g eneration-compliance-preparing-for-continued-sec-ai-washing-enforcement/ … * The Pleasure of Finding Things Out, Richard Feynman (과학에서 의심과 무지 인정의 중요성) — https:// en.wikiquote.org/wiki/Richard_F eynman … https://t.co/ns9aTU3GYU https://t.co/O0EDpwlG5a https://t.co/dGrcoej7X5 --- ## 2 "중요한 일부터"가 왜 그렇게 어려운가: 우선순위의 심리학 정리 - 아이젠하워 매트릭스 (Eisenhower Matrix) : 긴급성(시급성) & 중요도 두 축으로 업무를 네 칸에 분류하는 의사결정 프레임워크. Do, Schedule, Delegate, Delete - 단순 긴급성 효과 (Mere Urgency Effect) : 보상이 더 적어도 {{IMAGE_0}}