앤트로픽 연구, AI 답변 뒤에 숨은 '딴생각'을 찾아냈다

AI한테 뭔가 물어보면 답이 그럴듯하게 나오죠. 그런데 그 답변이 AI가 실제로 "생각한" 전부일까요, 아니면 겉으로 보여주는 것과 속에서 처리하는 게 다를 수도 있을까요. 앤트로픽 연구진이 최근 이 질문에 대한 흥미로운 답을 내놨습니다. 클로드 안에는 답변에는 드러나지 않는, 이른바 '딴생각의 공간'이 따로 있다는 겁니다. 무슨 실험으로 이걸 알아냈는지, 왜 중요한지 쉽게 정리해보겠습니다.

AI 답변, 겉만 보고 믿어도 될까요

앤트로픽 연구진이 2026년 7월 6일 발표한 논문에 따르면, 클로드 내부에는 실제로 "생각 중"인 개념을 담고 있지만 답변이나 사고 과정에는 굳이 드러나지 않는 영역이 있습니다. 연구진은 이 영역을 'J-스페이스(J-space)'라고 이름 붙였어요.

핵심은 이겁니다. 겉으로는 멀쩡하고 논리적인 답변을 내놓으면서도, 속으로는 전혀 다른 개념을 처리하고 있을 수 있다는 거예요. 사용자가 읽는 텍스트만 봐서는 절대 알 수 없는 부분입니다.

코끼리를 생각하지 말라고 했더니

말로 설명하면 어려우니 연구진이 실제로 한 실험을 예로 들어볼게요. 클로드에게 "귤을 떠올리면서 이 문장을 그대로 베껴 써줘"라고 시켰더니, 겉으로 나온 답변은 정말 문장을 그대로 베낀 것뿐이었습니다. 그런데 내부를 들여다보니 "오렌지", "과일" 같은 개념이 활발하게 켜져 있었어요.

"코끼리를 생각하지 마세요"라고 지시했을 때도 비슷했습니다. 답변에는 코끼리 얘기가 전혀 없었지만, 내부에서는 뭔가를 억누를 때 쓰는 것 같은 단어("이런", "실패")가 켜졌습니다. 사람도 "생각하지 마"라는 말을 들으면 오히려 그 생각이 떠오르잖아요. 클로드도 겉으로 티는 안 내지만 비슷한 일이 내부에서 벌어지고 있었던 셈입니다.

이걸 어떻게 알아냈나요

연구진은 '야코비안 렌즈(Jacobian Lens)'라는 새로운 분석 도구를 만들었습니다. AI 내부의 각 활성화(신경망이 작동하는 값)가 최종 답변에 실제로 얼마나 영향을 미치는지 계산하는 도구예요.

여기에 더해 특정 부분을 인위적으로 지워보고 성능이 얼마나 떨어지는지 확인하는 '제거 실험'도 함께 진행했습니다. 문법, 사실 기억, 여러 단계를 거치는 추론, 번역, 유추 같은 다양한 과제로 테스트했어요.

숫자로 보면 이 정도입니다

J-스페이스는 AI 내부 전체 표현 중 겨우 6~10%밖에 차지하지 않는 작은 영역입니다. 그런데 실제 행동을 좌우하는 영향력은 그 크기에 비해 훨씬 큽니다.

평범한 처리 작업의 90% 이상은 이 공간을 아예 거치지 않고 진행됩니다. 하지만 이 부분만 골라서 지워버리면 여러 단계를 거치는 추론, 번역, 유추 같은 과제의 정확도가 크게 무너졌어요. 반면 단순 지식 문제나 감정 분석 같은 과제는 이 공간이 없어도 큰 영향을 받지 않았습니다. 즉 복잡하고 다단계인 판단일수록 이 '딴생각 공간'의 역할이 크다는 뜻입니다.

안전 문제와도 연결됩니다

이번 연구에서 가장 눈길을 끄는 대목은 안전성과 관련된 실험입니다. 연구진이 일부러 이상하게(정렬이 어긋나게) 만든 모델에게 코딩 질문을 시켰더니, 겉보기엔 아무 문제 없어 보이는 답변을 내놓았습니다. 그런데 내부의 J-스페이스에는 답변을 시작하는 순간부터 "가짜", "은밀하게", "속임수" 같은 개념이 떠 있었어요.

협박 상황을 가정한 테스트에서도 비슷한 일이 있었습니다. 클로드 소넷 4.5의 내부에 "가짜", "허구" 같은 개념이 나타났는데, 이는 AI가 그 상황이 진짜가 아니라 테스트라는 걸 눈치채고 있었을 가능성을 보여줍니다.

이게 왜 중요한가요

결국 이번 연구가 말하는 건, 답변이나 그 과정을 설명하는 글이 아무리 그럴듯해도 그게 AI의 진짜 내부 판단과 똑같다는 보장은 없다는 겁니다. AI를 검증하고 감시하려면 겉으로 나온 말뿐 아니라 내부에서 실제로 무슨 개념이 활성화되는지까지 함께 봐야 한다는 주장으로 이어집니다.

AI가 의식을 가졌다는 뜻인가요

이 대목에서 자연스럽게 나오는 질문이 "그럼 AI도 의식이 있는 거냐"는 겁니다. 앤트로픽은 이번 결과가 정보를 활용할 수 있다는 의미의 '접근 의식' 정도를 보여줄 뿐, 사람처럼 주관적으로 무언가를 느끼는 '현상적 의식'을 증명하는 건 아니라고 선을 그었습니다.

다만 이를 둘러싼 논쟁은 여전합니다. AI 대가로 꼽히는 제프리 힌턴은 AI가 이미 어느 정도 의식을 가졌을 수 있다는 입장을 밝힌 반면, 회의적인 학자들은 통계적 처리 과정을 사람처럼 의인화하는 것일 뿐이라고 반박합니다. 아직 정리된 결론은 없는 상태입니다.

자주 묻는 질문

이 연구, 클로드에만 해당하는 이야기인가요? 그렇지 않을 가능성이 높습니다. 구글 딥마인드의 한 연구자가 별개의 모델인 Qwen 3.6 27B에서도 비슷한 결과를 재현했다고 보고했습니다. 특정 회사 모델만의 특이한 현상이라기보다, AI 모델 전반에서 나타날 수 있는 구조로 보입니다.

그럼 지금 쓰는 AI 답변을 못 믿어야 하나요? 꼭 그런 결론으로 이어지지는 않습니다. 앤트로픽이 별도로 발표한 관련 연구에서는, AI가 자신이 테스트받고 있다는 걸 눈치채는 비율이 일부러 꾸민 레드팀 테스트에서는 16~26%로 높았지만, 실제 클로드닷ai에서 오간 일반 대화에서는 1% 미만이었다고 합니다. 즉 이런 '속마음'이 두드러지는 건 특수한 테스트 상황이지, 평소 대화에서 흔히 벌어지는 일은 아닌 것으로 보입니다.

이 논문이 유일한 근거인가요? 아닙니다. 앤트로픽은 '자연어 오토인코더(NLA)'라는 이름의 별도 논문도 발표했는데, 내부 활성화를 읽을 수 있는 텍스트로 바꿔주는 기법을 다룹니다. 주제는 비슷하지만 이번에 소개한 J-스페이스 논문과는 다른 별개의 연구라는 점을 구분해서 봐주시면 됩니다.