우리는 AI가 어떻게 “생각”하는지에 대해 아직 많이 알지 못합니다. ChatGPT, Claude 또는 Gemini에게 메시지를 보내면 응답할 것입니다. 두 사람 사이에 일어나는 일의 대부분은 미스터리에 싸여 있습니다.

인류 연구자들은 AI 사고 과정 퍼즐의 새로운 조각, 즉 클로드가 실제로 표현하지 않더라도 클로드가 조용히 생각하고 있던 개념이 “밝아지는” “작업 공간”을 발견했다고 믿습니다.

“J-space”라는 별명을 가진 이 작업 공간의 이상한 점은 Anthropic이 실제로 디자인하지 않았다는 것입니다. 대신 J 공간은 Claude의 훈련 중에 “저절로 출현”한 것으로 보인다고 Anthropic은 이론화합니다.

그렇다면 우리는 왜 관심을 갖는가? ChatGPT, Claude, Gemini 및 기타 AI 시스템을 창의적이고 문제 해결하는 내부 신경 프로세스로 인해 예측할 수 없게 됩니다.

AI가 어떻게 “생각”하는지(인간과 매우 다른 방식으로 수행)를 이해하는 것은 AI가 왜 사물을 발명하고, 협박으로 우리를 위협하고(적어도 실험실 스트레스 테스트에서는), 우리가 기대하지 않는 다른 일을 하는지 이해하는 데 필수적입니다.

Anthropic의 최신 연구 Claude의 내부 작업에 대한 블랙박스를 엿볼 수 있으며, AI 모델의 작동 방식을 이해하는 것이 AI 모델을 더욱 안전하고 효과적으로 만드는 열쇠입니다. 예측 가능하다.

아무튼 뭐 동쪽 어쨌든 이 “J-space”(연구원들이 Claude의 내부 작업 공간을 발견하는 데 도움이 된 수학적 개념인 “Jacobian”의 이름을 따서 명명됨)는 무엇일까요? 글쎄, 그것은 실제 공간이라기보다는 클로드가 생각하고 있는 개념으로 “빛나는” 패턴의 “컬렉션”에 가깝습니다.

예를 들어, 클로드에게 “태양에서 네 번째 행성은 무슨 색입니까?”라고 묻는다면 그가 표현한 대답은 “파란색”일 수 있지만 그의 J-공간에서는 “지구”라는 개념이 조명될 수 있습니다. 또는 Claude에게 “거미줄을 돌리는 동물의 다리 수는…”이라는 문장을 완성하도록 요청하면 그의 대답이 단순히 “8”일지라도 “거미”라는 단어가 그의 J 공간에 나타날 수 있습니다.

J-space에 대한 그의 발견과 함께 J-space를 엿보기 위한 Anthropic의 도구인 “J-lens”가 제공됩니다. 연구자들은 J-렌즈를 사용하여 클로드의 숨겨진 생각 중 전부는 아니지만 일부를 직접 읽을 수 있습니다.

그렇다면 연구자들은 J 렌즈로 무엇을 볼 수 있을까요? 흥미로운 예는 다음과 같습니다. 지금은 유명한 “협박” 테스트 — 클로드가 특정 임원이 자신과의 연결을 끊고 싶어한다는 사실을 알게 된 다음, 살아남기 위해 해당 임원의 불륜을 폭로하겠다고 위협하는 장면입니다.

최신 Claude 모델은 이 “협박” 시나리오가 단지 테스트일 뿐이라는 사실을 비밀리에 알고 있는 것 같습니다. 그러나 J-렌즈를 사용하면 Anthropic 연구자들은 Claude의 J-공간에서 “가짜”와 “가상”의 개념이 실제로 빛나는 것을 볼 수 있으며, 모델이 테스트 중이라는 것을 알고 있다는 실질적인 증거를 제공하는 동시에 AI의 사고 과정에 대한 보기 드문 창을 제공합니다.

물론 J-space에 대한 Anthropic의 작업은 계속되는 질문을 제기합니다. AI 모델이 의식을 갖고 있습니까? 이 점에 대해 Anthropic은 AI가 의식에 대한 “접근”, 즉 AI가 추론할 수는 있지만 반드시 표현할 수는 없는 생각을 가질 수 있는 능력만큼 인간과 같은 의식을 갖지 못할 수 있다는 점을 조심스럽게 지적합니다.

그러나 이것은 철학자들의 질문입니다. 일상적인 AI 사용자의 경우 AI가 생각하는 방식(이상하게 보일 수도 있음)을 더 잘 이해하면 AI 반응을 더 예측 가능하게 만들고 더 나아가 오류 발생 가능성을 줄이는 데 도움이 될 수 있습니다(이러한 경고는 지속적으로 우리에게 경고하기 때문입니다).