짐 켈러(Jim Keller)는 현대 반도체 산업에서 가장 영향력 있는 CPU 설계자 중 한 명으로 손꼽힌다. AMD의 젠(Zen) 아키텍처를 설계하고, 애플과 테슬라, 인텔, 그리고 최근 AI 반도체 스타트업인 텐스토렌트(Tenstorrent)에서까지 주요 기술 개발을 주도한 그는, ‘한 회사의 영웅’이 아닌, 반도체 생태계 전체를 리빌딩하는 설계자로서 독보적인 경력을 쌓아왔다.
특히 켈러는 단순히 칩 하나를 만드는 엔지니어가 아니라, 시스템 아키텍처 전체를 재구성하고, 기업의 기술 방향을 근본부터 전환시키는 전략가이자 기술 리더다. 그의 설계가 적용된 CPU들은 수많은 PC와 모바일 기기의 성능을 바꾸었고, AI 및 엣지 컴퓨팅 시대의 요구에 맞춰 전통적인 프로세서 구조를 재해석하는 데에도 큰 역할을 했다.
켈러는 언제나 기술적으로 복잡한 구조 속에서도 단순하고 효율적인 설계 원칙을 강조해 왔다. 복잡함을 단순화하고, 비효율을 제거하며, 아키텍처의 본질을 되살리는 그의 방식은 현대 반도체 설계의 철학적 기준이 되었다. 특히 그는 성능뿐만 아니라, 에너지 효율, 확장성, 유연성을 고려한 프로세서 아키텍처를 통해 기술 산업 전반에 큰 영향을 미쳤다.
본 글에서는
- 짐 켈러의 커리어 전개와 주요 아키텍처 설계 사례
- 기업 구조 혁신과 기술 리더십
- AI 시대의 반도체 전략과 텐스토렌트에서의 활동
을 중심으로, 그의 기술 철학과 산업적 기여를 심층 분석한다.
설계의 거장, 짐 켈러의 커리어와 아키텍처 혁신
짐 켈러(Jim Keller)의 이름은 반도체 업계에서 거의 전설처럼 회자된다. 엔지니어이자 칩 아키텍트로서, 그는 현대 CPU 설계 역사에서 가장 핵심적인 전환점을 이끈 인물 중 하나다. 30여 년간 AMD, 애플, 테슬라, 인텔, 그리고 최근의 텐스토렌트에 이르기까지 주요 기술 기업의 핵심 설계를 주도해 온 그는 단순한 ‘하드웨어 전문가’의 범주를 넘어서, 전략가이자 기술 철학자, 더 나아가 산업 구조의 재편을 가능하게 하는 엔지니어로 자리매김하고 있다.
짐 켈러의 커리어는 1980년대 말 DEC(Digital Equipment Corporation)에서 시작되었다. 여기서 그는 Alpha 프로세서 개발에 참여하며 고성능 RISC 아키텍처의 기초를 익혔다. 이후 AMD에 합류하여 K7(애슬론) 아키텍처 개발에 핵심 역할을 했고, 2003년에는 K8 아키텍처—64비트 AMD64 명령어 세트를 포함하는 설계—의 주도적인 설계자로서 AMD를 인텔과의 경쟁 구도에 본격적으로 진입시킨 인물로 주목받았다. 이는 단순히 성능 향상을 넘어서, x86 시장 전체의 방향성을 바꾸는 결정적 계기가 되었다.
켈러의 기술적 영향력이 정점을 찍은 순간은 두 번째 AMD 합류기(2012~2015)였다. 이 시기 그는 오랜 침체에 빠져 있던 AMD에 복귀하여 Zen 아키텍처를 설계하며 다시 한번 산업 판도를 뒤흔들었다. 당시 AMD는 인텔과의 성능 격차로 인해 고급 시장에서 밀려나 있었고, 주가와 신뢰도 모두 하락세였다. 그러나 짐 켈러는 설계 철학을 근본부터 재정립했다. 단순한 IPC(Instruction per Clock) 향상만이 아니라, 효율성, 확장성, 전력 대비 성능이라는 총체적인 관점에서 CPU 구조를 재설계했으며, 결과적으로 Zen은 Ryzen 브랜드를 통해 시장에서 폭발적인 반응을 일으켰다.
그가 Zen 아키텍처를 통해 도입한 주요 설계 원칙은 다음과 같다. 첫째, 모듈화 된 코어 구조(Multi-Chip Module), 둘째, 파이프라인 깊이 최적화 및 예측 정확도 향상, 셋째, 캐시 설계와 메모리 병목 개선, 그리고 마지막으로 전력 소비를 고려한 세부 최적화였다. 이 모든 것은 단순히 고성능을 목표로 한 것이 아니라, ‘균형 잡힌 고효율 설계’라는 켈러 특유의 철학이 반영된 결과였다. Zen은 이후 수 차례의 진화를 거치며 AMD를 다시 인텔과 어깨를 나란히 하는 위치로 되돌려놓았고, 이는 짐 켈러의 전략적 판단이 실리콘 하나에 담겨 있는 대표적인 사례로 남아 있다.
AMD 이후 그는 애플로 자리를 옮겼다. 이 시점에서 켈러는 단지 데스크톱 CPU 설계에 국한되지 않고, 모바일 및 통합형 SoC(System on Chip) 설계로 관심을 확장했다. 애플에서는 A4와 A5 칩 설계에 참여하면서, 모바일 프로세서가 단순한 저전력용이 아니라 고성능과 통합 아키텍처의 방향성을 갖춰야 한다는 관점을 설계에 반영했다. 이 시기의 경험은 이후 전기차나 AI 반도체 설계에도 큰 기반이 되었으며, SoC 설계와 CPU의 융합이 본격적으로 논의되는 시기의 핵심 토대를 마련했다.
테슬라에서는 AI 자율주행 관련 하드웨어(HW3)의 초기 구조 설계에 관여했으며, 인텔에서는 7nm 아키텍처 전환과 새 프로세서 설계 구조 검토를 담당했다. 이 모든 과정에서 켈러가 중심에 둔 원칙은 “기술은 복잡해지지만, 설계는 단순해야 한다”는 것이었다. 그는 불필요한 기능을 걷어내고, 코어 구조와 메모리, 인터커넥트, 캐시 아키텍처를 통합적으로 바라보며 시스템 단위의 최적화를 수행하는 데 집중했다.
결국 짐 켈러의 커리어는 단순한 기술 자산의 누적이 아니라, ‘설계를 통해 산업을 바꾸는 전략적 사고’의 집합이라고 볼 수 있다. 그는 CPU를 설계할 때마다 해당 기업의 기술 방향성을 재정비했고, 아키텍처의 철학을 조직 전체에 녹여냈으며, 이는 단지 제품 하나의 성공을 넘어서 기업 전체의 체질을 변화시키는 계기로 작용했다. 오늘날 많은 기술 기업들이 짐 켈러를 단지 설계 엔지니어가 아닌 기술 기반의 구조 혁신가로 평가하는 이유도 여기에 있다.
기술 리더십과 기업 구조의 재편
짐 켈러는 반도체 설계자로서 뛰어난 기술적 성과를 남긴 인물이지만, 그를 단순한 ‘천재 엔지니어’로만 설명하는 것은 부족하다. 그의 진정한 영향력은 설계 그 자체를 넘어, 기술을 중심으로 기업의 구조와 전략을 바꿔낸 리더십에서 드러난다. 짐 켈러는 각 기업에 합류할 때마다 단순히 특정 제품이나 칩을 설계한 것이 아니라, 기술조직의 체질을 바꾸고, 장기적 로드맵을 수립하며, 엔지니어링 문화 전반에 근본적인 변화를 일으켜 왔다.
그의 리더십은 몇 가지 측면에서 기존 경영자들과 뚜렷이 구분된다. 첫째, 그는 경영과 기술을 분리하지 않는다. 많은 기업에서 기술팀은 R&D 부서로 취급되어, 경영 전략과 일정이 먼저 정해진 후 그에 맞춰 실행되는 구조를 갖는다. 그러나 짐 켈러는 기술 전략 그 자체가 곧 경영 전략이라고 본다. 그는 엔지니어 출신임에도, 제품 로드맵, 시장 대응, 인력 구성, 개발 문화까지 조직 전체를 관통하는 기술 기반 전략 수립자로 기능한다. 이 점은 그가 인텔이나 테슬라 같은 대기업에 들어갔을 때 더욱 선명하게 드러났다.
예를 들어, 2018년 인텔에 합류했을 당시, 인텔은 10nm 공정 문제로 인해 경쟁사 AMD에 기술 우위를 내주고 있던 상태였다. 설계 효율성은 떨어지고, 기술 조직은 관료화되어 있었으며, 창의적 접근보다는 관리적 대응이 우선시되는 분위기가 팽배했다. 짐 켈러는 이런 상황에서 인텔의 CPU 아키텍처 팀을 재편하고, 전사적으로 설계와 아키텍처의 방향성을 재정립하는 작업을 수행했다. 그는 단순한 성능 지표보다 설계의 모듈화, 유연성, 그리고 미래 확장 가능성을 중시했고, 이를 중심으로 설계팀의 사고방식을 변화시키려 했다. 그는 고위 경영진과 협력하면서도, 직접 엔지니어들과 일하며 ‘설계자의 언어로 경영에 참여’했다.
그는 특히 조직 내 커뮤니케이션 구조에 민감했다. 빠르게 변화하는 기술 환경에서는 의사결정의 속도와 유연성이 중요한데, 많은 전통 기업들은 여전히 수직적 명령 체계와 과도한 문서화에 의존하고 있었다. 켈러는 이런 비효율을 줄이기 위해 기술 중심의 자율적 팀 문화를 강조했다. 핵심은 ‘최고의 설계는 탑다운이 아닌, 설계자들의 논리적 합의에서 나온다’는 믿음이다. 그는 불필요한 회의를 줄이고, 핵심 기술 토론을 활성화시키며, 의사결정 권한을 기술자들에게 이양하는 방식으로 기술 조직을 재편했다.
이러한 리더십은 테슬라에서도 그대로 드러난다. 짐 켈러는 테슬라에서 자율주행 전용 칩 ‘HW3’ 개발의 초기 구조를 설계하며, 소프트웨어 중심의 AI 기술과 하드웨어 아키텍처의 긴밀한 통합을 추구했다. 테슬라는 기존 차량 제조사들과 달리, 자체 칩 설계를 통해 자율주행 알고리즘에 최적화된 하드웨어를 만들고자 했다. 이때 짐 켈러는 단순한 설계 기술 제공자가 아니라, 소프트웨어팀과 하드웨어팀을 연결하고, 경영진에게 기술적 선택의 의미를 설명하는 ‘조율자’로서의 역할을 수행했다. 기술 간 경계를 넘나들며 조직을 통합하는 방식은, 켈러 특유의 리더십을 상징하는 대목이다.
그는 또한 채용과 팀 빌딩에서도 독특한 접근법을 취한다. 전통적인 이력서 중심 평가가 아닌, 문제 해결 능력, 구조적 사고, 장기적 시스템 이해를 중시하며, 복잡한 기술을 단순하게 설명할 수 있는 인재를 선호한다. 이는 짐 켈러 본인의 철학이기도 하다. 그는 “복잡한 시스템은 누구나 설계할 수 있지만, 단순하고 강력한 시스템은 이해와 철학이 있어야 한다”라고 말한다. 이런 철학은 팀 구성, 프로젝트 선정, 심지어 조직 문화까지 관통한다.
특히 기술자들의 사고방식을 근본적으로 바꾸는 데 집중하는 그의 리더십은 단기 성과보다는 장기적인 기술 역량 강화를 목표로 한다. 짐 켈러가 어떤 기업에 참여하면, 단기간에 완성되는 제품 하나보다는, 5년, 10년을 내다본 설계 인프라와 로드맵이 형성된다. 이런 점에서 그는 단순한 프로젝트 수행자가 아닌, 조직의 기술적 미래를 재구성하는 구조 설계자다.
결국 짐 켈러의 기술 리더십은 기술과 경영, 아키텍처와 전략 사이에 존재하는 벽을 허무는 작업이었다. 그는 기술자가 기술에만 머물지 않고, 기술의 언어로 기업을 이해하고 리드할 수 있다는 것을 보여주었으며, 그의 방식은 이후 반도체 산업은 물론, AI, 자율주행, 엣지 컴퓨팅 등 다양한 영역의 기술 리더들에게 깊은 영향을 주고 있다.
AI 시대의 반도체 전략과 텐스토렌트의 실험
2020년대에 접어들며 반도체 산업은 다시 한번 거대한 전환기를 맞이하고 있다. 전통적인 CPU 중심의 컴퓨팅에서 벗어나, AI 모델을 처리할 수 있는 대규모 병렬 처리 아키텍처, 데이터 이동 최소화, 에너지 효율 중심 설계가 핵심 이슈로 부상하고 있다. 이 과정에서 짐 켈러는 다시 한번 새로운 도전에 뛰어들었고, 그의 선택은 기존 대기업이 아닌 스타트업, 캐나다 기반의 AI 반도체 기업 텐스토렌트(Tenstorrent)였다.
텐스토렌트는 단순한 AI 가속기 칩 회사가 아니다. 이 회사는 컴퓨팅 패러다임을 근본부터 바꾸는 것을 목표로 한다. 즉, 기존의 CPU-GPU 기반 아키텍처가 한계에 도달한 상황에서, AI 워크로드에 최적화된 새로운 프로세서 아키텍처를 설계하고, 이를 통해 데이터 센터, 엣지 디바이스, 자율주행, 로보틱스 등 다양한 환경에서 성능과 효율성을 동시에 확보하려는 접근을 취한다. 짐 켈러는 이 기업의 CEO로 합류하며 기술적 방향뿐 아니라 경영 전략까지 이끌고 있다.
텐스토렌트의 핵심 철학은 ‘컴퓨팅의 재구성’이다. 현대의 AI 워크로드는 전통적인 순차처리 방식이나 명령어 기반 프로세서로는 감당할 수 없을 만큼 방대한 연산과 메모리 대역폭을 요구한다. 짐 켈러는 이러한 구조적 한계를 해결하기 위해, 모듈화 된 병렬 컴퓨팅 구조, 데이터 흐름 중심 설계, 유연한 명령 처리 방식 등을 적용한 아키텍처를 개발하고 있다. 이는 단순히 AI 모델을 더 빠르게 처리하는 문제가 아니라, 컴퓨팅 구조 자체를 AI 시대에 맞게 다시 설계하겠다는 선언에 가깝다.
텐스토렌트의 칩은 AI 연산에 특화된 텐서 처리 유닛(TPU)과 유사한 구조를 갖고 있지만, GPU와는 다르게 유연성과 확장성에 강점을 둔다. 켈러는 이를 통해 다양한 형태의 AI 모델과 추론, 학습, 엣지 연산까지 모두 지원할 수 있도록 하겠다는 전략을 제시하고 있다. 특히 그는 “모든 장치는 AI를 필요로 하지만, 모든 장치가 엔비디아 칩을 쓸 수는 없다”라고 말하며, 범용성과 접근성이 뛰어난 AI 하드웨어 생태계 구축을 강조한다.
흥미로운 점은, 짐 켈러가 단순히 하드웨어만 설계하지 않는다는 것이다. 그는 AI 컴퓨팅 환경에서 소프트웨어와 하드웨어의 통합을 매우 중요하게 생각한다. 이를 위해 텐스토렌트는 자체적인 소프트웨어 스택과 컴파일러 최적화, ML 프레임워크와의 통합 구조를 설계하고 있으며, 개발자들이 기존 생태계(Google Tensor Flow, PyTorch 등)에서 쉽게 접근할 수 있도록 하는 데도 집중하고 있다. 이는 엔비디아가 CUDA로 소프트웨어 생태계를 장악한 것처럼, 소프트웨어-하드웨어 통합 전략 없이는 AI 반도체 시장에서 성공할 수 없다는 켈러의 통찰이 반영된 결과다.
이와 함께 켈러는 오픈 컴퓨팅 철학도 강조한다. 그는 특정 벤더나 플랫폼에 종속되지 않고, 유연하게 다양한 환경에서 작동할 수 있는 설계가 향후 AI 반도체의 표준이 되어야 한다고 본다. 이는 클라우드 벤더, 엣지 디바이스 제조사, 산업용 로봇 기업 등 다양한 이해관계자들이 각각의 목적에 따라 AI 성능을 극대화할 수 있도록 지원하려는 전략이다. 짐 켈러는 이 과정을 “범용성을 확보한 고성능 AI 설계”라고 요약하며, 단순한 연산 성능이 아닌 적응성과 효율성 중심의 경쟁력을 추구한다.
또한 텐스토렌트는 AI 반도체 설계와 함께, RISC-V 기반 CPU 아키텍처 개발에도 적극적으로 나서고 있다. RISC-V는 오픈소스 명령어 집합 아키텍처로, 기존 x86이나 ARM에 비해 자유로운 설계가 가능하다. 켈러는 RISC-V의 가능성에 대해 오랫동안 언급해 왔으며, 이를 통해 AI와 범용 컴퓨팅을 통합한 새로운 형태의 SoC(System on Chip)를 설계하는 데 주력하고 있다. 이는 AI와 일반 연산의 경계를 허물고, 차세대 컴퓨팅 환경에서의 주도권을 확보하려는 전략적 시도로 해석할 수 있다.
짐 켈러는 이 과정을 단순한 시장 확장 전략이 아니라, 기술적 진화의 필연으로 바라본다. 그는 “AI가 앞으로의 소프트웨어를 지배할 것이라면, 그에 맞는 하드웨어 역시 함께 진화해야 한다”라고 말한다. 그리고 이 진화는 기존의 CPU-GPU 이분법이 아니라, 새로운 연산 단위, 새로운 데이터 흐름, 새로운 시스템 구조로 이뤄져야 한다는 것이다.
텐스토렌트에서의 그의 실험은 아직 진행 중이다. 하지만 AI 반도체의 방향성과 가능성, 그리고 기존 설계 패러다임의 한계를 넘어서려는 그의 시도는 현대 반도체 산업이 맞이한 가장 본질적인 질문을 던지고 있다. 단순히 더 빠르고, 더 작고, 더 강력한 칩을 만드는 것이 아니라, 무엇을 위한 설계를 할 것인가, 그리고 그 설계가 세상을 어떻게 바꿀 것인가라는 질문이다.
결론
짐 켈러는 단지 반도체 설계를 잘하는 뛰어난 엔지니어를 넘어, 산업 구조 자체를 재설계하는 혁신 가다. 그의 커리어는 AMD, 애플, 테슬라, 인텔, 텐스토렌트에 이르기까지 단순한 이직이 아니라, 매 순간 기술 업계의 핵심 변곡점에서 결정적인 아키텍처 전환을 이끌어낸 연속된 움직임이었다. 그는 기술적 난제를 해결하면서도, 그것을 기업의 전략, 조직 문화, 산업 트렌드와 연결시키는 데 탁월했다. 그리고 그 중심에는 언제나 한 가지 철학이 있었다. “복잡한 것은 단순하게, 불가능해 보이는 것은 가능하게.”
켈러가 설계한 Zen 아키텍처는 AMD의 부활을 이끌었고, A 시리즈 칩은 애플의 모바일 하드웨어 역량을 강화시켰으며, 자율주행 칩 설계는 테슬라의 독립적인 AI 하드웨어 전략을 가능케 했다. 그 모든 작업에는 단지 높은 성능을 구현하는 데 그치지 않고, ‘앞으로 다가올 기술적 요구에 어떻게 대비할 것인가’라는 장기적인 비전과 구조적 사고가 내재되어 있었다.
인텔에서는 수년간 고착되어 있던 아키텍처 혁신의 정체를 흔들었고, 현재 텐스토렌트에서는 AI 시대에 걸맞은 전혀 새로운 컴퓨팅 구조를 실험하고 있다. 그가 반복해서 보여준 행보는, 결국 기술은 기술 그 자체로만 존재하는 것이 아니라, 사람과 조직, 시장과 철학이 만나는 교차점에서 진정한 힘을 발휘한다는 사실을 명확히 한다.
오늘날의 반도체 산업은 과거보다 훨씬 복잡하고, 시장의 요구도 빠르게 변화한다. AI, 엣지 컴퓨팅, 자율주행, 로보틱스, 사물인터넷 등 수많은 분야에서 연산 성능과 에너지 효율, 유연성이 동시에 요구되는 시대다. 이때 필요한 것은 단지 더 나은 칩이 아니라, 더 나은 질문을 던지고, 더 근본적인 재설계를 감행할 수 있는 인물이다. 짐 켈러는 그러한 리더로서 기술 산업의 방향을 바꿔온 몇 안 되는 인물이다.
그가 강조하는 단순화, 모듈화, 유연성, 확장성은 단지 기술 설계의 키워드가 아니라, 디지털 시대를 살아가는 모든 기업과 창작자가 고민해야 할 구조적 키워드다. 우리가 기술을 설계한다는 것은 곧 우리가 미래를 어떻게 구성할지를 결정하는 일이다. 그리고 그 미래는 더 이상 소수의 기술 엘리트만의 것이 아니다. 오픈소스 아키텍처, 커뮤니티 중심의 개발 문화, 소프트웨어-하드웨어의 융합적 사고는 모두 접근 가능한 기술 생태계를 만드는 데 기여하고 있다.
짐 켈러가 보여주는 커리어는 지금 이 순간에도 기술을 고민하고 있는 수많은 창업가, 엔지니어, 기획자들에게 명확한 메시지를 던진다. “기술은 도구가 아니라 구조다. 그리고 그 구조는 바꿀 수 있다.” 우리는 이제 그 구조를 어떻게 설계하고, 어떤 철학으로 구현할지를 결정해야 한다. 그리고 짐 켈러처럼, 깊은 이해와 단순한 설계로 복잡한 세계를 재구성할 수 있다면, 그것이야말로 진정한 기술 혁신이다.