과학의 최전선에서 전하는 인사이트 『요주의 과학』 안녕하세요, 『요주의 과학』입니다 이번 호에서는 AI 시대를 움직이는 두 축, 기술과 인재를 다룹니다. 먼저, 서울대 안정호 교수님이 소개하는 차세대 반도체 기술 이야기로 왜 지금 PIM이 주목받는지를 살펴봅니다. 이어서 AI 스타트업 토크를 통해, 장학생에서 창업가로 성장한 연사들이 도전 속에서 얻은 배움을 미래 세대와 나누는 현장을 방문합니다. 자, 그럼 본격적인 여정을 함께 떠나보실까요? |
|
|
이번 『요주의 과학』의 주인공은 안정호 서울대학교 융합과학기술대학원 교수님입니다. 안교수님은 메모리 구조 연구에서 세계적으로 인정받아, 컴퓨터 아키텍처 분야의 세계 3대 학술대회(HPCA, ISCA, MICRO) 명예의 전당에 모두 이름을 올린 공학자입니다. 휴렛팩커드, 구글, SK텔레콤 사외이사까지 아우른 경력은 그가 학계와 산업계를 잇는 드문 연구자임을 보여줍니다. 특히 AI 시대의 중심 화두인 메모리와 연산의 경계를 탐구하는 연구자로 주목받고 있죠. |
|
|
폰 노이만의 한계를 넘어서는 새로운 길, PIM AI 열풍으로 메모리 시장이 확대되며 ‘차세대 반도체 3대장’인 HBM(High Bandwidth Memory), CXL(Compute Express Link), PIM(Processing In Memory)이 주목받고 있습니다. 이 중 HBM은 우리나라 반도체 미래 먹거리로 굳건히 자리 잡았지만, CXL과 PIM은 아직 시장이 열리기를 기다리고 있죠. 오늘은 그 중 PIM에 대해서 알아보는 시간을 가져볼까 합니다. PIM은 데이터 저장 역할만 하는 기존 DRAM 등과 달리, 말 그대로 메모리 내부에서 연산을 수행하는 차세대 기술입니다. 왜 이런 기술이 필요할까요? 지금까지 컴퓨터 설계 방식인 '폰 노이만 아키텍처'에서는 '생각'의 역할을 하는 프로세서와 '기억'의 역할을 하는 메모리가 각자 자기 할일만 열심히 하며 독립적으로 기능하였습니다. 근본적으로 프로세서 작동 속도가 느렸기 때문에 둘 사이 상호 작용인 메모리 접근 시간이 큰 문제가 되지 않았죠. 비유하자면 스피드 퀴즈 대회에서 문제의 답을 구하는 데 시간이 오래 걸린다면 출제자가 문제를 내는 속도에 대해서는 고민할 필요가 없는 것과 같죠. |
|
|
‘메모리 장벽’을 넘어서, 새로운 무대가 열리다 하지만 무어의 법칙에 의해서 집적도가 지수적으로 증가하면서, 퀴즈 푸는 속도가 급격하게 증가하였습니다. 단적으로 90년대부터 2010년대까지 CPU 속도는 매년 약 60%씩 상승했지만, DRAM의 반응 속도는 10% 정도 상승하는 데 그쳤습니다. 따라서 이제 느릿느릿 퀴즈를 내는 출제자한테 속이 터지게 되는 상황이 오게 되었던 거죠. 이러한 CPU와 DRAM 간의 속도 격차를 메모리 장벽(Memory Wall)이라고 부릅니다. 극복의 실마리는 의외로 단순합니다. 데이터를 몽땅 프로세서로 옮기지 말고, 메모리 안에서 연산을 마친 뒤 필요한 결과만 보내는 것이죠. 덕분에 병목현상이 줄어들어 전체 성능이 향상되고, 데이터 이동으로 발생하는 전력의 소모량도 감소시킬 수 있습니다. 겉보기엔 멋져 보여도, PIM은 오랫동안 어디에 써야 할지 애매한 기술이었습니다. 안정호 교수님 말처럼 "사람들이 필요로 하는 기술을 개발해야지, 기술을 개발해 놓고 필요를 찾으려고 하면 시장에서 살아남을 수 없기" 때문이었죠. 그런데 이랬던 상황이 2023년부터 달라지기 시작했습니다. |
|
|
PIM, 이제 산업 전략의 한가운데로 GPT-3 같은 초거대 언어모델(LLM)은 한 단어를 생성할 때마다 324GB 크기의 파라미터를 메모리에서 불러와야 합니다. 324GB를 불러오기 위해서는 24GB 용량의 HBM3가 적어도 15개 필요하지만, 이래봤자 고작 초당 2~3 단어를 처리할 수 있습니다. 그래서 수십 개의 HBM을 묶어놓은 엔비디아 DGX 같은 장치가 필요하고, 그 값은 수억 원에 달합니다. 연산력이 아니라 데이터 전송이 AI의 발목을 잡고 있는 것이죠. 특히 LLM의 이용자가 많아질 수록(전문용어로 배치 사이즈가 커질 수록), 그리고 답변 단계에 공을 들일 수록(어텐션 계층의 처리가 늘어날 수록) 메모리의 중요성이 커지고 있습니다. 최근 뉴스는 이 흐름이 단순한 아이디어가 아니라 산업 전략으로 자리잡고 있음을 보여줍니다. 지난 10일 SK하이닉스는 네이버클라우드와 함께 'PIM·CXL 기반 차세대 AI 메모리 솔루션 실증(PoC)'을 추진한다고 밝혔습니다. 또한 SK하이닉스는 삼성전자와 차세대 LPDDR6 규격에서도 PIM을 반영하기 위해 협력을 이어가고 있죠. 이번 발표집은 바로 이 주제를 다룹니다. GPT가 왜 메모리에 발목 잡히는지, GPU의 구조적 한계가 어디서 오는지, 그리고 PIM이 어떻게 대안이 될 수 있는지를 숫자와 사례로 풀어냅니다. 관심 있는 분들은 꼭 읽어보시길 권합니다. |
|
|
장학생에서 창업가로: 세계를 향한 도전 지난 9월 19일, 최종현학술원과 한국고등교육재단은 AI 스타트업 토크를 공동 개최했습니다. 무대에 오른 세 명의 연사, 김한준 퓨리오사AI CTO, 조강원 모레 CEO, 이주형 마크비전 AI 총괄 모두 재단의 장학생 출신이죠. 이 자리는 51주년을 맞은 재단이 훌륭한 학자 양성을 넘어, 스스로 미래를 개척하는 능동적 인재를 길러내겠다는 선언의 장이자, 한국 스타트업이 세계 무대에서 어떤 도전을 통해 성장하고 있는지를 멋지게 보여주는 자리였습니다. 혁신은 허물어진 경계에서 자란다 퓨리오사AI는 국내 대표 AI반도체 회사 중의 하나이죠. 올해 초 메타 인수 제안으로 큰 화제가 되기도 했고, 최근에는 오픈AI와 파트너십을 맺었습니다. 김한준 CTO는 “엔비디아가 세계 1위 기업이지만, 퓨리오사AI는 추론 영역에서 충분히 경쟁할 수 있다”며 프로그램 지원성, 성능, 에너지 효율을 동시에 잡는 것이 목표라고 밝혔습니다. "시스템을 설계하는 조직은, 그 조직의 의사소통 구조를 본뜬 시스템을 만들어내게 되어 있습니다." 김한준 CTO는 콘웨이의 법칙을 인용하며, 반도체 개발 역시 팀의 구조와 문화가 그대로 반영됨을 강조했습니다. AI 반도체는 단순한 하드웨어의 문제가 아니라, 하드웨어·소프트웨어·알고리즘이 유기적으로 얽힌 총체적 혁신이라는 것이죠. 덧붙여 “R&D가 분리된 시대는 이미 끝났다”며 논문을 쓰는 연구자가 제품을 만들며, 엔지니어와 개발자가 긴밀히 협업하는 문화의 중요성을 강조했습니다. 이러한 교차기능적 팀워크가 엔비디아 같은 공룡 기업과 맞설 수 있는 가장 강력한 무기라는 메시지였습니다. AI의 본질은 알고리즘이 아닌 컴퓨팅 조강원 모레(MOREH) 대표는 AI 산업이 알고리즘의 승부가 아니라, 초거대 컴퓨팅 인프라와 이를 효율적으로 다루는 소프트웨어의 전쟁임을 날카롭게 짚었습니다. 그는 중국 딥시크가 오픈AI에 맞서는 비결도 하드웨어나 LLM 모델이 아닌 바로 소프트웨어 최적화 능력에 있음을 이야기했습니다. 모레 역시 GPU/NPU를 똑똑하게 활용하는 인프라 소프트웨어로, 글로벌 기업들이 겪는 병목을 풀겠다는 전략을 내세웁니다. 이런 접근은 엔비디아의 CUDA 생태계 대신, 각자의 워크로드에 맞춘 독자 소프트웨어 스택을 구축해 LLM을 운영하려는 글로벌 AI 선도 기업들의 흐름과 맞닿아 있습니다. 조 대표는 “왜 모레만 이런 소프트웨어를 만들 수 있느냐”는 질문을 자주 받는다고 합니다. 그의 대답은 명확합니다. 다른 기업들이 모델, 하드웨어 판매를 위한 부수적 '수단'으로 소프트웨어를 개발한다면, 모레는 인프라 소프트웨어 그 자체를 목표로 삼는다는 것입니다. 덕분에 남들이 놓치는 영역에 집중할 수 있고, 스타트업만의 날카로운 문제 감각으로 기회를 찾는다는 설명입니다. 특히 데이터센터에 수만 개의 칩을 똑같이 쓰는 대신, 각 칩의 특성에 맞게 혼용하고 배분하는 최적화를 시도합니다. 모레가 지향하는 것은 하드웨어 중심의 경쟁이 아니라, '시스템과 소프트웨어의 공동 최적화(co-optimization)'라는 새로운 전장입니다. 브랜드를 지키는 글로벌 AI 방패 이주형 마크비전 총괄은 AI의 시선을 전혀 다른 각도로 옮겼습니다. 루이비통, 티파니 같은 글로벌 브랜드를 고객으로 둔 마크비전은 위조 상품, 불법 콘텐츠, 무단 판매를 AI로 탐지·차단하는 솔루션을 통해, 브랜드가 지식재산권을 생애 전주기에 걸쳐 관리·활용할 수 있는 인프라를 구축하고 있습니다. 단순한 ‘위조 방어’가 아니라, 창작자가 안심하고 새로운 작품을 내놓을 수 있는 생태계를 만드는 것이 궁극적 목표입니다. 최근 마크비전은 유튜브로부터 전 세계 소수 기업만 보유한 공식 라이선스를 획득해, 신고 즉시 불법 영상이 제재되는 권한을 확보했습니다. 이런 파트너십은 단순 협력을 넘어 버티컬 AI 기업의 해자, 쉽게 무너뜨릴 수 없는 경쟁 우위로 작동합니다. 특정 도메인에서 쌓아온 전문성과 파트너사의 인프라가 결합되면서, 마크비전은 누구도 쉽게 넘볼 수 없는 글로벌 지식재산권 보호의 표준으로 자리 잡아가고 있습니다. |
|
|
AI 시대, 작은 도전이 큰 내일을 만든다 토론에서 연사들이 공통으로 강조한 건 "좋은 아이디어만으로는 부족하다"는 것이었습니다. 같은 생각을 전 세계 수천 명이 동시에 떠올리고 있기 때문이죠. 결국 차이를 만드는 건 끝까지 문제를 붙들고 팀으로 부딪치며 완주하는 끈기입니다. 대학 시절 작은 프로젝트를 통해, 오랜 시간 문제를 재정의하고 해답을 찾기 위해 부딪히는 경험이야말로 성공적인 스타트업으로 이어질 수 있는 마법과 같은 토양이 된다는 조언이 이어졌습니다. 그렇다면 지금 청년 세대에게 필요한 건 무엇일까요? 연사들은 입을 모아 “경력의 길이가 아니라 시니어급 문제 해결력”이라고 말했습니다. 단순 업무는 AI가 대신하지만, 무엇이 진짜 문제인지 정의하고, 그 문제를 풀어낼 방법을 찾아가는 역량은 여전히 인간의 몫이기 때문입니다. 특히 AI와 함께 성장한 AI 네이티브 세대는 이런 역량을 더 빨리 체득할 수 있는 강점을 갖고 있습니다. 막 졸업한 신입이라도, 완주 경험 속에서 보여준 문제 해결력이 있다면 충분히 시니어급 역량을 증명할 수 있다는 희망의 메시지였습니다. 더 많은 이야기와 현장의 분위기를 영상에서 직접 만나보시길 권합니다. |
|
|
발행인 : 최종현학술원 과학혁신 2팀 | 이주섭 팀장, 이우원 PM, 전소민 PM |
|
|
뉴스레터 수신을 원치 않으시면 [수신거부]를 클릭하신 후 메일주소를 발송해주십시오. |
|
|
|