AI 반도체 시장을 이야기할 때 가장 먼저 떠오르는 기업은 엔비디아입니다. 엔비디아 GPU는 생성형 AI 모델을 학습하고 서비스를 운영하는 데이터센터의 핵심 장비로 자리 잡았습니다. 하지만 구글과 아마존, 마이크로소프트, 메타 같은 빅테크 기업들은 엔비디아 GPU만 구매하는 데 그치지 않고 있습니다. 각 기업이 자사 AI 서비스에 맞춘 반도체를 직접 설계하거나 반도체 설계 기업과 함께 개발하고 있습니다. 이처럼 특정 … 더 읽기
생성형 인공지능이 확산되면서 AI 반도체 시장을 설명할 때 ‘학습’과 ‘추론’이라는 용어가 자주 등장합니다. AI 학습은 많은 데이터를 이용해 모델의 능력을 만드는 과정이고, 추론은 학습된 모델이 사용자의 요청을 받아 실제 결과를 생성하는 과정입니다. 챗봇의 답변, 검색 결과 요약, 이미지 생성, 광고 추천과 음성 인식은 모두 추론에 해당합니다. 두 과정에는 모두 반도체와 데이터센터가 필요하지만 중요하게 평가하는 기준은 … 더 읽기
AI 추론칩이란? GPU·ASIC·NPU 차이와 작동 원리 생성형 AI를 이야기할 때 빠지지 않는 것이 AI 반도체입니다. 그동안에는 대규모 AI 모델을 만드는 학습용 GPU가 주로 주목받았지만, AI 서비스가 대중화되면서 추론에 필요한 반도체의 중요성도 커지고 있습니다. 추론은 이미 학습을 마친 AI 모델이 사용자의 질문을 받아 실제 답변을 생성하는 과정입니다. ChatGPT에 질문하거나 스마트폰에서 사진을 보정하고 음성을 문자로 바꾸는 순간에도 … 더 읽기