블로그로 돌아가기

Roles

Applied AI Engineer 하는 일, ML Engineer와의 차이

Harper
Applied AI Engineer 하는 일, ML Engineer와의 차이

Applied AI Engineer

Applied AI Engineer는 이미 만들어진 AI 모델로 고객이나 제품의 실제 문제를 푸는 시스템을 만드는 엔지니어입니다. 모델을 직접 학습시키지 않고 API와 공개 모델로 검색, 에이전트, 평가 체계를 만들며, 대부분 고객을 직접 만나는 자리입니다. AI 랩과 AI 제품 회사가 뽑고, 회사에 따라 Forward Deployed Engineer나 AI Deployment Engineer라는 이름으로 내기도 합니다.

주요 업무

  1. 어떤 문제를 어떤 모델과 구조로 풀지 정합니다. 고객이나 제품의 문제 중 가치가 큰 것을 골라, 검색·에이전트·툴 연동 가운데 무엇으로 풀지와 성공을 무엇으로 잴지를 정합니다.
  2. 시스템을 만들어 프로덕션까지 올립니다. 프로토타입에서 시작해 통합, 안정화, 출시까지 직접 코드를 씁니다. OpenAI는 이 자리의 성공 기준을 "프로덕션에서 돌아가는 시스템과 지속적인 사용, 고객 성과"로 적고, "데모가 성공하는 것이 아니다"라고 덧붙입니다.
  3. 평가 체계를 만듭니다. 모델의 출력은 매번 같지 않아서, 대표 데이터와 채점 기준, 실제 운영 데이터로 결과를 재는 체계를 만드는 것 자체가 일입니다. 이 체계를 기준으로 모델 동작과 응답 속도, 비용, 안전성을 조정합니다.
  4. 고객사 엔지니어링 팀과 함께 통합·운영 문제를 풉니다. 고객의 기존 시스템, 데이터 환경, 보안 요건에 맞춰 연결하고, 장애가 나면 재현해 원인을 찾습니다.
  5. 고객 현장에서 배운 것을 제품·리서치 팀에 전달합니다. 여러 고객에서 반복되는 패턴을 재사용할 수 있는 구조와 도구로 정리해 다음 도입을 빠르게 합니다.

모델을 만드는 직무와의 차이

이름에 AI가 붙어 모델을 만드는 자리로 읽히지만, 만드는 것, 성공 기준, 요구하는 배경이 다릅니다.

  • 모델을 만들지 않고 활용합니다. OpenAI는 Applied AI Engineering을 "강력한 모델을 사람과 조직을 위한 신뢰할 수 있고 유용한 시스템으로 바꾸는 일"이라고 정의합니다. 모델을 학습시키는 것은 모델을 만드는 조직의 일입니다.
  • 성공 기준이 다릅니다. 모델을 만드는 쪽은 벤치마크 성능으로 평가받고, 이 자리는 시스템이 고객 환경에서 돌아가고 계속 쓰이는지로 평가받습니다.
  • 요구하는 배경이 다릅니다. 공개 공고 중 논문이나 학위를 요구하는 곳은 없고, 대신 소프트웨어 엔지니어링과 평가 경험을 봅니다.

유사 직무와의 차이

  • Machine Learning Engineer와는 모델을 만드는지 활용하는지가 다릅니다. Machine Learning Engineer는 제품에 들어갈 모델을 직접 만들고 배포합니다. Applied AI Engineer는 만들어진 모델로 시스템을 만듭니다.
  • Research Engineer와는 일하는 곳이 다릅니다. Research Engineer는 새 모델을 만드는 연구 조직 안에서 일합니다. Applied AI Engineer는 만들어진 모델과 고객 사이에서 일합니다.
  • Backend Engineer와는 다루는 것이 다릅니다. Backend Engineer는 입력이 같으면 결과도 같은 시스템을 만들고, Applied AI Engineer는 출력이 확률적인, 즉 같은 입력에도 결과가 달라질 수 있는 모델을 다룹니다. 그래서 평가가 일의 중심에 있습니다. 코드를 쓴다는 점은 같고, 공고들도 요구 배경에 소프트웨어 엔지니어를 적습니다.

요구 역량

이 자리에 오는 사람의 배경은 백엔드·풀스택 엔지니어, Forward Deployed Engineer, 솔루션 아키텍트 등입니다. 한국 근무 자리는 한국어와 영어를 함께 요구합니다. 공개된 Applied AI Engineer 채용공고 수십 건을 겹쳐 보면 다음 세 가지가 공통입니다.

  • 프로덕션 수준의 소프트웨어 엔지니어링 능력. Python이 기본이고, TypeScript를 함께 적는 곳이 많습니다.
  • LLM을 실제 시스템에 통합하고 평가해 본 경험. 검색·에이전트·툴 연동을 만들어 보고, 그 결과를 체계적으로 측정해 본 경험입니다.
  • 고객사 엔지니어와 경영진 양쪽에 기술을 설명하는 능력. 대부분의 공고가 고객을 직접 만나는 것을 전제로 합니다.

FAQ

백엔드 엔지니어가 넘어갈 수 있나요? 가능합니다. 공고들이 요구 배경에 소프트웨어 엔지니어를 적고 있고, LLM 경험이 필수가 아니라고 적은 곳도 있습니다. 새로 익혀야 하는 것은 매번 달라지는 출력을 평가하는 방법입니다.

논문이나 학위가 필요한가요? 필요하지 않습니다. 공개 공고 중 논문이나 대학원 학위를 필수로 적은 곳은 없고, 학사 또는 그에 준하는 경력을 봅니다.

한국에서도 Applied AI Engineer를 뽑는 회사가 있나요? 있습니다. 글로벌 AI 회사가 한국에 들어올 때 뽑는 자리 중 하나이고, 한국어와 영어를 함께 요구합니다.