업스테이지-Software Engineer  - Model Serving
1/1
업스테이지경기 신입-경력 35년

Software Engineer - Model Serving

포지션 상세

업스테이지는 AI 기술로 해결할 수 있는 비즈니스 문제들을 풀어갑니다. "Making AI Beneficial"이라는 미션 아래, 누구나 AI 기술의 혜택을 누릴 수 있도록 '적용이 쉬운 AI 솔루션'을 개발하고 있습니다. 세계 최고 수준의 AI 모델을 다양한 분야에서 손쉽게 활용할 수 있는 API 시리즈를 출시하여 기업 고객들의 비즈니스 성공에 기여하고 있습니다. 또한, LLM 기술을 비즈니스 환경에 맞게 최적화하여 기업들의 업무 효율과 생산성을 높일 수 있는 Private LLM 서비스를 제공하는 등 AI가 세상에 이롭게 사용될 수 있도록 노력하고 있습니다.

LLM 기술과 더불어 Document Parse와 Information Extraction 등의 제품을 통해 문서 처리 분야에서 혁신을 이루고 있으며, 자체 LLM 및 Chat AI 기술을 비즈니스 환경에 맞게 최적화하여 기업들의 업무 효율과 생산성을 높일 수 있는 AI Space를 개발하는 등 업무 환경의 미래를 위한 인텔리전스를 만들어 갑니다.

모델 서빙팀은 업스테이지의 Solar LLM 과 Document AI 모델들을 서빙하기 위한 제품 개발을 담당 합니다. 온프레미스와 클라우드, SaaS 인프라에서 동작하는 모델 서빙 코드를 작성하며 빠르고 효율적인 서빙을 위한 각종 최적화 기술들을 연구하고 시도 합니다. 또한 각 국의 모델 서빙 파트너와 협업하여 업스테이지의 모델 들이 안정적인 환경에서 서빙될 수 있는 서빙 제품을 설계하고 구현 합니다. 이를 통해 글로벌 고객을 위한 멀티 리전 서빙 환경에서의 프론티어 수준의 모델 서빙 운영 환경을 구축합니다.

주요업무

• 업스테이지의 Solar LLM 과 Document AI 의 API Layer 개발
• 모델 양자화 및 최적화를 통한 모델 서빙 효율 극대화
• 각종 서빙 시스템 벤치마크 및 파트너 협업을 통한 모델 서빙 환경 구축
• 모델 및 시스템의 보안 이슈 해소. 모니터링 및 대시보드 개발
• 내부 운영 도구 개발 및 내부 시스템 운영 효율화
• 이 외 업스테이지 제품 및 기술 개발과 관련된 활동

자격요건

• LLM 또는 Document AI 관련 AI 모델 서빙 시스템 개발 경험 및 관련 기술에 대한 깊은 이해
• 하나 이상의 프로그래밍 언어에 대한 높은 수준의 이해 (예: Golang, Python, Typescript, Java, C/C++ 등)
• AWS, Azure 등 클라우드 서비스를 이용한 제품 개발 경험
• 다양한 형태의 데이터베이스를 이용한 개발 경험 (예: RDBMS 또는 각종 NoSQL 시스템)
• 한국어 및 영어 능통자

기술 스택 • 툴

태그

마감일

상시채용

근무지역

리모트근무
본 채용정보는 원티드랩의 동의없이 무단전재, 재배포, 재가공할 수 없으며, 구직활동 이외의 용도로 사용할 수 없습니다.

본 채용 정보는 에서 제공한 자료를 바탕으로 원티드랩에서 표현을 수정하고 이의 배열 및 구성을 편집하여 완성한 원티드랩의 저작자산이자 영업자산입니다. 본 정보 및 데이터베이스의 일부 내지는 전부에 대하여 원티드랩의 동의 없이 무단전재 또는 재배포, 재가공 및 크롤링할 수 없으며, 게재된 채용기업의 정보는 구직자의 구직활동 이외의 용도로 사용될 수 없습니다. 원티드랩은 에서 게재한 자료에 대한 오류나 그 밖에 원티드랩이 가공하지 않은 정보의 내용상 문제에 대하여 어떠한 보장도 하지 않으며, 사용자가 이를 신뢰하여 취한 조치에 대해 책임을 지지 않습니다.
<저작권자 (주)원티드랩. 무단전재-재배포금지>