HP x 업스테이지 AI Appliance 전략
HP, 업스테이지, 에티버스 EBT가 문서 AI와 RAG, 에이전트를 온프레미스 워크스테이션에 패키징한 AI Appliance Box의 배경과 제품 전략을 설명한 토크아이티 웨비나 정리입니다.
Summary
이 전략의 핵심은 기업의 비정형 문서를 외부 클라우드로 보내지 않고 로컬에서 파싱·검색·추출·분석하는 것입니다. HP 워크스테이션, 업스테이지의 Document AI와 Solar LM, 에티버스 EBT의 유통·구축 역량을 하나의 도입 패키지로 묶습니다.
자료 성격
아래 내용과 이미지는 2026년 6월 23일 공개된 웨비나 발표를 기준으로 정리했습니다. 수치와 제품 로드맵은 발표 시점의 설명이며, 실제 도입 시 최신 사양을 다시 확인해야 합니다.
왜 AI Appliance인가
기업이 생성형 AI를 도입할 때 반복해서 만나는 장벽은 세 가지입니다.
- 보안: 금융, 법률, 의료, 공공 문서는 외부 클라우드로 반출하기 어렵습니다.
- 비용: 서버급 GPU와 구축형 프로젝트는 중견·중소기업이 시작하기에 부담이 큽니다.
- 구축 복잡도: OCR, 문서 파싱, 벡터 DB, 언어 모델, 권한과 감사 체계를 따로 조합해야 합니다.
AI Appliance Box는 성능이 높아진 워크스테이션과 경량화된 언어 모델을 결합해 이 장벽을 낮추려는 접근입니다. 데이터가 생성되는 곳에서 추론하는 엣지 AI이므로 지연 시간과 데이터 반출 위험도 줄일 수 있습니다.
AI 시장 변화와 엣지 AI
발표에서는 AI 시장의 변화를 다음 세 축으로 설명합니다.
- 파운데이션 모델의 고도화: 더 작은 파라미터로도 높은 성능을 내는 모델이 등장하면서 노트북과 워크스테이션에서 실행 가능한 선택지가 늘어났습니다.
- 산업 특화 Small LM의 확산: 모든 문제를 하나의 범용 모델로 해결하기보다 부서와 산업의 데이터에 맞춘 모델·에이전트가 늘어납니다.
- 에이전트 AI의 부상: 질문에 답하는 단계를 넘어 문서 처리, 보고서 생성, 시스템 연동과 같은 액션을 수행합니다.
에이전트 사용량이 늘수록 클라우드 비용과 민감 데이터 반출 문제가 커집니다. 발표는 데이터가 생성되는 곳에서 직접 처리하는 엣지 AI를 이 문제의 대응 방향으로 제시합니다.
HP의 워크스테이션 전략
HP는 발표에서 한국 워크스테이션 시장 경험을 기반으로 AI 시대의 제품군을 세 단계로 설명했습니다.
- 엔터프라이즈 AI 스테이션: 데이터센터급 연산과 대형 모델이 필요한 영역
- AI 스테이션: 기업의 엣지 환경에서 사용하는 워크스테이션급 제품
- 퍼스널 AI 스테이션: SMB와 개인 사용자를 위한 진입 제품
업스테이지 솔루션은 GPU 하드웨어가 필요하지만, 워크스테이션 성능 향상과 모델 경량화로 서버보다 낮은 비용의 패키지가 가능해졌습니다. 발표 시점에는 HP Z4 또는 Z8을 기반으로 어플라이언스 모델을 개발하고 있다고 설명했습니다.
파트너별 역할
| 파트너 | 역할 | 강점 |
|---|---|---|
| HP | 워크스테이션과 엣지 AI 하드웨어 | 사무실 환경에 맞는 성능, 안정성, 정숙성 |
| 업스테이지 | Document AI, OCR, Document Parser, Solar LM | 문서 구조화와 B2B 온프레미스 AI 경험 |
| 에티버스 EBT | 패키징, 유통, 구축 프로젝트 총괄 | 하드웨어·소프트웨어 통합 제안과 고객 접점 |
세 회사의 결합은 단순한 번들 판매보다 문서가 들어온 뒤 업무 결과가 나올 때까지의 전체 파이프라인을 제공하는 데 목적이 있습니다.
에티버스 EBT가 연결하는 시장
에티버스 EBT는 오랜 HP 비즈니스 경험을 바탕으로 하드웨어와 소프트웨어를 따로 발주해야 했던 고객의 부담을 하나의 프로젝트로 통합합니다. 클라우드와 온프레미스 중 무엇을 선택해야 할지 판단하기 어려운 고객에게 구성안을 제시하고 PM 역할까지 맡는 형태입니다.
발표에서 제시한 파트너 선택 배경은 다음과 같습니다.
- 업스테이지는 국내에서 자체 LM을 개발하고, OCR·Document AI와 온프레미스 지원 경험을 보유했습니다.
- 에티버스 EBT는 HP 하드웨어 유통과 구축 역량, 그룹 내 ISV 유통 경험을 갖고 있습니다.
- 업스테이지는 소프트웨어 중심 시장에서 하드웨어 결합 시장으로 접점을 넓힐 수 있습니다.
- 에티버스 EBT는 HP 워크스테이션, 업스테이지 OCR과 Solar LM을 묶어 고객에게 단일 제안 창구를 제공합니다.
flowchart LR Document["기업 문서"] --> Parse["OCR / Document Parser"] Parse --> RAG["검색과 근거 연결"] Parse --> Extract["데이터 추출"] RAG --> Agent["문서 기반 에이전트"] Extract --> Workflow["ERP / 보고서 / 업무 자동화"] Agent --> User["현업 사용자"] Workflow --> User
제품 패키지
웨비나에서는 3개월 POC용 스타터 팩과 세 가지 업무 팩을 제시합니다.
| 패키지 | 핵심 기능 | 대표 활용 |
|---|---|---|
| 스타터 팩 | 주요 기능을 묶은 3개월 POC | 실제 데이터로 정확도와 처리량 검증 |
| RAG 팩 | 문서 컬렉션 기반 질의응답과 출처 표시 | 사규·계약·인사 규정 검색, 부서별 지식 에이전트 |
| DX 팩 | 문서 분류, 파싱, 데이터 추출, 마스킹, 비교 | 진료 기록 요약, 보험 심사, 재무 데이터 추출, ERP 연동 |
| AX 팩 | 여러 문서의 비교·분석과 개인화된 리서치 | 재무 분석, 보고서 생성, 개인 업무 보조 |
RAG 팩
문서 컬렉션을 지정해 특정 자료만 참조하는 에이전트를 만들고, 답변과 함께 근거 출처를 제시합니다. 팀 공유, 권한, 사용량, 감사 기능을 포함해 비기술 부서도 짧은 준비 기간으로 사용할 수 있도록 설계합니다.
기존 RAG 프로젝트는 데이터 전처리, 벡터 DB, 검색 품질 조정이 모두 구축 과제로 남아 도입이 길어지는 경우가 많았습니다. 발표에서 소개한 RAG 팩은 다음 기능을 패키지화합니다.
- 계약서, 인사 규정처럼 목적별 문서 컬렉션 구성
- 컬렉션 하나만 참조하도록 제한한 부서별 에이전트
- 인사 규정 봇 등의 템플릿을 선택하는 에이전트 갤러리
- 답변 근거와 원문 출처 표시
- 팀 공유, 데이터 필터링, 사용자 권한, 사용량과 감사 관리
DX 팩
문서를 파싱한 뒤 정해진 스키마에 맞춰 데이터를 추출합니다. 단순 OCR을 넘어 문맥을 이용한 추론성 추출, 문서 비교, 마스킹, 보고서 생성과 시스템 연동을 목표로 합니다.
웨비나의 병원 사례에서는 100~200페이지 진료 기록에서 필요한 검사 결과를 추출하고 요약 보고서를 만들어 의료진의 검토 시간을 줄이는 흐름을 소개합니다. 같은 구조는 재무, 보험, 물류, 통관 문서에도 적용할 수 있습니다.
병원 진료 기록 자동화 흐름은 다음과 같습니다.
- HP 프린터·스캐너 등을 통해 장문의 진료 기록을 디지털 문서로 입력합니다.
- Document Parser가 문서 레이아웃과 내용을 읽고 필요한 필드를 식별합니다.
- 미리 정의하거나 자동 생성한 스키마에 맞춰 검사 결과와 핵심 값을 추출합니다.
- 원문에 직접 존재하지 않는 정상 범위 여부도 LM이 문맥을 바탕으로 판단할 수 있습니다.
- 요약 보고서와 함께 값이 나온 원문 페이지를 표시해 의료진이 근거를 검수합니다.
손글씨는 여전히 정확도 한계가 있지만 튜닝과 범용 모델 개선으로 보완하는 영역으로 설명했습니다. 언어 의존성이 비교적 낮은 의료 문서 구조화는 해외 환자와 K-의료 서비스로 확장할 가능성도 제시했습니다.
AX 팩
여러 문서를 비교하거나 재무 자료를 분석하는 개인 업무 보조 영역입니다. DX 팩으로 계약서나 보고서에서 데이터를 구조화한 뒤 AX 팩에서 이를 분석하는 연계도 가능합니다.
예를 들어 여러 기업의 재무 문서를 넣고 주요 지표를 표로 정리하거나, 특정 계약서에서 DX 팩으로 필드를 추출한 다음 AX 팩으로 비교·분석할 수 있습니다. 발표에서는 NotebookLM과 유사한 개인 문서 분석 경험을 온프레미스 환경에서 제공하는 영역으로 설명합니다.
업스테이지의 문서 AI 제품 전략
업스테이지는 OCR에서 시작해 Document Parser, LM, 업무용 애플리케이션으로 제품 범위를 확장해 왔습니다. 발표 시점의 설명에 따르면 하루 300만 장 이상의 문서를 처리하고 100~200개의 온프레미스 고객사를 지원한 경험을 강조했습니다.
OCR에서 LM까지
- OCR: 문서의 텍스트를 인식하는 출발점입니다.
- Document Parser: 표, 차트, 이미지, 문단 구조를 LM이 사용할 수 있는 형태로 바꿉니다.
- Solar LM: 구조화된 문맥을 해석하고 추출·요약·분석합니다.
- 업무 애플리케이션: 검색, 에이전트, 보고서, ERP 연동으로 결과를 전달합니다.
발표는 OCR의 정확한 목표값과 달리 LM 프로젝트는 고객의 문제 정의와 컨설팅이 함께 필요해 영업·검증 기간이 더 길다고 설명합니다. 결국 모델 성능만이 아니라 어떤 업무를 어떤 데이터로 바꿀지 합의하는 과정이 중요합니다.
제품 레이어와 패키징
발표에서는 업스테이지 제품을 다음과 같이 어플라이언스 팩에 연결했습니다.
- 업스테이지 스튜디오 → DX 팩: 문서 파싱, 분류, 스키마 생성과 데이터 추출
- AI Space → AX 팩: 여러 문서를 이용한 개인 분석과 딥 리서치
- Enterprise AI Workspace → RAG 팩: 문서 컬렉션 기반 검색과 에이전트
DX와 AX의 차이
DX는 문서에서 필요한 값을 안정적으로 추출하고 업무 시스템에 전달하는 것에 가깝고, AX는 여러 문서를 비교·분석해 사람의 판단을 보조하는 것에 가깝습니다.
두 팩은 분리된 기능이 아니라 연속된 파이프라인으로 사용할 수 있습니다. 계약서에서 필요한 필드를 DX로 추출하고, AX에서 계약 조건과 재무 위험을 분석한 뒤, 결과를 내부 API로 전달하는 방식입니다.
RAG보다 앞에 있는 문제
웨비나는 RAG의 검색 알고리즘보다 문서를 정확히 읽고 구조화하는 앞단을 강조합니다.
Important
표, 차트, 이미지, 복잡한 레이아웃을 잘못 파싱하면 이후 검색과 생성이 모두 흔들립니다. 기업 문서 AI에서 Document Parser는 부가 기능이 아니라 품질의 출발점입니다.
이 관점은 RAG vs Agentic Knowledge Systems와 연결됩니다. RAG가 근거를 찾아 답하는 구조라면, DX와 AX는 문서에서 데이터를 만들고 업무 시스템에 전달하거나 후속 분석을 수행하는 실행형 구조로 확장됩니다.
발표에서는 이를 “좋은 입력이 좋은 결과를 만든다”는 원칙으로 설명합니다. OCR 문자 정확도만 높아도 표의 행·열, 차트의 의미, 슬라이드의 시각적 관계를 잃으면 RAG와 에이전트의 답변 품질은 떨어집니다. 따라서 HTML·Markdown 변환 정확도, 출처 좌표, 컨피던스 스코어를 함께 평가해야 합니다.
주요 타깃
적합한 조직은 문서량이 많고 외부 모델 사용에 제약이 있는 곳입니다.
- 공공, 교육, 금융, 법무, 행정
- 병원과 보험처럼 민감한 개인 정보와 대량 문서를 다루는 조직
- 투자은행, VC, IPO 준비 기업처럼 재무 자료를 반복 분석하는 조직
- 망 분리, 보안, 컴플라이언스 요구가 높은 중견·중소기업
서버 구축은 부담스럽지만 클라우드에 데이터를 올릴 수도 없는 조직이 핵심 시장입니다. 워크스테이션급 장비로 시작해 사용량과 성과가 확인되면 구성을 확대하는 방식입니다.
세부 적용 시나리오
- 투자은행·VC: 포트폴리오사의 재무 정보와 계약 조건을 외부 모델에 보내지 않고 분석
- IPO 준비 기업: 제한된 기간에 대량의 재무·법무 문서를 검토하고 보고서 생성
- 병원: 전원 환자의 장문 진료 기록에서 핵심 검사 결과와 근거 페이지 추출
- 보험: 청구 문서 분류, 심사 데이터 추출, 개인정보 마스킹
- 공공·교육: 망 분리 환경에서 규정과 행정 문서를 기반으로 검색·요약
- 물류·통관: 송장과 통관 문서를 정형 데이터로 바꾸어 시스템 연동
POC와 운영 판단 기준
웨비나가 제안한 POC 방식은 큰 범위의 전사 AI보다 해결할 업무 단위를 좁혀 몇 개의 케이스를 먼저 성공시키는 것입니다.
- 실제로 줄이려는 업무 시간과 문서 유형을 정합니다.
- 문서 처리량, 사용량, 추출 정확도와 같은 KPI를 설정합니다.
- 스타터 팩으로 약 3개월간 실제 프로젝트를 검증합니다.
- 검증 결과에 따라 워크스테이션 또는 서버 구성을 결정합니다.
웨비나에서는 데이터 정확도 80% 이상을 하나의 사업화 기준으로 언급합니다. 다만 실제 기준은 업무 위험도와 사람의 검수 비용에 따라 달라져야 합니다.
POC에서 함께 확인할 지표는 사용량, 처리 문서 수, 필드별 정확도, 응답 시간, 사람이 다시 확인하는 비율, 업무 처리 시간 절감입니다. 이 결과를 기준으로 워크스테이션 수, 서버 전환 여부, 부서별 VM 구성과 운영 인력을 결정합니다.
보안과 시스템 연동
- 원문과 추론 데이터는 로컬 장비에 저장하며 업스테이지 클라우드로 보내지 않는 구성을 전제로 합니다.
- DLP, IAM, SSO 등 기존 기업 보안 체계와 연동할 수 있습니다.
- 필요하면 외부 API나 퍼블릭 클라우드와 연결할 수 있지만 데이터 반출 정책을 별도로 설계해야 합니다.
- VM을 이용해 여러 부서가 자원을 나누는 구성을 고려할 수 있습니다.
Warning
온프레미스라는 사실만으로 보안이 완성되지는 않습니다. 계정, 권한, 감사 로그, 백업, 모델 업데이트, 외부 연동 경계를 함께 운영해야 합니다.
발표에서는 GPU를 직접 분할하는 방식이 아니라 VM을 통해 여러 부서가 자원을 나누는 방안을 언급했습니다. 외부 API와 퍼블릭 클라우드 연결도 기술적으로 가능하지만, 금융권과 공공기관에서는 DLP, IAM, SSO, 계정 체계와 감사 정책을 먼저 설계해야 합니다.
활용 사례
| 영역 | 입력 | AI 처리 | 결과 |
|---|---|---|---|
| 인사 | 사규, 취업 규칙 | 컬렉션 기반 RAG | 근거가 표시된 인사 규정 답변 |
| 의료 | 장문의 진료 기록 | 파싱, 추출, 요약 | 핵심 검사 결과와 출처 페이지 |
| 금융·투자 | 계약서, 재무제표 | 데이터 추출 후 분석 | 리스크 검토와 투자 보고서 |
| 보험 | 청구·심사 서류 | 분류, 비교, 마스킹 | 심사 보조와 처리 자동화 |
| 물류·통관 | 송장과 통관 문서 | 정형 데이터 추출 | 업무 시스템 연동 |
글로벌 확장 전략
발표에서는 국가별 온프레미스 수요 차이도 다뤘습니다.
- 한국은 보안과 망 분리 요구로 온프레미스 수요가 큽니다.
- 미국은 상대적으로 클라우드 수용도가 높지만, 대량 문서와 규제 산업에는 엣지 수요가 존재합니다.
- 일본은 팩스와 도장 문화, 방대한 종이 문서 때문에 Document AI의 잠재 시장으로 평가했습니다.
HP의 프린터·스캐너로 문서를 디지털화하고, 업스테이지 OCR·Parser로 데이터를 추출한 뒤, 워크스테이션에서 LM과 에이전트를 실행하는 엔드투엔드 GTM이 장기 그림입니다. 하드웨어 판매와 문서 AI 서비스를 함께 제안해 기존 AI 소프트웨어 영업이 닿지 못한 고객을 발굴하는 전략입니다.
도입 시 확인할 질문
- 처리할 문서 유형과 레이아웃이 얼마나 다양한가?
- OCR 정확도뿐 아니라 표와 차트를 포함한 파싱 품질을 어떻게 평가할 것인가?
- 답변이나 추출 결과에서 원문 출처를 추적할 수 있는가?
- 사람의 검수 없이 자동 실행해도 되는 업무 범위는 어디까지인가?
- 기존 DLP, IAM, SSO, ERP와 어떤 방식으로 연결할 것인가?
- 모델과 파서 업데이트를 망 분리 환경에서 어떻게 운영할 것인가?
- POC 이후 사용량 증가에 따른 확장 경로는 무엇인가?
웨비나 질의응답 상세
1. POC 성과는 어떻게 판단하는가
스타터 팩으로 약 3개월 동안 실제 업무를 검증합니다. 전사 범위로 시작하기보다 해결할 일의 단위를 좁혀 몇 개의 케이스를 성공시키고, 발표에서는 데이터 정확도 80% 이상을 하나의 기준으로 제시했습니다.
2. 보안 자료는 어디에 저장되는가
엣지단에서 운영하며 데이터는 로컬 장비에 저장되고 업스테이지 클라우드 서버로 올라가지 않는 구성을 전제로 설명했습니다. 단, 외부 API를 연결하면 별도의 반출 정책과 감사가 필요합니다.
3. 금융·법률의 복잡한 문서를 처리할 수 있는가
Document Parser가 표, 차트, 이미지와 레이아웃을 인식합니다. 멀티모달 VLM을 이용해 PPT나 사진 형태의 내용까지 텍스트 문맥으로 바꾸는 방향도 소개했습니다.
4. 비개발자도 에이전트를 만들 수 있는가
업스테이지 스튜디오가 문서를 바탕으로 스키마를 자동 생성하기 때문에 짧은 교육을 받은 현업 담당자도 데이터 추출 에이전트를 구성할 수 있다고 설명했습니다.
5. 문서량과 품질은 어떻게 평가하는가
발표에서는 OCR 추출 정확도를 약 99% 수준으로 언급했지만, 실제 RAG 품질은 HTML·Markdown 구조 변환과 표·이미지 해석에 좌우됩니다. 컨피던스 스코어와 원문 대조를 포함한 업무별 평가가 필요합니다.
6. 여러 부서가 한 장비를 사용할 수 있는가
GPU 자체를 분할하는 방식은 아니지만 VM을 이용해 여러 부서가 자원을 나누는 구성을 제안했습니다. 동시 사용자와 모델 크기에 따라 실제 성능 검증이 필요합니다.
7. 외부 시스템과 연동할 수 있는가
박스에서 처리한 데이터를 내부 API, ERP 또는 퍼블릭 클라우드로 전달하는 것은 기술적으로 가능합니다. 온프레미스 경계를 벗어나는 구간의 권한과 데이터 정책은 별도로 설계해야 합니다.
8. 사무실에서 소음과 발열은 괜찮은가
HP 워크스테이션은 데이터센터가 아니라 사무실 사용을 전제로 설계되어 정숙성과 안정성을 강조했습니다.
9. 어떤 크기의 LM을 사용하는가
발표 시점에는 Solar Pro 2 30B를 제공 모델로 소개하고, 250B와 500B급 프런티어 모델을 개발하는 로드맵을 언급했습니다. 워크스테이션에서는 산업 활용과 응답 속도의 균형점으로 30B급을 계속 경량화하는 방향입니다.
10. 도입 효과 KPI는 무엇인가
사용량, 처리 문서 수, 정확도, 응답 시간과 실제 업무 시간 절감을 측정합니다. 이 지표로 서버와 워크스테이션 구성 가설을 검증합니다.
11. 다국어 교차 검색을 지원하는가
발표 시점에는 한국어·영어·일본어를 공식 지원하고, 태국어·베트남어·말레이어·인도네시아어 등 아시아태평양 언어로 확장하는 계획을 소개했습니다.
12. AI 시대 직장인은 무엇을 준비해야 하는가
패널들은 AI를 업무를 대체하는 대상만으로 보지 말고 다양한 도구를 직접 사용해 노하우를 쌓아야 한다고 강조했습니다. AI 결과에는 사람의 확인이 필요하며, 개인의 경험을 토큰 기반 작업 방식과 결합하는 역량이 중요하다는 의견입니다.
13. 금융권 보안 체계와 연동할 수 있는가
업스테이지의 엔터프라이즈 경험을 바탕으로 DLP, IAM, SSO, 계정 체계와 연동하는 방향을 설명했습니다. 규모가 커지면 완제품만 설치하는 수준을 넘어 일부 구축과 데이터 거버넌스 설계가 필요할 수 있습니다.
관찰과 시사점
- 기업 AI의 경쟁 단위는 모델 하나가 아닙니다. 문서 수집, 파싱, 검색, 추출, 권한, 감사, 시스템 연동까지 묶인 운영 체계가 제품의 실질 가치입니다.
- 온프레미스는 보안과 비용의 선택지입니다. 반복적인 대량 문서 처리에서는 클라우드 토큰 비용과 데이터 반출 부담을 줄일 수 있지만, 자체 운영 책임은 커집니다.
- RAG와 에이전트는 연속선에 있습니다. 근거 기반 답변에서 시작해 데이터 추출과 보고서 생성, 업무 시스템 연동으로 확장됩니다.
- 작은 POC가 중요합니다. 전사 범위보다 문서 유형과 성공 기준이 명확한 한두 업무에서 정확도와 시간을 먼저 측정해야 합니다.
- Document AI가 KMS의 입구가 됩니다. 비정형 문서를 구조화해야 AI Native KMS와 에이전트가 안정적으로 재사용할 수 있는 지식이 됩니다.
출처와 범위
이 문서는 2026년 6월 23일 공개된 토크아이티 웨비나의 내용을 2026년 7월 10일 정리한 것입니다. 제품 사양, 지원 언어, 모델 크기, 성능 수치와 출시 일정은 웨비나 발표 시점의 설명이므로 실제 도입 전 최신 자료를 확인해야 합니다.
- 원문 영상: 문서 AI, RAG, 에이전트까지… HP x 업스테이지 AI Appliance 전략
- 채널: 토크아이티(Talk IT)