프롬프트 샌드박스를 넘어: 기업 AI는 조달과 책임 경계로 간다

장난감 단계를 벗어나기: AI는 운영 인프라가 된다

6월 11일 OpenAI는 BBVA가 ChatGPT Enterprise를 전 세계 100,000명 직원에게 확대하고 있다고 발표했습니다. 하루 전에는 LSEG의 4,000명 trusted AI 사례도 공개됐습니다. 창업자에게 이 두 숫자는 분명한 운영 신호입니다. 조달권이 먼저입니다. 다음 결정은 누가 구매하고, 누가 데이터를 보고, 누가 멈출 수 있는가입니다.

AI 프로젝트는 많지만 성과가 작거나, 보안 책임자가 새 도구를 계속 막고 있다면 문제는 프롬프트 실력만이 아닙니다. 대개는 동적 통제가 필요한 자동화에 과거의 프로젝트 승인 논리를 그대로 적용하고 있기 때문입니다.

ALTOS LAB 관점: 책임 경계가 해자입니다. 조달, 권한, 검토, 복구가 일상 운영에 들어간 뒤에야 agent 자율화를 말할 수 있습니다.

십만 명 규모에서 보이는 신뢰의 설계

BBVA는 ChatGPT Enterprise를 전 세계 100,000명 직원에게 확대하고 있습니다. 금융업은 규제 준수와 개인정보 보호 요구가 매우 엄격합니다. 이 정도 규모를 가능하게 하는 핵심은 더 똑똑한 모델을 찾는 것만이 아니라, AI를 은행 디지털 전환의 중심 엔진으로 보고 데이터 분리와 검토 지점을 운영 안에 심는 것입니다.

LSEG도 trusted AI를 4,000명 직원에게 확산하고 있습니다. 글로벌 금융시장 데이터를 다루는 조직에서 AI의 가치는 인사이트에서 출시까지의 시간을 줄이면서 정확성을 유지하는 데 있습니다. 두 사례가 말하는 것은 같습니다. AI 사용자가 수십 명에서 수만 명으로 늘어날 때, 성패는 제도화된 신뢰에 달려 있습니다. 모델 출력, 자동화된 의사결정 경로, 사람의 중단 권한은 모두 추적 가능해야 합니다.

조달 경로는 클라우드와 재무의 중심으로 돌아온다

대만 창업자와 운영 책임자에게 또 하나의 실무 변화가 있습니다. 과거에는 새로운 AI 모델을 도입하려면 새 공급업체 계약, 새로운 보안 심사, 기존 재무 프로세스 밖의 예산이 필요한 경우가 많았습니다.

Oracle과 OpenAI의 협업은 이 경로를 바꿉니다. 자격을 갖춘 Oracle Cloud Infrastructure 고객은 Oracle Universal Credits로 OpenAI models and Codex를 사용할 수 있습니다. 즉 AI 지출이 팀별 SaaS 구독으로 흩어지는 대신, 기존 클라우드 약정, 조달 계약, 인프라 예산에 가까워집니다.

ALTOS LAB의 판단은 명확합니다. AI를 구매할 때 어떤 모델이 가장 강한지만 묻지 마십시오. 그 지출이 기존 공급업체 거버넌스, 보안 심사, 비용 귀속 체계 안에 들어갈 수 있는지를 물어야 합니다. 조달 경로가 명확해야 AI가 파일럿에서 장기 운영 능력으로 이동합니다.

자율성 이전에 중단권과 복구 경로를 설계하라

Microsoft WorkLab은 AI의 가치를 업무 재설계와 human agency에 둡니다. Anthropic도 agent autonomy를 논의하며 중단, 감독, 작업 흔적, 완료 품질을 함께 봐야 한다고 설명합니다. 창업자에게 이 메시지는 매우 실무적입니다. AI agent는 사람이 덜 개입한다고 좋은 것이 아니라, 필요한 순간 사람이 보고 멈추고 고칠 수 있어야 좋습니다.

많은 회사가 고객지원, 영업, 재무, 운영을 agent가 자동으로 끝내는 장면을 상상합니다. 하지만 고객 데이터, 결제, 계약, 브랜드 답변, 내부 권한이 관련된 흐름이라면 매끄러운 데모만으로는 부족합니다. 누가 데이터 접근을 승인하는지, 어떤 동작은 반드시 사람의 승인을 기다려야 하는지, 오류 후에는 어느 안전한 상태로 돌아갈 수 있는지를 먼저 정의해야 합니다.

이번 주 창업자가 바로 할 세 가지

첫째, 현재 AI 사용을 세 가지로 나누십시오. 개인 생산성 도구, 팀 협업 도구, 핵심 데이터나 고객 약속에 닿는 도구입니다. 세 번째 범주는 즉시 공식 검토와 권한 설계 대상으로 옮겨야 합니다.

둘째, AI 조달을 재무와 IT 거버넌스 안으로 되돌리십시오. 각 부서가 독립적으로 구매하면 비용, 데이터 노출, 위험의 전체 모습을 잃게 됩니다.

셋째, 모든 AI workflow에 중단과 복구 경로를 넣으십시오. 작업을 완료할 수 있는지만 묻지 말고, 누가 즉시 멈출 수 있는지, 누가 기록을 확인하는지, 누가 잘못된 출력을 수동 검토로 되돌릴 수 있는지를 물어야 합니다.

ALTOS LAB의 결론은 분명합니다. 2026년 기업 AI 경쟁은 모델 능력만으로 결정되지 않습니다. AI를 관리 가능하고, 감사 가능하고, 복구 가능한 업무 시스템 안에 넣을 수 있는지가 승부를 가릅니다. 프롬프트는 여전히 중요하지만 더 이상 주전장이 아닙니다. 주전장은 책임 경계입니다.