범용 AI 넘어 업무 특화 AI가 온다

Salesforce와 Nvidia가 영업·마케팅·고객 지원 업무에 맞춘 추론 모델 Koa를 공개했습니다. 동시에 Atlassian은 시스템 장애 원인 분석을, Fleet은 기기 보안 대응을 AI로 자동화하는 방식을 시험하고 있습니다. AI의 경쟁은 이제 “무엇이든 답하는 모델”보다 특정 업무에서 얼마나 근거 있게 작동하는지로 이동하고 있습니다.

범용 AI에서 업무 특화 AI로

Koa는 Nvidia의 오픈 웨이트 모델 Nemotron을 기반으로, Salesforce가 영업과 고객 지원 같은 업무에 맞게 사후 학습한 모델입니다. 사후 학습(Post-training, 사전 학습 뒤 특정 목적에 맞춰 성능을 조정하는 과정)은 범용 언어 모델을 실제 업무 흐름에 맞추는 핵심 방법입니다.

중요한 점은 모델 자체의 크기보다 적용 범위입니다. Koa는 고객 데이터를 학습에 직접 쓰지 않고, 실제 업무 패턴을 본뜬 합성 데이터로 훈련했다고 밝혔습니다. 또한 요청 성격에 따라 적절한 모델로 보내는 AI 게이트웨이(AI gateway, 요청별 모델 선택·연결 계층)를 활용합니다. 이는 하나의 AI에 모든 판단을 맡기기보다, 과제와 보안 조건에 따라 도구를 나누는 흐름을 보여 줍니다.

개발·운영 현장에서는 ‘근거’가 핵심입니다

Atlassian은 메트릭, 로그, 분산 추적, 서비스 연결 구조를 함께 분석해 장애 원인을 추정하는 방식을 제시했습니다. 분산 추적(Distributed tracing, 여러 서비스에 걸친 요청 흐름을 기록·추적하는 기술)을 통해 이상 징후의 시간 순서와 서비스 의존성을 함께 살피고, 가능한 원인과 근거를 우선순위로 제시하는 방식입니다.

이 접근의 핵심은 AI가 답을 단정하지 않는 데 있습니다. 엔지니어가 근거를 검토한 뒤 조치하도록 설계합니다. 교육에서도 마찬가지입니다. AI가 만든 요약·코드·분석 결과를 그대로 제출하기보다, 어떤 자료와 과정에서 나온 결과인지 확인하는 습관이 더 중요해집니다.

교육 현장에 주는 시사점

학생에게 필요한 역량은 단순히 프롬프트를 잘 쓰는 능력에 머물지 않습니다. 과제의 목적에 맞는 모델과 도구를 고르고, 입력한 자료에 개인정보나 민감한 정보가 포함되는지 판단하며, 출력 결과를 원문과 대조하는 능력이 필요합니다.

교육자도 범용 챗봇 하나로 모든 학습 활동을 해결하려 하기보다 역할을 나눌 수 있습니다. 예를 들어 아이디어 발상에는 대화형 AI를, 코딩 오류 점검에는 코드 분석 도구를, 프로젝트 회고에는 근거가 남는 문서 기반 도구를 활용하는 식입니다. 평가에서는 최종 답보다 자료 선택, 검증 과정, 수정 이유를 함께 보게 하면 AI 활용 여부와 무관하게 학습 과정을 더 잘 확인할 수 있습니다.

학생 활용법

팀 프로젝트에서 AI에게 “정답”을 요구하기보다 역할을 정해 보세요. 자료 요약, 반대 근거 찾기, 코드 오류 가설 만들기를 각각 요청한 뒤 원문·실행 결과로 검증하면 AI를 더 안전하고 깊이 있게 활용할 수 있습니다.

보안과 개인정보는 함께 설계해야 합니다

Fleet의 사례는 AI 도입 속도만큼 보안 대응 속도도 중요하다는 점을 보여 줍니다. Fleet 조사에서는 조직의 79%가 중요한 보안 패치를 배포하는 데 하루 이상 걸린다고 밝혔습니다. 학교와 학생 개인도 AI 도구에 과제 파일, 상담 기록, 연락처, 녹음 자료를 넣기 전에 저장·학습·공유 범위를 확인해야 합니다.

업무 특화 AI의 확산은 교육에도 더 정교한 도구를 가져올 수 있습니다. 그러나 좋은 활용의 기준은 자동화 수준이 아니라, 결과를 설명하고 검증하며 개인정보를 지킬 수 있는지에 달려 있습니다.