"이 데이터 정리해서 보고해줘"라는 말에 가슴이 철렁한 적, 있으시죠? 피벗 테이블을 만들었다 지웠다 한 시간을 헤매고도 결국 빈손으로 돌아선 경험은 직장인이라면 누구나 한 번쯤 있을 겁니다. 함수는 아무리 봐도 외워지지 않고, 검색해서 그대로 따라 해도 내 데이터에서는 꼭 어딘가 어긋나죠.
다행히 이제는 엑셀 함수를 몰라도 괜찮습니다. ChatGPT·Claude·Gemini·Copilot 같은 AI에 파일을 올리고 평소 말투로 묻기만 하면, 집계와 피벗, 차트, 인사이트까지 알아서 만들어주거든요. 이 글은 데이터 분석이 본업이 아닌 직장인을 위해 시작 방법부터 도구 선택, 결과 검증, 회사 데이터를 안전하게 다루는 원칙까지 차근차근 정리한 실전 가이드입니다. 아래 목차에서 지금 필요한 부분만 골라 읽으셔도 좋습니다.
회의 자료를 만들다 보면 누구나 한 번쯤 막힙니다. "이번 분기에 어느 업종에서 기회가 가장 많았는지", "담당자별 성사율이 어떤지" 정리하라는 요청은 평범해 보이지만, 막상 시작하면 피벗 테이블과 수식 앞에서 손이 멈춥니다. VLOOKUP은 매번 검색해서 쓰고, 피벗은 행과 열에 뭘 넣어야 할지 헤매고, 수식 한 줄에서 #REF!나 #N/A가 뜨면 작업이 거기서 멈추는 경험. 데이터 분석이 본업이 아닌 직장인이라면 누구나 공감할 장면입니다.
그런데 2026년 현재, 데이터 분석의 문턱은 빠르게 낮아지고 있습니다. ChatGPT, Claude, Gemini, Microsoft Copilot 같은 AI에 데이터 파일을 올리고 사람 말로 묻기만 하면, 함수를 몰라도 집계·비율·차트·인사이트를 얻을 수 있습니다. '분석을 잘하는 사람'이 되는 게 아니라, '분석이라는 일을 AI에 시키는 사람'이 되는 것입니다. 실제로 가트너는 2026년 말까지 기업용 애플리케이션의 40%가 작업 특화형 AI 에이전트를 내장할 것으로 전망했고, 기업의 79%가 이미 일상 업무에 AI 에이전트를 활용하고 있다는 조사도 있습니다. 데이터 분석 역시 그 흐름의 한가운데에 있습니다.
이 글은 데이터 분석이 본업이 아닌 직장인을 위한 실전 가이드입니다. 무엇을 어떻게 시작하는지, 어떤 질문을 던지면 되는지, 결과를 어떻게 믿을 수 있는지, 그리고 회사 데이터를 다룰 때 반드시 지켜야 할 보안 원칙까지 한 번에 정리했습니다. 읽고 나면 지금 책상 위에 있는 스프레드시트부터 바로 시도할 수 있습니다.
AI 데이터 분석이란, 데이터 파일을 AI에 올리고 자연어로 질문하면 AI가 직접 코드를 실행해 집계·시각화·해석까지 수행하는 분석 방식을 말합니다. 함수나 프로그래밍 지식 없이도, 알고 싶은 것을 말로 묻는 것만으로 분석이 이뤄진다는 점이 핵심입니다.
먼저 알아둘 점이 있습니다. 요즘 주요 AI들은 업로드한 표를 단순히 '읽고 흉내 내는' 것이 아니라, 데이터를 실제로 코드로 계산합니다. 예를 들어 ChatGPT는 내부에서 파이썬을 돌려 데이터를 집계하고, 그 결과를 사람 말로 풀어 보여줍니다. 사용자가 파이썬을 한 줄도 모르더라도, 파이썬이 할 일을 AI가 알아서 처리합니다.
이 차이는 생각보다 중요합니다. 글만 그럴듯하게 생성하는 방식이라면 "대략 이 업종이 많을 것 같습니다" 수준에 그칠 수 있습니다. 하지만 데이터를 직접 코드로 돌리면 "제조업 612건, 유통업 540건"처럼 셀 수 있는 숫자가 나옵니다. 표를 눈으로 훑어 어림짐작하는 게 아니라, 3,000행이든 3만 행이든 끝까지 세서 답을 준다는 뜻입니다.
즉, 단순한 합계나 정렬뿐 아니라 그룹별 집계, 비율 계산, 조건별 필터링, 중복 제거, 날짜별 추이처럼 엑셀에서 여러 단계를 거쳐야 하는 작업을 한 번의 질문으로 처리할 수 있습니다. 이 점이 'AI에게 글을 시키는 것'과 'AI에게 데이터 분석을 시키는 것'의 결정적 차이입니다.
구체적으로 어떤 일을 시킬 수 있는지 감을 잡아두면 활용 범위가 넓어집니다. 예를 들어 월별 매출 추이를 뽑아 전월 대비 증감률을 계산하거나, 고객 명단에서 중복을 제거하고 지역별로 분류하거나, 설문 응답 수백 건을 긍정·부정·중립으로 분류해 비율을 내거나, 주문 데이터에서 재구매 고객만 추려 평균 구매액을 비교하는 식입니다. 모두 엑셀이라면 함수와 피벗을 몇 차례 거쳐야 하는 작업이지만, AI에게는 한두 문장이면 충분합니다. 핵심은 'AI가 표를 진짜로 계산한다'는 사실을 믿고, 평소 엑셀로 하던 작업을 그대로 말로 옮겨보는 것입니다.
AI 데이터 분석은 거창한 준비가 필요 없습니다. 분석하려는 파일을 채팅창에 올리는 것으로 시작합니다. 파일 형식은 너무 고민하지 않아도 됩니다. 엑셀 파일(xlsx)이든, 구글 시트에서 내려받은 CSV든 대부분 그대로 인식합니다.
다만 표가 깔끔할수록 결과가 정확합니다. 몇 가지만 점검하면 시행착오를 크게 줄일 수 있습니다. 첫째, 첫 줄은 열 제목으로 시작하는 것이 좋습니다. 시트 맨 위에 보고용 제목이나 안내 문구가 몇 줄 들어가 있으면, AI가 그것을 데이터로 착각할 수 있습니다. 둘째, 중간에 합계 행이나 빈 줄이 끼어 있지 않게 합니다. 소계·합계 행은 집계를 왜곡하는 주범입니다. 셋째, 같은 의미의 값은 표기를 통일해 둡니다. '완료'와 '완료 '(뒤에 공백)가 섞여 있으면 서로 다른 값으로 세어집니다.
데이터 양이 아주 많아도 걱정할 필요는 없습니다. 수천 행, 수만 행 정도는 대부분 무리 없이 처리합니다. 다만 파일이 지나치게 크거나 여러 시트가 얽혀 있다면, 분석에 필요한 시트나 기간만 따로 떼어 올리는 편이 빠르고 정확합니다. 또 표에 수식이 잔뜩 걸려 있다면, 값만 복사해 붙인 사본을 올리는 것이 오류를 줄이는 방법입니다.
요약하면 데이터를 올리기 전에 '제목·요약·빈칸 없이 표만 남기기'를 한 번 점검하는 습관을 들이는 것이 좋습니다. 이 한 단계만으로도 결과의 정확도가 눈에 띄게 올라갑니다.
파일을 올린 다음에는 수식이 아니라 그냥 한국어 문장으로 묻습니다. 예를 들어 "이 데이터에서 업종별 기회 건수를 많은 순서대로 정리해줘. 그리고 담당자별로 '계약 완료' 비율도 표로 보여줘"라고 입력하면 됩니다. 엑셀이었다면 피벗 두 개와 수식 여러 줄이 필요했을 일을, 한 문장으로 부탁하는 것입니다.
잠시 뒤 업종별 건수가 내림차순으로 정리되고, 담당자별 성사율이 퍼센트로 붙은 표가 나옵니다. 여기에 더해, 많은 경우 AI는 묻지 않은 것까지 짚어줍니다. "특정 담당자의 성사율이 평균보다 두 배 가까이 높은데, 이분이 맡은 업종이 한쪽에 몰려 있습니다. 업종 특성 때문일 수 있으니 함께 살펴보면 좋겠습니다" 같은 식입니다. 단순 집계를 넘어, '그래서 무엇을 더 봐야 하는가'라는 다음 질문의 실마리를 주는 셈입니다.
또 하나의 장점은 분석이 한 번으로 끝나지 않고 대화로 이어진다는 점입니다. 첫 표를 받은 뒤 "여기서 금액이 가장 큰 거래처 다섯 곳만 다시 보여줘", "이번 달 신규 고객만 따로 떼서 같은 분석을 해줘"처럼 후속 질문을 던지면, 같은 데이터를 여러 각도로 파고들 수 있습니다. 엑셀에서 조건을 바꿀 때마다 수식을 다시 짜야 했던 것과 달리, 말로 조건을 바꾸기만 하면 됩니다. 데이터를 '한 번 정리하는 일'이 아니라 '계속 질문하며 탐색하는 일'로 바꿔주는 셈입니다.
여기서 중요한 사실 하나. 데이터 분석에 AI를 쓰는 데에 거창한 프롬프트 기술이 꼭 필요한 것은 아닙니다. "업종별로 묶어서 세줘"라는, 동료에게 말하듯 던진 문장으로도 충분합니다. 핵심은 화려한 명령어가 아니라 무엇을 알고 싶은지를 분명히 하는 것입니다. 알고 싶은 게 명확하면, 그것을 평범한 말로 묻기만 해도 됩니다.
대표적인 네 가지 AI 모두 데이터 분석에 충분히 쓸 만합니다. 다만 성격이 조금씩 다릅니다. 비교 평가에 시간을 쓰기보다, 회사에서 이미 쓰는 도구로 시작하는 것이 가장 빠릅니다.
파일을 올려 집계하고 차트까지 뽑는 흐름이 가장 매끄럽습니다. 데이터를 실제로 코드로 돌려 계산하고, 중간에 "이렇게 묶었습니다"라며 과정을 보여주기 때문에 결과를 믿고 검토하기 편합니다. 처음 AI 데이터 분석을 시작한다면 무난한 선택입니다.
같은 표를 줘도 숫자만 던지는 게 아니라 "이 수치가 의미하는 바는 이렇습니다"라고 맥락을 길게 풀어주는 경향이 있습니다. 분석 결과를 가지고 보고용 문장까지 함께 다듬어야 할 때, 분석과 글쓰기를 한 번에 해결하기 좋습니다. 도구별 성격이 더 궁금하다면 Claude vs Copilot vs Gemini 비교 글을 함께 참고할 만합니다.
회사가 Google Workspace를 쓴다면 Gemini가 자연스러운 선택입니다. 구글 시트 안에서 바로 도움을 받을 수 있고, 이미 시트로 협업하는 환경이라면 파일을 따로 올렸다 내렸다 할 필요가 줄어듭니다. 워크스페이스 연동까지 포함한 활용법은 구글 제미나이 사용법 정리에 자세히 나와 있습니다.
회사가 Microsoft 365를 쓴다면 Copilot이 가장 가까운 선택지입니다. Copilot in Excel은 엑셀 안에 내장돼 있어 파일을 따로 올릴 필요조차 없습니다. 시트를 열어둔 채 "지역별·제품별 매출을 요약해줘", "Revenue 열에서 이상치를 찾아줘"라고 말하면 피벗 테이블 생성, 차트 작성, 수식 제안, 트렌드 요약까지 처리합니다. 분석 과정에서 데이터가 회사 테넌트 밖으로 나가지 않는다는 점은 기업 환경에서 특히 중요한 장점입니다. 엑셀 밖에서도 Copilot 챗에 엑셀·CSV 파일을 직접 올려 분석할 수 있으며, 파일당 50MB·대화당 최대 20개까지 지원됩니다.
결론은 단순합니다. 이미 쓰고 있는 도구로 시작하면 됩니다. 넷을 비교하느라 시간을 들이기보다, 회사 계정으로 당장 열리는 것 하나를 골라 파일을 올려보는 편이 훨씬 빠릅니다.
보고할 때는 숫자보다 그림이 잘 먹힙니다. 표를 받은 뒤 "업종별 기회 건수를 막대그래프로, 담당자별 성사율은 가로 막대로 그려줘"라고 다시 부탁하면, 차트가 그대로 그려집니다. 축을 잡거나 색을 고르거나 범례를 맞출 필요가 없습니다.
마음에 들지 않으면 "상위 7개 업종만 보여줘", "값을 막대 위에 숫자로 표시해줘", "회색 톤으로 바꿔줘"처럼 다시 말로 고치면 됩니다. 엑셀에서 차트 서식을 만지느라 메뉴를 헤매던 시간과 비교하면, 거의 대화로 디자인을 시키는 셈입니다. 완성된 차트는 이미지로 내려받아 보고 자료에 바로 붙일 수 있습니다.
다만 한 가지는 기억해 둘 필요가 있습니다. AI가 그려주는 차트는 '빠른 초안'으로는 훌륭하지만, 사내 디자인 양식이나 브랜드 색을 정확히 맞춰야 하는 최종본으로는 한 번 더 손이 필요할 때가 있습니다. 탐색용 차트는 AI로 빠르게, 최종 보고용은 필요하면 다듬기로 역할을 나누는 것이 현실적입니다.
차트를 말로 그릴 수 있게 되면 데이터를 보는 태도 자체가 바뀝니다. 그래프 만드는 게 귀찮아 숫자만 보고 넘기던 습관에서, "이 각도로도 한번 그려봐"라고 가볍게 시켜보는 습관으로 옮겨갑니다.
편리하다고 해서 결과를 무조건 믿어서는 안 됩니다. 실제로 자주 일어나는 실수 하나를 예로 들어보겠습니다. 진행 단계 값에 '계약 완료'와 '완료(해지)'가 함께 있을 때, AI가 둘을 같은 것으로 묶어 세는 경우가 있습니다. 둘은 전혀 다른 의미인데도 말이죠.
원인은 대개 데이터에 있습니다. 같은 뜻인데 입력이 제각각이거나(예: '완료', '계약완료', '완료 '처럼 뒤에 공백이 붙은 값), 비슷한 글자라 AI가 한 묶음으로 보는 것입니다. AI는 시킨 대로 성실하게 셌지만, 그 값들을 회사가 어떻게 구분해 쓰는지는 알 수 없습니다.
그래서 분석을 시키기 전에 "진행 단계에 어떤 값들이 몇 개씩 있는지 먼저 보여줘"라고 묻는 습관이 도움이 됩니다. 값의 종류를 눈으로 확인한 뒤, "'완료(해지)'는 성사에서 제외하고 계산해"처럼 규칙을 분명히 일러주면 숫자가 틀어지는 일이 크게 줄어듭니다.
검증을 돕는 또 하나의 방법은 AI에게 계산 과정을 함께 요청하는 것입니다. "어떤 기준으로 묶었고, 전체 몇 건 중 몇 건을 성사로 셌는지 같이 알려줘"라고 덧붙이면, 결과 숫자뿐 아니라 그 숫자가 나온 근거까지 확인할 수 있습니다. 분모와 분자가 무엇이었는지만 봐도 계산이 의도와 맞는지 금방 판단할 수 있습니다. 특히 비율이나 평균처럼 기준에 따라 값이 크게 달라지는 지표일수록 이 과정이 중요합니다.
교훈은 분명합니다. AI는 계산은 정확히 하지만, 무엇을 계산해야 하는지는 모릅니다. 그것은 데이터의 맥락을 아는 사람의 몫입니다. 그러니 AI가 준 핵심 숫자는 원본에서 한두 개라도 직접 대조해 보는 것이 좋습니다. 전체를 다시 셀 필요는 없지만, "제일 큰 숫자 하나, 제일 작은 숫자 하나"만 확인해도 큰 사고는 막을 수 있습니다.
이 글에서 가장 강조하고 싶은 부분입니다. 분석이 편하다고 회사 데이터를 아무 AI에나 덜컥 올리면 안 됩니다. 데이터 분석에서 가장 먼저 챙겨야 할 것은 속도가 아니라 안전입니다. 다음 세 가지 원칙을 권합니다.
첫째, 꼭 필요한 열만 남깁니다. 업종별 집계가 목적이라면 거래처 실명, 담당자 연락처, 개인을 특정할 수 있는 정보는 분석에 필요 없는 경우가 많습니다. 분석에 쓰지 않을 민감 열은 사본에서 아예 지우거나, 'A사', 'B사'처럼 익명으로 바꿉니다.
둘째, 회사가 승인한 도구와 계정을 씁니다. 개인 무료 계정과 기업용 계정은 데이터 취급 방침이 다릅니다. 많은 기업용 플랜은 입력한 데이터를 모델 학습에 쓰지 않도록 보장합니다. 우리 회사에 어떤 AI 도구가 공식 허용돼 있는지, 어떤 데이터까지 올려도 되는지부터 확인하는 것이 순서입니다. 이는 개인이 판단할 문제가 아니라 회사 차원의 기준이 필요한 영역으로, 기업 AI 사용 정책 수립 가이드가 좋은 출발점이 됩니다.
셋째, 고객·인사·재무 같은 고위험 데이터는 더 보수적으로 다룹니다. 이런 데이터는 사본을 만들더라도 한 번 더 고민하고, 필요하면 담당 부서나 보안 담당자에게 먼저 확인합니다. "분석이 급해서"라는 이유로 넘지 말아야 할 선을 넘는 일은 없어야 합니다.
편리함과 안전함이 부딪힐 때는 안전함을 택하는 편이 길게 보면 이득입니다. 한 번의 사고가 그동안 쌓은 신뢰를 한순간에 무너뜨릴 수 있기 때문입니다.
거창한 프롬프트는 필요 없지만, 자주 쓰이는 질문 패턴은 있습니다. 데이터 분석이 처음이라면 아래 다섯 개만 순서대로 따라 해도 웬만한 작업은 됩니다.
이 다섯 개를 차례로 던지는 것만으로도, 데이터를 처음 받았을 때의 막막함이 "일단 1번부터 물어보자"로 바뀝니다. 시작점이 생긴다는 것이 생각보다 큰 차이를 만듭니다.
AI 데이터 분석은 크게 두 가지 방식으로 활용할 수 있습니다.
하나는 실행을 대신하는 도구로서의 AI입니다. 피벗을 만들고, 비율을 계산하고, 차트를 그리는 일. 사람이 손으로 하면 한 시간씩 걸리고 자주 틀리던 작업을 AI는 몇 초 만에, 그것도 정확하게 해냅니다. 함수를 외울 필요도, 메뉴를 헤맬 필요도 없습니다. 이것만으로도 충분히 가치가 있습니다.
다른 하나는 생각의 동료로서의 AI입니다. "이 숫자가 왜 이렇게 나왔을까", "여기서 무엇을 더 봐야 할까"를 함께 고민하는 역할입니다. 데이터에 익숙하지 않으면 어떤 분석이 의미 있는지 감을 잡기 어려운데, "내가 놓친 게 있을까?"라고 물으면 전문가가 옆에서 한마디 거들어주는 것 같은 힌트가 돌아옵니다.
중요한 것은, 이 둘 어느 쪽도 사람을 데이터 분석가로 만들어주지는 않는다는 점입니다. 함수와 통계를 깊이 몰라도, 데이터에서 필요한 답을 꺼낼 수 있게 해줄 뿐입니다. 분석의 실행은 AI가, 무엇을 왜 분석할지에 대한 판단은 사람이 맡는 구도입니다. 회사 데이터가 어떤 맥락에서 만들어졌고 무엇이 중요한지를 아는 것은 여전히 사람의 영역입니다.
'AI로 데이터 분석 완전 자동화' 같은 콘텐츠가 넘치지만, 거기에 못 미친다고 AI 데이터 분석이 나와 상관없는 일이 되는 것은 아닙니다. 함수를 몰라도 파일 하나 올려 보고서에 쓸 표를 만든 것 역시 분명히 'AI로 데이터를 분석한' 것입니다. 자기 수준에서 시작하는 것, 그것이 핵심입니다.
가능합니다. AI 데이터 분석은 함수 대신 자연어 질문으로 이뤄지기 때문에, "업종별로 묶어서 세줘"처럼 동료에게 말하듯 부탁하면 됩니다. 다만 데이터의 의미(어떤 열이 무엇을 뜻하는지)는 사용자가 알고 있어야 정확한 질문을 던질 수 있습니다.
대부분의 AI가 무료 플랜에서도 파일 업로드와 기본 분석을 지원합니다. 다만 업로드 용량·횟수 제한이 있고, 무료 개인 계정은 입력 데이터가 모델 학습에 활용될 수 있다는 점이 다릅니다. 회사 데이터를 다룬다면 학습 제외가 보장되는 기업용 계정 사용을 권합니다.
계산 자체는 코드로 수행되어 정확하지만, '무엇을 계산할지'를 잘못 이해하면 결과가 어긋날 수 있습니다. 분석 전에 값의 종류를 먼저 확인시키고, 핵심 숫자 한두 개는 원본과 직접 대조하는 습관을 들이면 대부분의 오류를 걸러낼 수 있습니다.
세 가지만 지키면 됩니다. 분석에 필요 없는 민감한 열은 사본에서 제거하고, 회사가 공식 승인한 AI 도구와 계정만 사용하며, 고객·인사·재무 같은 고위험 데이터는 올리기 전에 보안 담당자에게 확인하는 것입니다.
데이터 분석이라는 말은 늘 사람을 주눅 들게 합니다. 통계와 함수와 복잡한 차트가 떠오르고, "저건 잘하는 사람들이 하는 일"이라고 선을 긋게 됩니다. 그러나 AI에 파일을 올리고 말로 물어보면, 그 선이 생각보다 낮다는 것을 알게 됩니다.
물론 AI는 만능이 아닙니다. 값을 잘못 묶어 숫자를 틀리기도 하고, 회사의 사정을 알 리도 없습니다. 그래서 핵심 숫자는 사람이 확인하고, 데이터의 맥락은 사람이 일러주며, 보안은 무엇보다 먼저 챙겨야 합니다. 그렇게 역할을 나누고 나면, AI는 데이터 앞에서 막막해하던 사람에게 가장 든든한 출발점이 됩니다.
지금 스프레드시트를 앞에 두고 어디서부터 손대야 할지 막막하다면, 딱 한 가지만 해보세요. 민감 정보를 한 번 정리한 다음, 회사가 허락한 AI에 파일을 올리고 이렇게 물어보는 것입니다. "이 데이터, 뭐부터 보면 좋을까?" 완벽한 분석은 아니어도, 막막함이 시작점으로 바뀌는 순간을 경험하게 될 것입니다.