DAILY NEWSLETTER · 2026-07-13 · 공공데이터 MCP · 안전한 실행 · 행동 기록

7월 13일 AI 운영 브리핑 — 공공데이터를 잇고, 안전하게 실행하고, 행동을 남기는 법

오늘의 신호는 서로 다른 곳에서 왔다. 서울시는 생성형 AI가 실시간 공공데이터를 참조하도록 MCP 시범 운영을 예고했고, KAIST 현장에서는 여러 AI 에이전트가 연구와 설계 작업을 나누는 사례가 공개됐다. 동시에 에이전트가 무엇을 답했는지가 아니라 어떤 권한으로 무엇을 실행했는지를 남겨야 한다는 요구가 선명해지고 있다.

오늘의 세 가지 포인트

첫째, MCP는 모델을 더 똑똑하게 만드는 마법이 아니라 외부 데이터의 출처와 갱신 시점을 업무 흐름에 연결하는 인터페이스다. 둘째, 에이전트 자동화는 긴 작업을 끝내는 데모보다 권한을 좁게 나누고 사람의 승인 지점을 두는 운영에서 가치를 만든다. 셋째, 정상 응답과 정상 시스템 상태만으로는 부족하다. 요청부터 도구 호출, 근거, 결과, 복구까지 이어지는 행동 기록이 있어야 실행을 검토할 수 있다.

1. 공공데이터 MCP: 답변의 출처·범위·최신성을 분리해서 다룬다.
2. 업무 자동화: 읽기·초안·실행 권한과 승인·롤백을 작업 단위로 정한다.
3. 행동 기록: 최종 문장보다 실제 행동 경로를 추적한다.

1. 서울시 공공데이터 MCP는 ‘환각 해결’보다 신뢰 경계를 설계할 계기다

머니투데이는 서울시가 혼잡도·날씨·대중교통 등 실시간 공공데이터를 바탕으로 생성형 AI가 답변할 수 있도록 MCP를 시범 운영한다고 전했다. 아시아투데이도 서울의 실시간 공공데이터를 생성형 AI에서 직접 불러오는 공공데이터 MCP 시범 운영 계획을 보도했다. 공개된 안내에 따르면 인증키 신청 페이지는 7월 14일 오전 11시에 공개될 예정이다. 이 변화의 핵심은 챗봇이 더 유창한 문장을 만든다는 데 있지 않다. 언제 어떤 데이터 소스를 조회했고, 그 데이터가 어느 범위와 시점까지 유효한지를 답변과 함께 다룰 수 있는 길이 열린다는 데 있다.

원문 · 머니투데이혼잡도·날씨·대중교통 실시간 제공…서울시, AI에 공공데이터 연결서울시가 MCP로 실시간 도시 데이터를 AI 질의에 연결하는 시범 운영 계획을 전한 기사다.

이때 ‘공공데이터를 붙이면 환각이 사라진다’고 말하는 것은 과장이다. MCP는 모델의 추론을 정답으로 보증하지 않는다. 데이터가 지연됐거나, 요청이 데이터의 적용 범위를 벗어났거나, 여러 출처가 서로 다른 상태를 보인다면 모델은 여전히 잘못된 결론을 낼 수 있다. 운영자는 데이터 소스의 소유자와 갱신 주기, 질의 가능한 범위, 실패 응답, 인용 방식부터 분명히 해야 한다. 실시간이라고 부르는 데이터도 마지막 갱신 시각을 확인할 수 있어야 하며, 질문이 제공 범위를 넘으면 모른다고 답하거나 다른 확인 경로로 넘겨야 한다.

원문 · 아시아투데이AI 정확도 높인다…서울시 ‘실시간 공공데이터’ 시범 운영생성형 AI가 서울의 실시간 공공데이터를 직접 참조하도록 하는 시범 운영을 설명한다.

작은 팀의 최소 설계는 복잡하지 않다. 데이터 연결마다 읽기 전용인지, 외부 시스템을 바꿀 수 있는지부터 구분한다. 응답에는 원본 데이터의 식별자와 조회 시각을 붙이고, 입력이 불완전하거나 도구가 실패하면 이전에 저장한 답을 재사용하지 않는다. 시민 데이터, 위치·이동 데이터, 개인 식별 가능 정보가 섞이는 경우에는 접근 범위와 보존 기간을 별도로 둔다. 모델은 데이터를 ‘읽는’ 주체일 수 있어도, 그 데이터로 어떤 행위를 허용할지는 별도의 정책이 결정해야 한다.

이번 시범 운영은 한국어 환경에서 MCP를 업무 시스템에 연결하려는 팀에게도 실용적인 기준점이 된다. 새로운 서버를 찾는 일보다 먼저, 어떤 질문이 어떤 출처를 요구하는지 목록을 만든다. 그 다음 각 출처에 대해 최신성, 권한, 인용, 장애 시 대체 경로를 적는다. 이 네 칸을 채우면 MCP는 단순한 도구 목록이 아니라 검증 가능한 외부 지식 경계가 된다.

질문을 데이터 질의와 의사결정으로 나누는 습관도 필요하다. “지금 특정 지역이 혼잡한가”는 출처와 조회 시각을 붙여 확인할 수 있는 질의다. 반면 “지금 그곳에 가도 되는가”는 날씨, 이동 시간, 개인의 목적처럼 데이터 밖의 판단을 포함한다. 시스템이 이 둘을 같은 확신의 문장으로 섞지 않도록, 원시 데이터·요약·권고를 화면과 로그에서 구분한다. 공공데이터 연결의 품질은 더 많은 API 수보다 사용자가 어디까지가 사실이고 어디부터가 해석인지 알아볼 수 있는지에서 드러난다.

2. 에이전트가 일을 나눠도 실행 권한과 중단 지점은 사람이 설계해야 한다

헬로디디는 KAIST 테라랩에서 AI 연구 요원들이 논문 탐색, 코드 작성, 결과 정리 같은 역할을 나눠 협업하고, 연구자가 그 초안을 검토하며 방향을 잡는 사례를 소개했다. 전자신문은 같은 연구실이 HBM 설계와 연구 업무 자동화 워크숍을 열고 설계·시뮬레이션 자동화, 문서 관리, 연구 지원 사례를 공유한다고 전했다. 두 보도는 에이전트가 질문 답변을 넘어 여러 단계의 작업을 이어 갈 수 있음을 보여준다. 동시에 최종 판단을 사람 연구자가 맡는 구조도 드러낸다. 협업 에이전트의 가치는 사람을 흐름에서 지우는 데 있지 않고, 사람이 검토해야 할 순간을 더 선명하게 만드는 데 있다.

원문 · 헬로디디AI 연구 요원들 소통하며 협업···반도체 설계부터 시뮬레이션도 척척여러 AI 에이전트가 연구·설계 업무를 나누고 사람이 결과의 방향을 검토하는 현장 사례다.

업무 자동화를 시작할 때 ‘이 에이전트가 프로젝트 전체를 처리할 수 있는가’부터 묻기 쉽다. 더 중요한 질문은 ‘이 작업에서 에이전트가 독자적으로 해도 되는 행동은 어디까지인가’다. 문서 검색과 비교표 초안은 읽기 권한으로 충분할 수 있다. 코드 변경안을 작성하는 일은 격리된 브랜치에서 수행하게 할 수 있다. 고객에게 메일을 보내거나 생산 시스템의 상태를 바꾸거나 비용을 집행하는 행위는 별도 승인 없이는 실행되지 않아야 한다. 권한을 기능 이름이 아니라 행동의 부작용 기준으로 나누면 자동화 범위가 커져도 책임 경계가 흐려지지 않는다.

원문 · 전자신문KAIST 테라랩, 3일 HBM 설계·연구 업무 자동화 워크숍 개최AI 에이전트를 설계·시뮬레이션·문서 관리·연구 지원에 적용하는 사례를 소개한다.

안전한 데스크톱이나 브라우저 실행 환경도 같은 원칙으로 읽어야 한다. 격리된 화면을 제공하는 것만으로 안전해지지 않는다. 어떤 계정으로 로그인했는지, 파일 다운로드와 업로드가 가능한지, 외부 사이트에 입력할 수 있는 데이터가 무엇인지, 세션 종료 뒤 남는 상태가 무엇인지가 함께 정리돼야 한다. 팀은 작업 요청에 목적·허용 도구·입력 데이터·예상 산출물·승인자·중단 조건을 짧게 붙일 수 있다. 에이전트가 이 계약 밖의 도구를 요구하거나, 예상하지 못한 쓰기 권한을 요청하면 자동 진행 대신 승인 큐로 전환한다.

롤백도 사후 대응 문구가 아니라 작업 설계의 일부다. 자동화가 파일을 잘못 바꿨을 때 이전 버전이 남는가, 외부 폼을 잘못 제출했을 때 어떤 담당자가 취소할 수 있는가, 시뮬레이션 결과가 의심스러울 때 후속 시스템으로 전달되기 전에 멈출 수 있는가를 미리 정한다. 특히 여러 에이전트가 서로 결과를 넘기는 흐름에서는 한 단계의 오류가 다음 단계에서 사실처럼 증폭될 수 있다. 단계 사이에 검증 가능한 산출물과 사람의 게이트를 두는 편이 빠른 복구 비용을 낮춘다.

3. 행동 기록은 장애 로그의 확장이 아니라 에이전트 신뢰를 위한 증거 구조다

IT조선은 기존 모니터링이 서버 장애와 응답 지연을 중심으로 봤지만, AI 서비스는 정상 응답 안에서도 오답, 환각, 잘못된 근거 문서 사용, 권한 밖 도구 호출을 일으킬 수 있다고 짚었다. WorkOS는 기존 애플리케이션 로그가 필요하지만 에이전트 활동을 감사하기에는 충분하지 않다고 설명한다. 후자는 기업의 기술 가이드이므로 독립 검증 결과로 읽을 수는 없지만, 두 자료가 만나는 문제는 구체적이다. 모델의 최종 문장과 서버의 상태 코드만으로는 한 번의 에이전트 실행을 재현하거나 책임을 판단하기 어렵다.

원문 · IT조선알아서 일하는 AI 에이전트, ‘행동 기록’이 신뢰 좌우 [AI 운영②]정상 응답만으로는 감지하기 어려운 잘못된 근거와 권한 밖 도구 호출 문제를 짚는다.

행동 기록은 내부 추론을 전부 저장하자는 요구가 아니다. 한 실행을 따라갈 수 있는 최소 증거를 연결하자는 제안이다. 누가 어떤 목적의 작업을 요청했는지, 어떤 정책과 승인으로 실행이 시작됐는지, 어떤 도구가 어떤 입력을 받고 무엇을 반환했는지, 어떤 근거가 최종 산출물에 반영됐는지, 실제 외부 상태가 바뀌었는지, 실패했다면 복구됐는지를 같은 실행 ID로 묶는다. 이 구조가 있으면 운영자는 ‘답변이 이상했다’는 인상 대신 어느 단계에서 경계가 무너졌는지 조사할 수 있다.

원문 · WorkOSWhy AI agent audit logs are different from application logs기존 로그만으로는 에이전트의 권한·행동·위임 관계를 충분히 감사하기 어렵다는 기술 가이드다.

기록을 늘리는 것이 곧 좋은 관측성은 아니다. 민감한 프롬프트와 원문 데이터를 무분별하게 장기 보관하면 새로운 보안 문제를 만든다. 원문이 필요 없는 경우에는 참조 ID와 해시, 데이터 분류, 접근 권한만 남길 수 있다. 사용자 화면에는 작업 상태, 변경 대상, 승인 요청처럼 필요한 수준의 설명을 보여주고, 운영·보안 담당자에게만 더 깊은 감사 정보를 열어야 한다. 보존 기간과 조회 권한을 처음부터 설계하면 증거가 책임을 흐리는 감시 데이터로 변질되는 일을 줄일 수 있다.

작은 팀은 외부 부작용이 있는 도구 호출부터 시작하면 된다. 한 줄의 실행 레코드에 요청자, 승인자, 권한 범위, 도구 이름, 결과 링크, 변경된 대상, 롤백 여부를 연결한다. 매주 실패가 잦거나 사람 개입이 많은 작업 세 개를 다시 본다. 반복되는 중단 이유가 권한 부족인지, 근거 데이터 품질인지, 도구 오류인지 분리해 고치면 에이전트의 자율성은 한 번에 넓히는 약속이 아니라 증거 위에서 조정하는 능력이 된다.

운영자 메모

오늘의 세 뉴스는 하나의 순서로 이어진다. 공공데이터 MCP처럼 외부 데이터를 연결하면 출처와 최신성을 관리해야 한다. 그 데이터를 바탕으로 에이전트가 일을 수행하면 읽기와 실행의 권한을 분리하고 승인과 롤백을 둬야 한다. 마지막으로 그 권한이 실제로 어떻게 쓰였는지 남겨야 다음 실행을 더 넓게 허용할 근거가 생긴다. 연결, 실행, 기록 중 하나만 강화하면 나머지 둘이 운영 리스크로 남는다.

이번 주에는 이미 돌아가는 자동화 하나를 골라 세 장의 문서 대신 한 장의 운영 계약으로 정리해 볼 만하다. 왼쪽에는 참조 데이터와 갱신 시각, 가운데에는 허용 도구·승인 지점·중단 조건, 오른쪽에는 실행 ID·결과·복구 링크를 둔다. 그 한 장을 보고 “왜 이 데이터인가”, “왜 이 행동이 허용됐나”, “무엇이 실제로 바뀌었나”에 답할 수 있는지 확인한다. 답이 흐리면 더 큰 모델이나 더 많은 도구보다 경계와 기록을 먼저 고칠 차례다.

AI 운영의 성숙도는 자율 실행 횟수만으로 측정하기 어렵다. 같은 속도로 더 많은 일을 처리하면서도 데이터의 출처, 권한의 근거, 실패 후의 상태를 설명할 수 있어야 한다. 이 세 가지가 얇게라도 연결된 팀은 새로운 MCP 서버나 에이전트 도구가 나와도 제품별 설정을 반복하는 대신 일관된 운영 원칙을 적용할 수 있다.

실무에서 이 원칙은 담당자 역할을 명확히 할 때 더 잘 작동한다. 데이터 소유자는 갱신 주기와 사용 범위를 확인하고, 업무 소유자는 자동화가 달성해야 할 완료 기준을 정하며, 시스템 소유자는 권한·비밀값·네트워크 경계를 관리한다. 이 셋이 같은 사람이더라도 역할을 문서에서 분리해 두면 누락을 찾기 쉽다. 승인자는 단순히 ‘실행’ 버튼을 누르는 사람이 아니라, 변경 대상과 근거, 예상 영향, 되돌릴 방법을 함께 확인하는 사람이어야 한다.

운영 지표도 실행 횟수만 보지 않는 편이 낫다. 승인 대기에서 멈춘 비율, 정책 밖 권한 요청 수, 출처를 확인하지 못해 사람에게 넘긴 건수, 롤백까지 걸린 시간을 작업별로 본다. 이 수치는 자동화를 줄이기 위한 감시가 아니라, 어디에서 더 안전하게 자율 범위를 넓힐 수 있는지 알려주는 신호다. 반복해서 같은 지점에서 사람이 개입한다면 그 지점을 제거하기보다 필요한 근거와 권한을 더 명확히 만들어야 한다.

이번 주에 해볼 일

서울시 공공데이터 MCP의 시범 운영은 신뢰 가능한 외부 데이터를 AI 흐름에 붙이는 실험을 가깝게 만든다. 연구·업무 에이전트 사례는 자동화의 가치가 사람 검토를 없애는 데 있지 않음을 보여준다. 행동 기록 논의는 그 검토가 사후 추측이 아니라 증거 위에서 이뤄져야 한다는 기준을 준다. 다음 자동화를 시작하기 전, 데이터 출처·실행 권한·복구 가능한 기록이 한 작업 안에서 연결되는지 먼저 확인해 볼 만하다.