서울시, 자체 LLM 기반 AI 도입 … 공무원 업무·시민 상담에 적용

서울시가 이달부터 시민 상담과 행정 업무에 생성형 인공지능(AI)을 도입한다. 공무원은 내부 행정망에 구축된 AI를 통해 업무 매뉴얼 검색과 문서 작성 지원을 받을 수 있고 시민은 카카오톡 챗봇 '서울톡'에서 행사·축제 등 생활 정보를 생성형 AI 기반으로 안내받을 수 있게 된다.

서울시는 11일 생성형 AI를 적용한 챗봇 2.0 운영을 시작했다고 밝혔다.

챗봇 2.0은 직원용 AI 행정 지원 서비스와 시민용 챗봇 서울톡으로 구성된다. 행정 내부에서는 공무원이 업무 자료를 찾고 문서를 작성하는 과정을 AI가 돕고, 시민 대상 서비스에서는 기존 챗봇보다 자연스러운 방식으로 생활 정보를 제공하는 것이 핵심이다.

직원용 서비스는 서울시 행정망 내부에 구축한 대규모 언어모델을 기반으로 운영된다. 외부 인터넷망이 아닌 내부 행정망에서 작동하도록 해 보안이 필요한 행정 자료를 다룰 수 있도록 했다. 서울시는 지난해 9월 사업에 착수한 뒤 약 6개월 동안 개발과 시범운영을 거쳐 응답 정확도와 사용자 편의성을 보완했다고 설명했다.

우수현 서울시 AI행정운영팀장은 "보안성과 활용성을 함께 확보하기 위해 내부망 기반 자체 AI와 외부 상용 생성형 AI를 나눠 활용하는 방식도 도입했다"고 밝혔다. 보안이 필요한 내부 행정 업무는 자체 AI가 담당하고 최신 정보 검색이나 아이디어 정리 등 일반 업무는 외부 생성형 AI 서비스인 '서울AI챗'이 맡는다. 내부 행정 자료가 외부로 나가지 않도록 하면서도 최신 정보 활용은 가능하도록 했다는 설명이다.

시민용 챗봇 서울톡도 기능이 강화된다. 기존 서울톡은 120다산콜 상담을 보조하는 민원 안내 성격이 강했다. 앞으로는 생성형 AI가 서울시 누리집 정보와 외부 웹 검색을 활용해 행사, 축제, 생활 정보 등을 24시간 안내한다.

시민은 카카오톡 서울톡 채널에서 정해진 메뉴를 따라가지 않아도 문장 형태로 질문해 필요한 정보를 받을 수 있다. 서울시는 기존 시나리오 기반 챗봇의 한계를 보완하기 위해 'AI에게 물어보기' 기능을 도입했다. 답변 범위를 넓히고 최신 정보를 반영해 시민 이용 편의성을 높이겠다는 취지다.

서울시는 올해 말 챗봇 2.0을 기반으로 AI 에이전트도 시범 적용한다는 계획이다. AI 에이전트는 단순히 질문에 답하는 수준을 넘어 내부 시스템과 연계해 필요한 정보를 조회하고 문서 작성, 자료 정리 등 반복 업무를 지원하는 기능이다.