"정부24 서비스, 다른 사이트 재로그인 없앤다" 안전성 확보가 시급

 

정부24 서비스, 다른 사이트 재로그인 없앤다

 

디지털플랫폼정부 실현계획 일환...국민 데이터 보호 위해 오픈AI와 소통 채널 마련

정부가 초거대AI 응용서비스의 전문(도메인) 분야 세계 1위 달성, 하나의 플랫폼에서 정부 서비스 제공 등을 담은 디지털플랫폼정부 실현 계획을 발표했다.

디지털플랫폼정부에서는 증명서 발급·세금신고·복지 신청 등 1천500여 종 정부 서비스를 한 사이트에서 제공한다. 정부 기관 간 데이터를 공유·활용해 관공서 첨부 서류를 없앤다.

 

정부는 인공지능(AI)·데이터를 국가 전략 산업으로 육성한다. 데이터, 알고리즘, 컴퓨팅 인프라 경쟁력을 높여 초거대AI 응용서비스의 전문(도메인) 분야 세계 1위를 목표로 한다.

이러한 목표를 뒷받침하기 위해 정부는 2025년 사이버 보안 모델 '제로 트러스트'와 공급망 보안을 적용할 계획이다. 또한 개인정보보호위원회는 최근 세계적인 주목을 받은 대화형 AI '챗GPT'를 만든 오픈AI와 소통 창구를 개설했다. 한국인의 데이터를 보호하겠다는 취지다.

디지털플랫폼정부위원회, 과학기술정보통신부, 개인정보보호위원회는 14일 오후 '디지털플랫폼정부 실현계획 보고회'를 진행했다.



다음은 고진 디지털플랫폼정부위원장, 이종호 과학기술정보통신부 장관, 고학수 개인정보보호위원회 위원장과의 일문일답.

- AI를 활용해 2026년까지 공공 서비스 1천500여 종을 한 플랫폼에서 통합해 제공할 계획이다. 정부 서비스 중 몇 % 정도인가

"현재 정부24에서 제공하는 서비스는 3천500개다. 그 중 다른 사이트 링크로 들어가 다시 로그인해야 하는 것이 1천500개다. 이러한 아웃링크 서비스를 한 군데에서 모아 제공할 계획이다."

- 범정부 통합 서비스 창구 구축 과정에서 예상되는 어려움은 무엇인가. 특히 디지털플랫폼정부위원회는 인력·예산 배정 권한이 없는데 어떻게 사업을 진행하나

"공공 서비스를 통합해 제공하는 것은 크게 어렵지 않다. 하지만 시스템들을 연계하기 위해 기존 시스템을 수정할 때 예산이 필요하다.

디지털플랫폼정부위원회의 주관 부처는 행정안전부와 과기정통부다. 정부24 사이트 관련 예산은 행안부가, 이 외 다른 일은 과기정통부가 예산을 편성해줄 수 있다. 범 부처 협의 사항은 참여하는 각 부서의 예산 집행으로 진행할 수 있다."

- 정부가 전용 초거대 AI를 개발하는 것인가 도입하는 것인가. 이로 인해 현장은 어떻게 바뀌나

"민간 초거대 AI를 정부가 전용으로 활용하겠다. 이 AI는 두 가지로 나뉜다. 정부가 기존에 공개한 데이터로 트레이닝한 초거대AI와 비공개 데이터로 트레이닝해 역량을 더 확장한 초거대AI다."

- 정부 전용 초거대AI 도입 관련 투입 인원, 예산 등 구제척인 계획이 있나

"초거대 생성 AI 한계를 돌파하는 기술 개발 계획을 수립 중이다. 앞으로 진행 과정에서 예산을 확정할 계획이다."

- 세계 1위를 목표로 하는 초거대AI 응용 서비스 분야(도메인)는 무엇인가

"전문가 의견과 자료 조사를 통해 5개 분야를 정했다. 법률, 의료, 심리상담, 문화예술, 학술연구 등이다. 초거대AI는 각각의 전문 영역에서 보조 역할을 해 생산성을 높일 수 있다. 한국이 다른 나라보다 강한 분야들이 있다. 일례로 한국은 의료 데이터 축적·디지털화가 잘 되어 있다. 개인정보 보호를 잘 하면서 다른 나라에 비해 차별화하는 모델을 발굴하겠다."

- 중소기업은 초거대AI 응용 서비스를 개발할 때 하드웨어 컴퓨팅 비용 부담과 관련 규제 때문에 힘들어한다. 정부는 어떻게 대응하나

"하드웨어 컴퓨팅 비용 관련해 과기정통부가 지원 사업을 적극 추진해나갈 예정이다. 불편함이 없도록 최대한 지원하겠다.

규제 개선은 인공지능 학습 DB를 어떻게 구축할 것이냐가 핵심이다. 이미 데이터를 많이 축적한 큰 회사와 중소기업의 격차를 줄이기 위한 사회적 인프라 문제이기도 하다. 기업의 영업 비밀이자 그 자체로 경쟁력 원천인 특수한 데이터를 어떻게 구분하고 사회적 인프라를 구축할지 고민하고 있다.

또, 실제 데이터 베이스 구축 작업의 3분의 2는 데이터 클렌징이다. 어떤 표준을 거쳐 어떻게 쓸지 데이터를 추출해 변환하는 작업이 크다. 관련해 필요한 규격화 논의를 하겠다."

- 100만명을 대상으로 초거대 AI 활용 교육 계획을 밝혔다. 교육 대상 선정 기준이 있나

"이미 우리 국민 중 220만명이 챗GPT를 사용한다. AI 전문가 뿐만 아니라 비전문가도 관련해 유용성을 느끼면 좋겠다."

- 제로 트로스트, 공급망 보안 계획이 2025년에 적용된다. 연초부터 보안 사고가 잇따르는 상황에서 보안 계획이 너무 늦게 진행되는 것 아니냐는 우려가 나온다

"선진국에서도 새로운 보안 체계 확립하고 있다. 이 얘기를 처음 끄집어낸 미국도 아직 제로 트로스트나 공급망 보안에 대한 체계를 수립하지 못했다. 세계 각국이 관련해 연구개발하는 단계다."

- 정부는 이번 계획에서 마이데이터를 강조했다. 산업계에서는 마이데이터가 금융, 공공 분야에서만 우선 적용되는 등 시장성이 없다는 비관론이 나온다

"마이데이터는 빠른 시일 내에 시장성이 있다고 접근할 수 있는 문제가 아니다. 데이터를 접하는 사고 체계, 디지털 전환을 해낼 것이냐는 큰 질문을 전제하고 있다. 동시다발적으로 모든 영역의 데이터를 개방해 전환하는 것은 알맞지 않다. 단계적으로 시범 사업을 거쳐야 한다."

- 개인정보보호위원회가 오픈AI와 소통 채널을 마련했다고 밝혔다. 앞으로 무엇을 논의할 것인가

"한국에서 서비스하는 외국 기업 중엔 연락 자체가 쉽지 않은 경우도 있다. 지금까지는 기본적인 연락 창구를 마련하고 사실을 확인하는 단계다.

한국의 데이터가 챗GPT 모델에 활용된 바 있는지, 어떤 식으로 활용되고 학습 데이터에 포함됐는지 확인하고자 한다. 우선 소통 창구가 마련됐기 때문에 궁금한 것을 내부적으로 논의해 정리하는 중이다. 이를 바탕으로 우리 국민의 데이터가 적절히 보호되고 있는지 파악할 계획이다."

- 샘 알트만 오픈AI 최고경영자(CEO)가 방한하면 이종호 과기정통부 장관과 만나나

"샘 알트만 CEO가 한국에 온다고 밝히고, 공식적으로 면담을 요청하면 만날 의향이 있다."

 

 

 

美 실리콘밸리서 AI 안전성 논쟁…AI '옹호론 vs 종말론' 대립

 

 

"오픈AI에 130억달러 투자한 MS, 연간 최대 300억달러 추가 매출"

 

(서울=연합뉴스) 이도연 기자 = 오픈AI의 챗GPT 등 인공지능(AI) 챗봇이 전 세계적 열풍을 일으킨 가운데 AI의 안전성을 두고 전문가들의 의견이 첨예하게 대립하고 있다.

9일(현지시간) 워싱턴포스트(WP)는 미국 실리콘밸리에서 AI가 우리 모두를 죽일 것이라는 주장과 이 기술이 올바르게 사용된다면 인류가 번영할 수 있는 힘을 줄 것이라는 서로 반대되는 주장이 나오고 있다고 보도했다.

 

지난달 미국의 비영리단체 '삶의 미래 연구소'(FLI)는 일론 머스크 테슬라 최고경영자(CEO) 등이 AI가 인류에 심각한 위험성을 미칠 수 있다며 최첨단 AI시스템의 개발을 일시 중단하자는데 서명한 공개서한을 내놨다.

그러나 일각에서는 머스크가 자체 AI 개발을 위한 시간을 벌려고 이런 제안을 했다는 지적도 나온다.

AI 안전성이란 AI 시스템이 프로그래머의 의도에 복종하고 인간을 해치지 않으면서 권력을 추구하지 않도록 막는 새로운 연구 분야를 말한다.

이는 실리콘밸리에서는 효율적 이타주의(EA, effective altruism)와 밀접한 관련이 있다.

효율적 이타주의는 이성과 증거를 통해 다른 사람들에게 이익이 되는 방법을 찾고 그런 생각으로 행동하는 것을 옹호하는 운동을 말하는데, AI 윤리와 관련해서는 AI가 인간을 멸종시키는 것을 막는 것이 시급하다는 주장으로 귀결된다.

페이스북의 공동 창업자 더스틴 모스코비츠와 전 헤지펀드 매니저 홀든 카노프스키가 설립한 재단 '오픈 필란트로피'와 같은 효율적 이타주의 관련 단체들은 최근 몇 년간 AI 안전성에 초점을 맞춘 여러 센터와 연구소, 커뮤니티 건설을 지원해왔다.

이 밖에도 붕괴한 대형 가상화폐 거래소 FTX의 샘 뱅크먼 프리드가 세운 FTX 퓨처 펀드 역시 대표적인 효율적 이타주의 관련 단체였다.

AI의 옹호자들은 오픈AI와 구글의 딥마인드로 대표된다.

이들은 AI 안전을 신경 쓰지 않는 것이 아니라, 인간만큼 똑똑한 범용인공지능(AGI)에 도달하는 소프트웨어를 구축하는 것에 매우 흥분해있는 것뿐이라고 WP는 진단했다.

몇몇은 오픈 AI의 GPT-4와 같은 도구가 기술 발전이 AGI로 가는 길에 있다는 뜻이라고 말하지만, 대부분의 전문가는 이러한 도구가 텍스트 뒤에 숨겨진 의미를 인간처럼 이해하지 못한다고 설명한다.

사티아 나델라 MS CEO와 순다르 피차이 구글 CEO 등이 인터뷰에서 AGI에 대해 언급하고 빌 게이츠도 블로그에 이에 대해 썼다.

샘 알트먼 오픈AI CEO는 "AGI의 긍정적인 측면이 너무 크기 때문에 사회가 그 발전을 영원히 멈추는 것이 가능하지도 바람직하지도 않다"고 말했다.

반면 AI 종말론자들은 충분하게 강력한 AI가 연결되면 인류가 멸망할 것이라는 결론을 내린다.

미국의 작가이자 비영리단체 기계 지능 연구소(MIRI) 엘리저 유드코프스키가 이 진영을 대표한다.

그는 최근 타임지에 전 세계적으로 AI 개발이 중단돼야 하며 만약 필요하다면 해외 데이터 센터에 미국이 공습해야 한다고까지주장했다.

옹호론·종말론자 외에 수년간 인종·성차별주의적이거나 가짜 뉴스로 정보 생태계를 파괴할 수 있는 AI 모델의 문제점에 대해 경고해온 AI 윤리주의자들도 있다.

이 진영의 일부는 AI 기술이 피할 수 없는 것이 아니며 취약한 공동체에 해를 끼치지 않고 개발될 수 있다고 주장한다.

팀닛 게브루 전 구글 AI 윤리팀 기술책임자가 진영의 대표적 인물이다. 게브루는 거대 언어모델(LLM)의 폐해를 경고하는 논문의 공동 저자이기도 하다.

MS와 트위치, 트위터 등 빅테크(거대 정보기술기업)들은 AI 윤리팀 직원을 해고하고 있으나 정책입안자들과 대중은 AI 윤리주의자들의 목소리에 귀를 기울이고 있다고 WP는 전했다.

이 같은 논쟁이 계속되는 가운데 오픈AI에 총 130억달러(약 17조원)를 투자한 MS가 이를 통해 수십억달러의 연간 수익을 낼 수 있다는 전망이 나왔다고 미 CNBC 방송이 보도했다.

오픈AI의 기업 가치가 290억달러(약 38조원)에 달하는 것으로 추산되는데, MS는 오픈AI의 기술을 빙 검색엔진과 기업용 소프트웨어, 깃허브, 오피스 365와 애저 클라우드 등에 통합하고 있다.

웰스파고의 마이클 터린 애널리스트는 이 같은 통합 작업으로 MS가 연간 300억달러(39조 6천억원)의 신규 매출을 추가할 수 있다고 분석했다.

MS의 오픈AI 인수나 기업공개(IPO) 가능성도 조심스럽게 제기된다.

다만 MS가 오픈AI를 인수할 경우에는 반독점 규제 당국의 조사를 받을 가능성이 높다.

시장조사업체 피치북 데이터에 따르면 오픈AI는 올해 작년보다 150% 증가한 2억달러(2천600억원), 내년에는 40% 증가한 1억달러(1천300억원)의 매출을 기록할 것으로 예상됐다.

다만 오픈AI 대변인은 CNBC에 인수나 IPO 가능성은 없다고 말했다.