최근 인공지능(AI) 기술의 발전이 가속화되면서 AI의 안전성에 대한 우려가 커지고 있다. 미국, 유럽연합(EU), 영국, 일본 등 주요 국가들은 AI 안전성을 높이기 위한 법안 마련과 연구소 설립에 박차를 가하고 있다. 그러나 한국은 아직 AI 안전성 관련 법안조차 제대로 마련하지 못하고 있는 상황이다. 이에 대한 국내외 동향과 한국의 대응 현황을 자세히 살펴본다.
AI 안전성의 필요성
프런티어 AI, 즉 인간의 통제를 벗어난 고도화된 AI 모델의 출현은 AI 안전성 문제를 더욱 부각시키고 있다. 오픈AI가 발표한 프런티어 AI는 사이버 보안, 화학, 생물학, 방사능, 핵 위협 등 다양한 위험 요소를 내포하고 있으며, 이는 인류의 존폐를 위협할 수 있는 수준이다. 특히, 이러한 AI가 자율적으로 핵 공격을 감행할 수 있는 가능성까지 제기되면서 국제 사회의 경각심이 높아지고 있다.
국제적 동향
미국과 영국은 이미 AI 안전성을 높이기 위한 조직을 설립하고 관련 법안을 마련하고 있다. 미국은 행정부 내에 AI안전연구소(AISI)를 설립하고, 핵심 경영진을 선임한 상태다. 영국은 혁신과학기술부 내에 AISI를 설치하고 AI 시스템 평가 체계를 개발하는 연구를 진행 중이다. 일본 또한 지난해 12월 AI 안전기구 설립을 발표하며 발 빠르게 대응하고 있다.
한국의 현황
반면, 한국은 아직 AI 안전성 관련 법안조차 제대로 마련되지 못한 실정이다. 2022년 12월 발의된 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률'이 1년 3개월간 표류하다 21대 국회 종료와 함께 폐기된 것이 대표적인 예다. 이에 따라 AI 안전성을 확보하기 위한 법체계와 조직구성이 시급하다는 지적이 나오고 있다.
전문가 의견
전문가들은 현재 한국의 AI 안전성을 "살얼음판을 걷는 격"이라고 경고한다. 위험이 도처에 깔려 있고, 한 발자국만 발을 헛디딜 경우 곧바로 치명적인 결과를 불러올 수 있다는 의미다. 특히, AI가 인간의 일자리를 대체하거나, 극단적으로는 AI가 인간에게 해를 입히는 상황까지 우려된다.
문형남 숙명여대 글로벌융합학부 교수는 "영화에서 보듯 AI에 의해 인간이 지배될 수 있다는 우려도 나온다"며, "AI가 긍정적인 측면이 큰 만큼 부정적인 측면도 크므로 이를 최소화하기 위한 노력이 필수적"이라고 말했다. 전창배 AI윤리협회 이사장은 "AISI를 대통령·국무총리 직속의 위원회로 만들어 자율성을 부여해 전 부처와 연계하는 형식으로 가야 실효성이 있는 조직이 될 것"이라고 강조했다.
결론
AI 기술의 발전이 가져올 잠재적인 위험을 감안할 때, AI 안전성 확보는 선택이 아닌 필수다. 한국도 국제사회의 움직임에 발맞춰 신속히 법안 마련과 조직 구성을 서둘러야 한다. 그렇지 않으면 빠르게 발전하는 AI 생태계에서 뒤처질 뿐 아니라, 예상치 못한 치명적인 위험에 노출될 수 있다. 정부와 관련 기관의 적극적인 대응이 절실한 시점이다.
