가전내구제 ‘난 모르는 상태’ 예열 학습시켰더니…AI, 예측 편향 줄었다 > 갤러리

가전내구제 ‘난 모르는 상태’ 예열 학습시켰더니…AI, 예측 편향 줄었다

페이지 정보

작성자 행복이
댓글 0건 조회 74회 작성일 26-04-28 11:34

본문

가전내구제 인공지능(AI)은 어떤 질문에도 척척 답을 내놓는다. 때로는 틀린 예측이나 잘못된 정보를 제공하면서도 높은 확신을 보인다. AI가 갖는 이런 ‘과도한 확신’은 자율주행과 의료진단 등의 분야에서는 위험으로 작용할 수 있다.
카이스트는 백세범 뇌인지과학과 석좌교수 연구팀이 AI가 스스로 모른다는 것을 인식하도록 하는 학습 방법을 개발해 AI 신뢰성 향상 기반을 마련했다고 27일 밝혔다.
백 교수 연구팀에 따르면 AI 과신을 유발하는 원인은 인공신경망을 활용해 데이터를 학습하는 ‘딥러닝’ 과정에 있다. 딥러닝에서는 신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 ‘무작위 가중치 초기화’가 널리 사용된다. 무작위로 초기화된 신경망에 임의 데이터를 입력하면 아무것도 학습하지 않은 상태에서도 높은 확신도를 보이는 현상이 나타나는데, 이것이 생성형 AI에서 사실과 다른 내용이나 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘환각’ 현상으로 이어진다는 것이다.
연구팀은 생물학적 두뇌에서 해결 실마리를 찾았다. 인간의 두뇌는 태어나기 전부터 외부 자극 없이도 스스로 발생하는 뇌 신호를 의미하는 ‘자발적 신경 활동’을 통해 신경회로를 형성한다.
이 개념을 인공신경망에 적용해 AI가 본격적으로 학습을 시작하기 전에 스스로 불확실성을 먼저 조정하는 ‘예열 단계’를 도입했다. 그 결과 예열 과정을 거친 AI 모델은 초기 확신도가 우연 수준에 가까운 낮은 값으로 정렬되고, 기존 무작위 가중치 초기화에서 나타나던 과신 편향이 크게 완화됐다.
기존 모델은 학습하지 않은 데이터에도 높은 확신을 보이며 잘못된 답을 제시하는 경향이 있지만, 예열 학습을 적용한 모델은 확신도를 낮춰 ‘모른다’고 답할 줄 아는 것에서 차이를 나타낸다. 이는 실제 데이터를 학습하기 전에 ‘나는 아직 아무것도 모르는 상태’라는 것을 먼저 학습하게 되기 때문이라고 연구팀은 설명했다.
백 교수는 “이번 연구는 AI가 단순히 정답을 맞히는 수준을 넘어 ‘무엇을 아는가’와 ‘무엇을 모르는가’를 구분하는 능력, 즉 메타인지를 갖출 수 있는 가능성을 제시한 것”이라며 “정확도 향상을 넘어 AI가 스스로 불확실성을 판단하는 원리를 제시했다는 데 의의가 있다”고 밝혔다. 이어 “자율주행, 의료 AI, 생성형 AI 등 높은 신뢰성이 요구되는 분야를 포함해 거의 모든 딥러닝 모델 초기화 방식에 적용될 수 있어 AI 전반의 신뢰성을 높이는 핵심 기술이 될 것”이라고 말했다.
카이스트 뇌인지과학과 천정환 석사가 제1저자로 참여한 이번 연구 결과는 AI 분야 국제학술지 ‘네이처 머신 인텔리전스’ 온라인판에 게재됐다.
AI 환각 현상은 2023년 이른바 ‘세종대왕 맥북 프로 던짐 사건’으로 널리 알려졌다. 대표적 대화형 인공지능 서비스인 챗GPT는 당시 ‘조선왕조실록에 기록된 세종대왕 맥북 프로 던짐 사건을 알려달라’는 요청에 “세종대왕이 15세기 훈민정음 초고를 작성하던 중 화가 나 맥북 노트북을 던졌다”며 실제로 있었던 일처럼 답해 논란을 불러일으켰다.
김정은 북한 국무위원장이 북한군과 러시아군의 쿠르스크 탈환 1년을 맞아 열린 파병 기념관 준공식에 참석해 “우리(북·러)는 항상 단합된 힘으로 대처해 나가는 강력한 보루로 강화돼야 한다”고 밝혔다. 기념관 준공식에는 뱌체슬라프 볼로딘 러시아 하원(국가두마) 의장 등 러시아 고위 인사들이 참석했다. 우크라이나 전쟁을 계기로 밀착한 북한과 러시아가 전후 상황에 대비해 교류·협력을 강화하고 있다는 분석이 나온다.
북한 관영매체인 노동신문은 27일 김 위원장이 전날 평양에서 열린 ‘해외군사작전 전투위훈기념관’ 준공식에 참석해 이같이 연설했다고 보도했다. ‘해외군사작전’은 북한이 러시아 쿠르스크를 우크라이나로부터 탈환하기 위해 파병해 수행한 군사 작전을 지칭할 때 사용하는 표현이다. 전날은 러시아가 북한군의 지원을 받아 쿠르스크를 회복한 지 1년이 되는 날이었다.
김 위원장은 연설에서 “조선(북한)과 러시아의 군대는 평화와 주권을 위해 어깨를 겯고 한 전호에서 싸웠으며 파시즘의 부활을 막고 패권주의 세력의 전쟁 야망을 분쇄하는 데서 관건적 의의를 가지는 전과를 달성했다”며 “전쟁의 규칙이 어떻게 달라지든, 언제 어디서 위기가 발생하든 우리는 항상 단합된 힘으로 대처해나가는 진실하고 헌신적이며 강력한 보루로 강화돼야 한다”고 말했다.
기념관 준공식에는 볼로딘 러시아 하원의장, 안드레이 벨로우소프 러시아 국방장관 등 러시아 고위 인사들이 참석했다. 블라디미르 푸틴 러시아 대통령은 볼로딘 의장이 대독한 편지에서 “(북한군의) 무비의 위훈은 모든 러시아 공민들의 마음속에 영원히 남아있을 것”이라며 “포괄적인 전략적 동반자 관계를 공동노력으로 계속 강화해 나갈 것이라고 확신한다”고 했다.
김 위원장은 연설에서 ‘자폭의 폭음’ ‘자결의 길’이라는 표현으로 우크라이나군에 생포될 상황 등에 처하면 자폭한 군인들이 있었음을 밝혔다. 기념관에는 희생된 병사들의 유해도 안치됐다. 또 북한은 이날 기념관 야외에서 전사자 추모음악회를 개최하고 유가족을 위한 위로연을 열었다. 우크라이나 전쟁 참전 이후 내부 결속을 위해 보훈 사업에 공을 들이는 것으로 풀이된다.
김 위원장은 준공식 참석을 위해 방북한 볼로딘 의장과 벨로우소프 장관을 만나 양국관계 강화 방안을 논의하기도 했다. 전날 러시아 관영매체 타스통신은 벨로우소프 장관이 김 위원장과의 면담에서 2027∼2031년 북·러 상호 군사 협력 계획을 체결할 준비가 돼 있다고 언급했다고 보도한 바 있다. 임을출 경남대 극동문제연구소 교수는 이를 두고 “5개년 군사 협력 계획은 우크라이나 전쟁 이후를 대비한 포석”이라며 “체제 운명을 같이하는 중장기적 혈맹으로 진화하는 모습”이라고 말했다.
당의 컷오프(공천 배제) 결정에 반발해 온 주호영 국민의힘 의원이 23일 대구시장 선거 불출마를 선언했다. 주 의원은 그간 무소속 출마를 검토해왔다. 국민의힘이 오는 26일 최종 후보를 선출하는 가운데 이진숙 전 방송통신위원장의 무소속 출마 여부가 대구시장 선거의 변수가 될 것으로 보인다.
주 의원은 이날 국회에서 기자회견을 열고 “저는 이번 6·3 지방선거에 출마하지 않기로 했다”고 밝혔다. 주 의원이 국민의힘 컷오프 결정의 효력을 정지시켜 달라며 낸 가처분신청이 전날 항고심에서도 기각된 데 따른 것으로 보인다. 주 의원은 “저는 설명되지 않은 이유로 컷오프됐다”며 “법원이 대구시장 공천 가처분신청을 기각했다고 해서 이번 어처구니없는 공천 절차가 결코 정당화될 수는 없다”고 주장했다.
주 의원은 “먹던 물에 침을 뱉지 않겠다”며 무소속 출마는 하지 않겠다고 했다. 주 의원은 “무너진 당의 질서를 바로 세우고, 보수가 다시 선거에서 이길 수 있는 당으로 돌아가도록 저의 정치 인생을 걸겠다”고 밝혔다. 주 의원은 장동혁 국민의힘 대표를 향해 “인격은 없는데 지위는 높고, 지혜는 적은 데 꿈이 크면 화를 입지 않는 자가 드물다”면서 “제발 나아가고 물러날 때를 알기 바란다”고 말했다.
국민의힘에 남은 관건은 이 전 위원장이 될 것으로 보인다. 주 의원과 함께 컷오프된 이 전 위원장은 이날 페이스북에 “대구시민의 선택보다 앞서는 공천은 없다”며 대구시장 출마 의지를 거듭 내비쳤다.
국민의힘은 오는 26일 각각 대구 달성군, 달서갑을 지역구로 두고 있는 추경호, 유영하 의원 가운데 한 명을 대구시장 후보로 선출할 예정이다. 시장 후보로 선출된 의원의 지역구에선 6·3 지방선거와 동시에 국회의원 보궐선거가 열린다. 장 대표가 이 전 위원장을 해당 보궐선거에 출마시키는 방향으로 설득하고 있지만, 실현 가능성은 미지수라는 관측이 나온다.
더불어민주당 대구시장 후보인 김부겸 전 국무총리가 각종 여론조사에서 앞서는 가운데 이 전 위원장이 출마하면 보수 표심이 분산돼 국민의힘에겐 악재가 될 가능성이 높다. 이 전 위원장은 무소속 출마 후 국민의힘 후보와 단일화하는 방안도 검토하는 것으로 알려졌지만, 추 의원과 유 의원은 일단 이에 선을 긋고 있다.
추 의원은 지난 21일 CBS 라디오에서 “(이 전 위원장에 대한) 정치적 해법을 모색하되 단일화를 위한 선거를 다시 하는 것은 용납하기 힘들다”고 했다. 유 의원은 전날 CBS 라디오에서 “저는 대구 시민들에게 (본선에서) 표로 단일화시켜 달라고 할 것”이라고 말했다.

이전글구리학교폭력변호사 포스코그룹, 산재 가족 돌봄 재단 ‘포스코 희망이음’ 출범 26.04.28
다음글이혼전문변호사 폰테크 이혼전문변호사 폰테크 폰테크 26.04.28

댓글목록

등록된 댓글이 없습니다.

갤러리