탐정사무소 ‘난 모르는 상태’ 예열 학습시켰더니…AI, 예측 편향 줄었다 > 갤러리

탐정사무소 ‘난 모르는 상태’ 예열 학습시켰더니…AI, 예측 편향 줄었다

페이지 정보

작성자 행복이
댓글 0건 조회 77회 작성일 26-04-30 14:40

본문

탐정사무소 인공지능(AI)은 어떤 질문에도 척척 답을 내놓는다. 때로는 틀린 예측이나 잘못된 정보를 제공하면서도 높은 확신을 보인다. AI가 갖는 이런 ‘과도한 확신’은 자율주행과 의료진단 등의 분야에서는 위험으로 작용할 수 있다.
카이스트는 백세범 뇌인지과학과 석좌교수 연구팀이 AI가 스스로 모른다는 것을 인식하도록 하는 학습 방법을 개발해 AI 신뢰성 향상 기반을 마련했다고 27일 밝혔다.
백 교수 연구팀에 따르면 AI 과신을 유발하는 원인은 인공신경망을 활용해 데이터를 학습하는 ‘딥러닝’ 과정에 있다. 딥러닝에서는 신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 ‘무작위 가중치 초기화’가 널리 사용된다. 무작위로 초기화된 신경망에 임의 데이터를 입력하면 아무것도 학습하지 않은 상태에서도 높은 확신도를 보이는 현상이 나타나는데, 이것이 생성형 AI에서 사실과 다른 내용이나 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘환각’ 현상으로 이어진다는 것이다.
연구팀은 생물학적 두뇌에서 해결 실마리를 찾았다. 인간의 두뇌는 태어나기 전부터 외부 자극 없이도 스스로 발생하는 뇌 신호를 의미하는 ‘자발적 신경 활동’을 통해 신경회로를 형성한다.
이 개념을 인공신경망에 적용해 AI가 본격적으로 학습을 시작하기 전에 스스로 불확실성을 먼저 조정하는 ‘예열 단계’를 도입했다. 그 결과 예열 과정을 거친 AI 모델은 초기 확신도가 우연 수준에 가까운 낮은 값으로 정렬되고, 기존 무작위 가중치 초기화에서 나타나던 과신 편향이 크게 완화됐다.
기존 모델은 학습하지 않은 데이터에도 높은 확신을 보이며 잘못된 답을 제시하는 경향이 있지만, 예열 학습을 적용한 모델은 확신도를 낮춰 ‘모른다’고 답할 줄 아는 것에서 차이를 나타낸다. 이는 실제 데이터를 학습하기 전에 ‘나는 아직 아무것도 모르는 상태’라는 것을 먼저 학습하게 되기 때문이라고 연구팀은 설명했다.
백 교수는 “이번 연구는 AI가 단순히 정답을 맞히는 수준을 넘어 ‘무엇을 아는가’와 ‘무엇을 모르는가’를 구분하는 능력, 즉 메타인지를 갖출 수 있는 가능성을 제시한 것”이라며 “정확도 향상을 넘어 AI가 스스로 불확실성을 판단하는 원리를 제시했다는 데 의의가 있다”고 밝혔다. 이어 “자율주행, 의료 AI, 생성형 AI 등 높은 신뢰성이 요구되는 분야를 포함해 거의 모든 딥러닝 모델 초기화 방식에 적용될 수 있어 AI 전반의 신뢰성을 높이는 핵심 기술이 될 것”이라고 말했다.
카이스트 뇌인지과학과 천정환 석사가 제1저자로 참여한 이번 연구 결과는 AI 분야 국제학술지 ‘네이처 머신 인텔리전스’ 온라인판에 게재됐다.
AI 환각 현상은 2023년 이른바 ‘세종대왕 맥북 프로 던짐 사건’으로 널리 알려졌다. 대표적 대화형 인공지능 서비스인 챗GPT는 당시 ‘조선왕조실록에 기록된 세종대왕 맥북 프로 던짐 사건을 알려달라’는 요청에 “세종대왕이 15세기 훈민정음 초고를 작성하던 중 화가 나 맥북 노트북을 던졌다”며 실제로 있었던 일처럼 답해 논란을 불러일으켰다.
인천 바다와 도심을 한 눈에 볼 수 있는 높이 184m의 청라하늘대교(청라대교) 전망대가 시민들에게 공개된다.
인천경제자유구역청은 중구 영종도와 서구 청라국제도시를 잇는 청라대교에 조성된 ‘더 스카이184(THE SKY184)’를 5월 7일 개방한다고 27일 밝혔다.
더 스카이184는 높이 184m의 하늘전망대를 중심으로 루프탑 전망대, 바다전망대, 친수공간, 여행자센터 등을 갖춘 복합 관광시설이다.
하늘전망대와 친수공간 등 주요 시설은 5월 7일부터 운영을 시작한다. 높이 184m의 외곽을 안전장비를 착용한 채 걷는 엣지워크(Edge Walk)는 5월 15일부터 운영된다.
하늘전망대와 체험시설인 엣지워크는 유료로 운영되며, 바다전망대와 친수공간, 여행자센터 등 나머지 공간은 무료이다.
운영시간은 오전 10시부터 오후 8시까지이다. 이용요금은 하늘전망대 1만5000원, 엣지워크 체험(하늘전망대 포함) 6만원이며, 인천시민은 50% 할인 혜택이 적용된다
사전 예약은 2026년 5월 4일 오후 2시부터 청라하늘대교 홈페이지( 하면 된다.
청라하늘대교 관광시설에서는 탁 트인 바다 풍경과 인천의 도시 경관을 동시에 감상할 수 있으며, 친수공간에서는 산책과 휴식을 즐기며 여유로운 시간을 보낼 수 있다.
인천경제청은 관광 활성화를 위해 음악 공연과 문화 프로그램 등 다양한 관광 콘텐츠를 운영할 계획이다. 5월부터 ‘요기조기 음악회’와 요가·러닝 등 아웃도어 프로그램과 바다영화관, 야간 미디어 콘텐츠 등 다양한 프로그램이 진행될 예정이다.
유정복 인천시장은 “청라대교 관광시설은 전망과 체험, 문화 콘텐츠가 어우러진 새로운 관광 공간”이라며 “다양한 프로그램을 통해 인천을 대표하는 관광 명소로 만들겠다”고 말했다.

이전글인스타그램 팔로워 구매 [뉴스 깊이보기] 호르무즈 해협 다음은 믈라카?…불안감 번지는 아시아 26.04.30
다음글인스타 팔로워 [역사와 현실]향음주례와 회식 26.04.30

댓글목록

등록된 댓글이 없습니다.

갤러리