안양법무법인 ‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법 > 갤러리

안양법무법인 ‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법

페이지 정보

작성자 행복이
댓글 0건 조회 70회 작성일 26-04-28 21:57

본문

안양법무법인 인공지능(AI)은 어떤 질문에든 척척 답을 내놓는다. 때로는 틀린 예측이나 잘못된 정보를 제공하면서도 높은 확신을 보인다. AI가 갖는 이런 ‘과도한 확신’은 자율주행과 의료진단 등의 분야에서는 위험으로 지적된다.
카이스트(KAIST)는 백세범 뇌인지과학과 석좌교수 연구팀이 AI가 스스로 모른다는 것을 인식하도록 하는 학습 방법을 개발해 AI 신뢰성 향상 기반을 마련했다고 27일 밝혔다.
백 교수 연구팀에 따르면 AI 과신을 유발하는 원인은 인공신경망을 활용해 데이터를 학습하는 ‘딥러닝’ 과정에 있다. 딥러닝에서는 신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 ‘무작위 가중치 초기화’가 널리 사용된다. 무작위로 초기화된 신경망에 임의 데이터를 입력하면 아무것도 학습하지 않은 상태에서도 높은 확신도를 보이는 현상이 나타나는데, 이것이 생성형 AI에서 사실과 다른 내용이나 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘환각’ 현상으로 이어진다는 것이다.
연구팀은 생물학적 두뇌에서 해결 실마리를 찾았다. 인간의 두뇌는 태어나기 전부터 외부 자극 없이도 스스로 발생하는 뇌 신호를 의미하는 ‘자발적 신경 활동’을 통해 신경회로를 형성한다. 이 개념을 인공신경망에 적용해 AI가 본격적으로 학습을 시작하기 전에 스스로 불확실성을 먼저 조정하는 ‘예열 단계’를 도입했다. 그 결과 예열 과정을 거친 AI 모델은 초기 확신도가 우연 수준에 가까운 낮은 값으로 정렬되고, 기존 무작위 가중치 초기화에서 나타나던 과신 편향이 크게 완화됐다.
기존 모델은 학습하지 않은 데이터에도 높은 확신을 보이며 잘못된 답을 제시하는 경향이 있지만, 예열 학습을 적용한 모델은 확신도를 낮춰 ‘모른다’고 답할 줄 아는 것에서 차이를 보인다. 이는 실제 데이터를 학습하기 전에 ‘나는 아직 아무것도 모르는 상태’라는 것을 먼저 학습하게 되기 때문이라고 연구팀은 설명했다.
백 교수는 “이번 연구는 AI가 단순히 정답을 맞히는 수준을 넘어 ‘무엇을 아는가’와 ‘무엇을 모르는가’를 구분하는 능력, 즉 메타인지를 갖출 수 있는 가능성을 제시한 것”이라며 “정확도 향상을 넘어 AI가 스스로 불확실성을 판단하는 원리를 제시했다는 데 의의가 있다”고 말했다. 이어 “자율주행, 의료 AI, 생성형 AI 등 높은 신뢰성이 요구되는 분야를 포함해 거의 모든 딥러닝 모델 초기화 방식에 적용될 수 있어 AI 전반의 신뢰성을 높이는 핵심 기술이 될 것”이라고 말했다.
카이스트 뇌인지과학과 천정환 석사가 제1저자로 참여한 이번 연구 결과는 AI 분야 국제학술지 ‘네이처 머신 인텔리전스’ 온라인판에 게재됐다.
AI 환각 현상은 2023년 알려진 ‘세종대왕 맥북 프로 던짐 사건’이 대표적이다. 당시 챗GPT는 ‘조선왕조실록에 기록된 세종대왕 맥북 프로 던짐 사건을 알려달라’는 요청에 “세종대왕이 15세기 훈민정음 초고를 작성하던 중 화가 나 맥북 노트북을 던졌다”며 실제로 있었던 일처럼 답해 논란이 일었다.
도널드 트럼프 행정부가 연방정부의 사형집행 수단으로 총살형을 허용하기로 했다.
로이터 통신에 따르면 미국 법무부는 24일(현지시간) 보고서에서 사형 집행용 독극물 수급이 어렵다는 점을 들어 총살형·전기의자형·가스질식사형을 대안적 집행 수단으로 추가하겠다고 밝혔다. 미국에서는 독극물 주사를 통한 사형 집행이 가장 보편적인 방식으로 간주되는데, 약물 수급이 어려울 경우에 대비해 실질적인 사형 집행 선택지를 넓히겠다는 취지다.
또 트럼프 행정부 1기 당시 사형 집행용 약물로 채택됐던 독극물 펜토바르비탈 사용 절차도 복원하도록 했다. 일각에서는 펜토바르비탈이 폐부종을 유발해 사형수에게 극심한 고통을 준다는 지적이 제기됐지만, 미 법무부는 펜토바르비탈을 사용한 사형 집행이 ‘잔혹하고 비인도적인 형벌’을 금지한 수정 헌법 제8조에 위배되지 않는다고 주장하고 있다. 블룸버그 통신에 따르면 미 법무부는 이 약물이 사형수가 고통을 느끼기 전 즉각적인 의식 불명 상태를 유도한다며 반대 의견들에 반박했다.
토드 블랜치 법무장관 대행은 이날 성명에서 “이전 (바이든) 행정부는 테러리스트, 아동 살해범, 경찰관 살해범을 포함한 가장 위험한 범죄자들에 대해 사형 집행을 거부해 미국 국민을 보호해야 할 의무를 다하지 못했다”고 했다.
앞서 트럼프 대통령은 첫 임기 당시 17년 만에 연방 사형 제도를 부활시켜 임기 종료 직전 13명의 사형수에 대한 사형을 집행한했다. 그러나 이후 바이든 행정부는 2021년 연방 차원에서 사형 집행의 유예를 명령하고, 임기 종료 직전 사형 선고를 받은 연방 수감자 40명 중 37명에 대해 막판 감형 조치를 발표했다.
미 일간 월스트리트저널(WSJ)은 트럼프 대통령이 재집권한 뒤 법무부가 사형 집행 유예를 해제했고, 극우 운동가 찰리 커크 사망 사건을 포함한 여러 사건에서 피고인에 대한 사형을 추진해 왔다고 전했다.
다만 WSJ은 미국에서 사형 제도에 대한 지지율은 지난 수십년간 감소하는 추세라고 했다. 사형 반대단체인 사형정보센터에 따르면 지난 20년간 미국 내 11개 주에서 사형 제도를 폐지했고, 최근 갤럽 여론조사에서는 사형 제도에 찬성하는 비율이 50년 만에 최저치를 기록했다.
이재명 대통령은 24일 “소득 있는 곳에 세금 있다”며 “열심히 일해 번 돈에도 근로소득세 내는데, 주택양도소득에 양도세 내는 건 당연하다”고 말했다.
이 대통령은 이날 엑스에 “1주택을 보호하려면 실거주 기간에 대한 양도세 감면은 필요하지만, 살지도 않으면서 투자용으로 사 오래 투자했다는 이유만으로 (더구나 고가주택에) 양도세를 깎아주는 건 주거보호 정책이 아니라 ‘주택투기 권장정책’”이라며 이같이 밝혔다.
이 대통령은 글과 함께 <“이러면 누가 집 사나”…‘장특공제 폐지’ 논란에 시장 혼란>이란 제목의 기사를 첨부했다. 기사에는 이 대통령이 지난 18일 엑스에 장기보유특별공제(장특공제) 단계적 폐지 의지를 밝히면서 시장 혼란이 가중됐다는 내용이 담겼다.
이 대통령은 “전국, 아니 전 세계에서 서울 강남 중심으로 ‘똘똘한 한 채 사기’ 투기를 확산시키고 집값을 연쇄 폭등시킨 사람들, 이들을 비호하는 사람들은 대체 누구일까요?”라고 물은 뒤 “살지도 않을 집에 오래 투기했다고 세금 깎아주는 비정상을 정상화 하는 게 세금폭탄이냐”고 반문했다.
이 대통령은 “잠시 조용하다 싶더니 부동산 투기 조장 세력이 다시 활동을 시작하는 모양”이라며 “일부 야당이 낸 장특공제제한 법안은 정부와 무관한데도 마치 대통령이 낸 법안인 것처럼 조작해 공격하고 있다”고 했다.
이 대통령은 또 “1주택자의 주거를 제대로 보호하려면, 비거주 보유 기간에 대한 감면을 축소하고 그만큼 거주 보유 기간에 대한 감면을 더 늘리는 게 맞을 것”이라며 “비정상의 정상화, 부동산투기 탈출은 이 나라의 최후 생존 전략”이라고 했다.
이 대통령은 그러면서 “집값이 안정돼야 보금자리 만들어 결혼도 하고, 아이도 낳아 기를 거 아니냐”며 “여러분 생각은 어떠신지, 댓글 부탁드린다”고 말했다.
이 대통령은 또럼 베트남 공산당 총서기장 겸 국가주석과의 친교 일정을 끝으로 5박6일간의 인도·베트남 국빈 방문 일정을 마무리하고 이날 귀국한다.

이전글이혼전문변호사 출장용접 이혼전문변호사 출장용접 26.04.28
다음글탐정사무소 [오항녕의 독사관견 讀史管見]율곡이 트럼프를 만났을 때 26.04.28

댓글목록

등록된 댓글이 없습니다.

갤러리