[week10] AI 암묵지 학습에 대하여

인공지능(AI)의 암묵지(tacit knowledge) 학습은 AI가 명시적으로 표현하기 어려운 지식, 예를 들어 인간의 직관, 경험, 또는 '노하우'를 데이터나 훈련 과정을 통해 습득하는 것을 의미한다.

강화학습(reinforcement learning)이나 인간 피드백 기반 학습(RLHF)에서 AI는 시행착오를 통해 암묵지를 축적하며, 이는 AI가 '설명할 수 없는' 지식을 보유하게 만드는 핵심이라고 한다.

 

지난 22일 기획재정부가 발표한「새정부 경제성장전략」문서 속에 AI관련 내용들이 꽤 많은 부분을 차지하고 있고, 그중에서 '암묵지'라는 키워드가 등장하였기에 부분적으로 다뤄보도록 하겠다.
 
⬇️아래 링크에서 해당 자료 PDF를 다운받을 수 있다.

기획재정부

---

[목차여기]

AI 대전환

새정부 경제성장전략 - AI 대전환

위와 같은 목표가 있다고 한다.
하이라이트 중에서 내가 초점을 둔 부분은 제조 AI+X를 통해 피지컬 AI 1등으로 도약하겠다는 내용이다.
그렇다면 AIX는 뭐고, 피지컬 AI는 정확히 뭘까?

---

제조 AIX & 피지컬 AI

AIX는 AI 트랜스포메이션(AIX)을 뜻한다.

이는 'AI + X'의 약자로, 인공지능(AI)을 무한한 가능성: 미지수(X)에 적용하여 기존의 업무 방식을 혁신시키는 개념이다. 그러니 제조에 AIX가 적용된다는 것은 곧 '스마트 팩토리'를 구현하겠다는 의미로 볼 수 있겠다. 스마트 팩토리를 구현하고자 하면, 가장 중요한 핵심요소가 무엇일까?

그것이 바로 피지컬 AI이다.

How Physical AI Transforms Industries Through Embedded Intelligence

@Janakiram MSV

피지컬 AI는 AI 알고리즘을 물리적 장치에 내장해 실시간으로 환경을 인식하고 행동하는 기술을 의미한다.
기존 사전학습된 데이터처리 위주 방식에서 더 나아가 아예 멀티모달 인공지능의 실시간 데이터 분석과 물리적 자동화 프로세스 자체를 융합시켜 제조 현장에서 그때그때 상황에 맞춰 로봇이 자율적으로 움직이거나, 센서가 실시간으로 품질을 제어하는 것까지 가능하다.
 
이재명 정부에서 올해 하반기부터 이를 적극 추진하겠다는 것이다.
근데 여기서 한 가지 문제가 발생한다.
 
저 AI를 어떻게 학습시킬 것이냐는 말이다.

---

암묵지 구축

새정부 경제성장전략 - AI 대전환

문서에는 'AI 기반으로 고숙련기술자(장인)의 현장 전문지식(노하우), 즉 '암묵지'를 데이터로 구축'하겠다고 적혀있다.
그런데 이게 과연 쉬운 일일까?
 
암묵지를 데이터로 구축하는 것은 불가능하지 않지만, 크게 두 가지 악조건이 존재한다고 전문가들은 말한다.

---

문서화 어려움 + 폐쇄적인 장인들

Using AI and NLP for Tacit Knowledge Conversion in Knowledge Management Systems: A Comparative Analysis

Tacit knowledge is often subconscious, making it difficult for individuals to articulate. Additionally, resistance to sharing, driven by concerns over intellectual ownership or job security, can create barriers. 

• 첫째, '노하우'라는 것을 문서화시키는 것은 매우 어렵고, 오랜 시간이 소요된다.
• 둘째, 대체적으로 장인들은 자신의 노하우를 공유하려고 하지 않는다.

---

01. 암묵지(Tacit Knowledge)를 형식지(Explicit Knowledge)로 전환하는 것은 어렵다.

What's Missing From AI Engines? Tacit Knowledge

We build tacit knowledge through lived experience, sometimes from applying explicit knowledge and then observing the results, a process called internalization. A master baker uses a standard recipe, but the motions of preparing the dough have become automatic.

 

암묵지를 형식지로 전환하는 것이 어려운 이유는 바로 '내면화' 때문이다. 위 본문에서 말하는 '내면화'는 '머슬 메모리'를 뜻한다. 장인은 명시된 레시피 안에서도 오랜 경험 누적으로 이제는 몸이 기억하여 자동으로 좋은 퍼포먼스를 보여주는 것인데, 그걸 완벽하게 구두로 설명하는 것도 어렵고, 거의 완벽하게 설명해 냈다고 한들 수행자가 당장 장인과 똑같은 퍼포먼스를 보여줄 수도 없는 노릇이다.
 
그렇다면 이를 최대한 빠른 시간 내에 개선하기 위해서는 지속적인 맞춤형 피드백이 필요할 것이다.

We can also share tacit knowledge directly through shared experiences: the master baker placing their hands over the hands of their apprentice, patiently adjusting the kneading motion until its just right, or the father holding on to the back of his kid's bicycle and then letting go.

 

위에서 말하는 것이 바로 인간 피드백 기반 학습(RLHF)이다.

장인이 수습생의 동작을 교정하듯, RLHF는 인간 전문가가 AI의 출력결과를 평가하고 조정하며, AI가 점진적으로 암묵지를 흡수하도록 유도한다. 그러나 여기에도 몇 가지 한계점이 존재한다.

인간 피드백 기반 학습(RLHF)의 한계점

• 피드백이 일관되지 않거나 주관적이면 AI 학습이 왜곡될 수 있다.
• 지속적인 피드백은 장인의 시간을 할애하기 때문에 그만큼 초기 투자 비용이 크다.
• 암묵지는 특정 환경에 종속적이라, 다른 환경에 적용하려면 추가 학습이 필요하다.

---

02. 상호 간 암묵지 공유를 위한 사전 세팅이 필요하다.

Trend&Brief

암묵적 지식을 갖고자 하는 자(seeker;지식 탐색자)와 암묵적 지식을 보유하고 있는 자(source;지식 보유자) 간의 상호작용이 중요하며, 사회적 자본(신뢰, 규제, 사회적 동일시)이 중요한 요인으로 작용함.
조직 내 구성원 간 암묵지 공유를 위해 기꺼이 협업할 수 있도록 비형식학습(멘토링, CoP 등)의 정착과 동시에 암묵지 제공에 대한 보상체계도 고려해야 함

자비로운 성향에 기반한 신뢰(benevolence-based trust) : 능력에 대한 신뢰와 함께 전문가들이 자비로운 성향(예: 친절함, 개방적임 등)을 가지고 있을 때 지식 탐색자가 접근하기 용이함. 즉, 지식 공급자의 전문성이 높다고 할지라도 도움을 요청하는 지식 탐색자에게 면박을 주거나 지식 탐색자의 상사에게 안 좋은 이야기를 한다면 지식의 탐색, 더 나아가 지식의 공유가 이루어지지 않을 관련성이 높음.

 

AI에게 암묵지를 제공하는 장인에게 대우를 잘해줘야 한다는 당연한 내용이다. 근데 나는 개인적으로 잘 모르겠다. 왜냐하면 이건 일반적인 업계 후배가 아닌 AI에게 암묵지를 넘기는 형태인데, 이러면 결국 기존에 업계 사람들이 하던 일을 AI가 대체한다는 것이니, 궁극적으로는 스스로 경쟁자를 키우는 모순된 상황을 야기하는 것과 같다.
나로 인해 나의 동료, 후배들의 밥줄이 끊기지만, 아무튼 나라가 시켜서 했으니 이건 대의를 저버린 것인지, 아니면 위했다고 봐야 할지 참 애매하다.
따라서 정부에서는 해당 업계 사람들이 AI 시대에도 존속할 수 있도록 새로운 직무를 보장해야 할 것이다.

대다수의 전문가들은 자신의 노하우나 전문성을 설명하는 방식에서 지식을 왜곡시키거나 단순화시키는 문제가 있기 때문에 암묵지를 파악하고 추출 방법에 대한 고민이 필요함(Clark, 2014)

 

이건 위 RLHF의 한계점에서 첫 번째로 얘기한 '학습 왜곡'에 대한 내용이다.

 

장인이 AI에게 암묵지를 전달하기로 하였다고 치자.

그러나 단순히 퍼포먼스가 뛰어난 사람의 노하우가 모두에게 유효하지는 않을 수도 있다.

예를 들어, 메시가 운영하는 축구교실, 그리고 국내 2부 리그 선수가 운영하는 축구교실이 있다고 상상해 보자.
메시는 타고난 천재이기 때문에 일반 수준의 아이들의 눈높이로 교육하는 것에는 분명 어려움이 있을 것이다. 이는 반대로 국내 2부 리그에서 뛰던 선수가 운영하는 축구교실이 커리큘럼 면에서는 더 효과가 좋을 수도 있다는 것이다.

그럼 그 암묵지의 퀄리티는 누가 검증할 수 있을까?

AI 엔지니어? 그러기 위해서는 그 엔지니어가 장인의 암묵지를 100% 이해한 상태여야 한다.
그렇다면 그 순서는 장인이 엔지니어에게 암묵지를 공유하고, 암묵지를 완전히 습득한 엔지니어가 자신의 이해를 바탕으로 AI에게 그 암묵지를 2차 전달하는 것인데.. 이는 뭔가 이상하다.

따라서 엔지니어가 장인의 암묵지를 학습하는 것보다는, 장인이 엔지니어링을 배우는 것이 더 효율적일 수도 있다.

그런 면에서 전 국민 'AI 한글화 전략'이 유효하다고 볼 수 있겠다.
제조 업계 장인들 중 누군가 한 명쯤은 이미 개발 능력을 갖추고 있을 수도 있다. 정부에서 그 사람에게 AI 전문가들을 붙여 속성으로 기계학습을 교육한다면 충분히 가능한 일이다.

---

이외 전략

새정부 경제성장전략 - AI 대전환

대통령 직속 국가 AI전략위원회를 중심으로 국내 AI정책을 총괄하고 있고, 2030년까지 GPU 5만 장 이상을 확보하겠다고 한다.

[현장] 배경훈 장관 "GPU 5만장 확보 서두른다…AI 인프라 시장, 정부가 마중물"

그는 또 미국산 GPU 의존도가 높지만 국내 신경망처리장치(NPU) 성능과 가격 경쟁력이 빠르게 개선되고 있다며 클라우드 사업자들에게 국내 칩 도입을 적극 검토해 달라고 요청했다. 이를 통해 국산 반도체의 시장 기회를 확대하고 AI 인프라 자립 기반을 강화하겠다는 구상이다.

 
이전 7주 차에 NC AI를 다루면서 배경훈 과기정통부 장관이 LG AI 연구소 출신인 것과, NPU 개발사인 퓨리오사 AI가 LG AI 컨소시엄에 참가하는 것을 확인했었다.

[week7-2] NC AI (리니지 만든 그 NC 맞습니다)

뭔가 하나씩 퍼즐이 맞춰지고 있는 느낌이다.

---

오늘의 결론

[홍석철의 이코노믹스] AI 따라오기 힘든 ‘암묵지’ 많은 직업 살아남는다 | 중앙일보

2020년에 적힌 글이다.
'암묵지' 많은 직업이 AI 시대에 살아남는다.
 
이제 AI가 그 암묵지를 건들기 시작했다.
그래서 나는 아래와 같이 질문을 던져본다.
 
제조업 종사자들이 자동화로 일자리를 잃으면, 그들은 누가 품어줄 것인가?
AI는 엔지니어와 책임자만 있으면 되는데, 일자리는 어디서 창출될 것인가?
모두가 어려서부터 같은 AI 공교육을 받으면 어디서 차별화가 생길 것인가?
 
참 여러모로 고민이 많은 시대이다.

---

내용 추가

Big Technology Podcast clip

지난 5월 31일에 방송된 Big Technology 팟캐스트 내용 중 일부이다.

Big Technology는 다음과 같은 회사이다.

Big Technology, serves more than 150,000 newsletter subscribers and gets more than one million annual podcast downloads, delivering accessible news about tech, business, and AI.

 

영상 속에서 메타의 수석 인공지능 과학자인 얀 르쿤은 "현재의 인공지능(LLM)은 결코 AGI가 될 수 없다."라고 말한다.

AGI(인공일반지능)는 강인공지능 영역 안에서 인공의식으로 넘어가기 바로 이전 단계인데, 여기서 인공의식은 영화 터미네이터에 등장하는 스카이넷처럼 스스로 사고하고 학습하여 인간이 명령하지 않은 일까지 벌일 수 있는 인공지능을 뜻한다.

 

현시대에 우리가 다루고 있는 GPT와 같은 AI는 아직까지 약인공지능에 속한다.

근데 아이러니하게도 그는 오히려 그러한 이유로 AI 규제론을 적극적으로 반대하는 사람이기도 하다.

 

과연 AI에 대한 규제가 완전히 없어진다면 무슨 일이 벌어질까?

 

*썸네일 출처: 홍석철의 이코노믹스 - AI 따라오기 힘든 ‘암묵지’ 많은 직업 살아남는다