AI가 정비를 할 수 없는 세 가지 이유

AI가 정비를 할 수 없는 세 가지 이유

*This blog post is written in Korean. To view it in English, you can use a translation app or select your web browser's translation option to view it in English.

2023년형 캐딜락 소형 SUV(XT4)에 체크엔진등이 들어오고 파워가 약하다는 컴플레인을 달고 딜러 정비샵에 들렸습니다. 워크 스테이션 화면에 간략하게 쓰여진 코멘트만 보고도 캠샤프트 관련 문제인 것같은 느낌이 직관적으로 들어옵니다. 흔히 있는 문제이기 때문입니다.

코드를 찍어보니 P2C0B-00 코드가 뜹니다. 이 코드의 디스크립션(description)은 “Intake Camshaft Profile Actuator Position Sensor 2 Circuit Low Voltage”입니다. 

SI(GM Service Information)을 체크하기 전에, AI에 물어보면 이 코드에 대한 해결책 직답이 나올까하는 궁금증이 생깁니다. “그 코드는 캐딜락 이 2.0 엔진에 흔히 있는 문제고, 진단하느라고 시간 낭비할 필요없이 바로 이 부품을 교체하시면 됩니다.” 뭐 이런 정도의 답을 기대하고 한번 물어보았습니다. 

약이나 의학 분야에는 AI가 맹활약하고 있다는 소리를 들었습니다. 증상을 자세히 설명해주면 정확한 진단결과가 나온다는 것입니다. 그도 그럴 것이 효과 좋은 신약이 나오면 그걸 팔아야 하는 제약회사로서는 기업 비밀로 감추어둘 것도 없고 온동네방네 소문을 낼 것이고, 약은 또 치료와 연결되어 병원이나 의사들 치료 결과나 임상실험도 모두 빅데이터에 기록이 될테니 그걸 모두 초고속으로 열람하고 결과를 정리하고 결론을 내는 것이 사람보다 AI가 훨씬 빠를 수 있습니다. 

그런 AI니 사람보다 덜 정밀하고, 덜 복잡한 자동차에 대해서는 AI가 더 놀라운 결과를 내놓을 수 있지 않을까 기대해볼 수 있는 것이고, 일반 사람들이 상상해볼 수 있는 상식선의 생각일 수 있습니다.

제가 알려준 코드를 보고 AI는 무슨 답변을 내 놓았을까요? 인테이크(흡기) 쪽 캠샤프트 포지션 센서(B23F Camshaft Position Sensor-Intake)를 교체하라고 합니다. 캠사프트 포지션 센서 커넥터에 연결된 와이어링을 체크하고 이상이 없으면 센서를 교체하라고 추천을 합니다. 

회로도를 보니 AI가 지적한 그 센서 말고 두 개의 센서가 더 있습니다. 그것에 대해 의문을 제기했더니, 그 센서가 맞다며 그 센서가 두 개가 있는데, 운전석 쪽의 센서(B338B Intake Camshaft Profile Sleeve Position Sensor 2)를 교체하라고 이야기합니다. 이야기를 나누는 중에 아주 쉽게 말을 바꿉니다. 도대체 신빙성도 없고 책임감도 없습니다. 그런데 미안하다 소리도 없고 태연하고 자연스럽게 그러니 아주 확신을 가지고 이야기하는 것처럼 들릴 수 있습니다. 잘 모르면 그냥 믿고 그렇게 갈 수 밖에 없을 것입니다. 아마도 이란을 공격한 미국도 AI의 이런 막되어먹은 행동에 넘어가 바보짓을 한 것 아닐까요? 백프로!

AI하고는 거기까지만 이야기하고, GM SI를 기반으로 진단을 이어갔고, 실제로 교체해야 할 것은 이 4기통 엔진 위쪽에 달려 있는 네 개의 캠 샤프트 액추에이터 중에 문제가 되는 두 번째 엑츄에이터(M129B Intake Camshaft Profile Actuator)를 교체해주어야 합니다. AI는 자기가 전문가인 것처럼 행세했지만 새롭게 설계된 이 엔진의 구조와 작동원리에 대해서 아는 것이 없는 상태임을 할 수 있습니다. 제가 잘 가르쳐줘야 학습을 통해 알게 되어 있는 구조입니다.

기존의 엔진의 캠샤프트 포지션 컨트롤 엑츄에이터는 타이밍 벨트에 물려 있어서 교체하기가 쉽지 않습니다. 타이밍 체인 작업을 해주어야 합니다. 하지만 이 신형 엔진은 각 실린더마다 각각의 캠샤프트 컨트롤 엑츄에이터가 있고, 그 엑츄에이터 안에 자체 센서까지 내장을 하고 있는데 이 놈이 잘 망가져 딜러에서 워런티로 많이 교체해주는 부품입니다. 이것은 타이밍 벨트를 건드릴 필요없이 엑츄에이터를 고정하고 있는 볼트 두 개만 풀어 내면 쉽게 교체할 수 있습니다. 

아래 그림에서 B가 AI가 두 번째 오진한 B338B(Intake Camshaft Profile Sleeve Position Sensor 2)이고 첫번째 오진한 B23F는 그림에 보이지 않고 있습니다. 그리고 A가 제대로 교체해야할 2번 실린더 위쪽의 인테이트 캠 샤프트 엑츄에이터입니다.

엑츄에이터인데, 코드에는 센서라고 나와 있는데? 그런 의문이 들고 있고, 그래서 오진을 할 가능성도 있습니다. 하지만 밑의 회로도를 보면 코드에 센서가 언급된 이유를 알 수 있습니다. 엑츄에이터 내부에 센서가 포함되어 있는 것을 볼 수 있습니다.

신약이나 의학분야는 학술지등을 통해서 세상에 공개되어 AI가 쉽게 활약을 할 수 있지만, 정비의 세계는 좀 다릅니다. 세상에 깔려 있는 자동차 회사들이 설계하는 자동차는 세계 공통의 설계 기준이 있는 것도 아니고 회사간에 서로 호환 가능한 부품을 사용하는 것도 아니고, 심지어는 조그만 나사 하나까지도 회사마다 차종마다 전부 다릅니다. 설계 다르고, 구조 다르고, 부품 다르고, 조립하는 방법 다르고, 정비하는 방법 다르고, 도대체 같은 것이라고는 휘발유 먹고, 타이어 달고 달리는 것 정도만 같거나 비슷하다고 할 정도이니 어떤 표준이 있다고 이야기할 수가 전혀 없습니다.

더 가관인 것은 그렇게 각자 설계하고, 만들어 놓고, 설계 개념이나, 만든 방법은 기업 비밀 같은 것이어서 세상에 내놓지도 않고, 심지어는 정비 지침서도 해당 딜러들만 폐쇄적인 인터넷망을 통하여 열람할 수 있습니다. 세상에 절대로 공짜로 공개하지 않습니다. AI가 그 내용을 학습할 수 있는 길이 원천 봉쇄되어 있는 것입니다.

그러면 AI 시대가 온다고 테크 기업들처럼 자동차 회사들이 직원을 AI로 대체하고, 대량 감원을 시행 할 수 있을까요? 공장 라인에서는 라인에 로보트를 들이면서 사람을 대체하고 있습니다. 그러면 공장이 아닌, 연구소 인원과 딜러의 미캐닉들도 점차 로봇이나 AI로 대체할 수 있을까요? 

먼저 연구소를 들여다보면, AI가 어떤 부분 설계를 한다고 가정을 해도 그 설계가 안전과 법규를 만족하는지, 최종 점검은 사람이 해야 하기 때문에 전문가 집단인 설계담당 연구원들을 감원하는 것에는 한계가 있을 것입니다. 그리고 자동차 설계는 부처간, 혹은 팀간 조율이 매일같이 일어나야 하는 분야 즉 AI에 맡겨놓고 두다리 뻗고 잠잘 수 있는 그런 일이 아니라 변동과 조정이 늘 필요한 비정형적인 일이기 때문에 AI가 자동차 연구소에서 어떤 입지까지 발전할 수 있을지는 현재로서는 상상하기 힘들고 두고 볼 일입니다. 현대나 기아 연구소에서 보유하고 있는 연구원 수만 해도 만 명이 넘을 것인데, 그 두뇌를 모두 AI로 대체할 수 있다? 신차 디자인, 설계, 테스트, 창의적인 아이디어와 머리가 필요한 그 일들을 AI가 전부 대체한다는 것은 잘 상상이 되지 않는 일입니다.

만약 AI가 자동차 연구소 연구원들의 인력을 대체할 수 있다면, 그럼 다음 단계로 딜러 정비샵의 미캐닉 일을 대체할 수 있을까? 그럴 수 없는 이유 세 가지만 들어보겠습니다.

첫째, AI가 매년 나오는 신차에 대한 정보를 학습할 수 있을까? 자동차 연구소가 공개하지 않는 한 그것은 힘든 일입니다. 그러면 자동차 연구소는 업무 효율을 높이기 위하여 신차 정보를 공개할 것인가? 그러면 세상 사람들이 그 정보를 이용하여 자가 정비를 하거나 딜러를 찾을 필요가 없어져 딜러와 자동차 업체 자신들에게 수익창출에 큰 차질을 줄 것이기 때문에 공개하지 않을 것입니다. 그래서 그게 AI가 정비를 할 수 없는 보이지 않는 이유 중에 하나가 될 것입니다. 위의 예에서 본 것처럼 AI가 정확한 진단을 하지 못하고 오진을 한 것도 그런 이유 때문입니다.

둘째, AI에게 유용한 정보를 준다고 해도 AI는 인간 미캐닉이 가지고 있는 툴박스와 툴이 없습니다. 나중에 로보트가 나와서 사람을 대신할 수 있을까요? 현재의 자동차 구조에서는 사람 이상으로 몸을 유연하게 쓸 수 있는 로보트가 나오지 않고서는 도저히 정비를 할 수가 없습니다. 현재 미캐닉이 하는 자동차 정비는 거의 아크로바틱 수준의 자세를 취하는 일이 비일비재하기 때문입니다. 그런 환경인데 AI를 두뇌에 입력한 로봇이 사람처럼 공구를 다루고 조이고 기름치고, 회로를 진단하고, 손상된 와이어링을 고치고 하는 모습을 아직은 상상하기 어려운 일입니다. 현재 공장에서 움직이는 로봇의 수준은 용접과 단순 반복 작업의 수준에 머물러 있습니다. 완전한 자율 자동차가 나오는 수준이 되어도 미캐닉을 대체할 정비 로봇이 등장하는 것은 또다른 차원의 이야기입니다.

셋째, 정비를 하기 위해서는 손님 자동차를 테스트 드라이빙을 하면서 문제를 느끼고 소리를 듣고, 진동을 느끼고 오감을 총동원하여 진단을 해야 합니다. 그러면 로봇의 성능이 사람을 능가할 정도여야 합니다. 터미네이터3에 나오는 로봇이 등장할 정도의 세상이 되면 가능해질 수 있는 일입니다.

미국의 이란 전쟁에 쓰인 AI는 보이지 않는 허상입니다. 보이고 만져지는 실체가 아닙니다. 인간들이 넣어준 빅데이터에 근거하여 분석하고 결과를 도출해내는, 어찌보면 대단할 것도 없는 그냥 성능 좋은 컴퓨터 수준일 뿐입니다. 그 성능 좋다는 놈이 내놓은 결과를 이용했더니, 이란 학교를 때려서 학생들을 죽이는 오답을 내고 있습니다. 위의 예에서 정비진단 오진을 내는 경우가 유사한 형태입니다. AI가 어떤 분야에서든지 AI 자신이 내놓은 결과에 책임까지 질 수 있으려면 인간이 주는 정보가 아니라 자기가 직접 수집한 정보와 정보활동을 통해 얻는 자료를 가지고 전문가 집단과 모여 심층 회의를 거친 후에 나온 결과를 가지고 다시 한번 재검토하여 어떻게 진행할 지를 최종 결정해야 합니다. 그래야만 정답을 내놓든 오진을 하든 AI 스스로가 책임을 질 수 있는 일입니다. 지금처럼 결론을 내놓고는 그게 정말 맞는 건지, 맞지 않는 건지, 결국은 사람이 판단하고 책임을 져야 하는 것이라면 AI는 그냥 폭탄 그 이상 그 이하도 아닙니다. 지금 인간들이 AI를 대하는 태도는 너무 호들갑이 심합니다.

즉 AI가 AI답게 인간을 능가하려면 AI 하나가 정책이나 전략을 결정하는 것이 아니라 집단 AI가 그 일을 수행해야 합니다. 그런데 지금 보이지 않는 AI만 있는데, 보이는 AI를 만들어서 그 로봇 AI를 국가 정보원으로 적성 국가에 수백 기를 보내겠습니까?

아직 보이는 AI 정보원을 만든 국가는 없습니다. AI 개발에 광분하고 있는 중국도 아직 보이는 AI는 개발하지 못했습니다. 그냥 걷고 뛰는 로보트가 현 최고 수준의 AI 로봇입니다. 아마도 중국 전체 골목 곳곳에 설치한 감시 카메라가 현존하는 최고의 눈에 보이는 AI 정보원들 아닐까요? 보이는 AI 정보원이 사람 속에 섞여 정보 수집가 역할을 하고 주어진 임무를 수행하는 날이 아마도 정비도 AI가 완전히 대체하는 시대가 되지 않을까 싶은 생각이 듭니다. 

현재는 인간 정보원들이 수집한 정보를 가지고 AI가 그 대장 노릇을 하도록 AI를 쓰고 있으니, 그 AI를 쓰는 인간들이 주객을 전도시킨 바보들입니다. 트럼프, 헤그세스, 트럼프 내각과 군대가 그런 멍청이들입니다.

한번은 한 아이가 "AI는 항상 정답만 이야기하니까"라고 운을 떼며 이야기하는 것을 지나면서 들은 기억이 있습니다. 아직 인생, 학식, 견문이 짧으니, 무려 AI가 하는 이야기가 틀릴 수 있다는 생각 자체를 가지지 못한 것 같습니다. 뭐 초중고 수학, 물리 문제 정도는 AI가 오답을 낼 확률이 거의 없다고 볼 수 있습니다. 그리고 코에 걸면 코걸이, 귀에 걸면 귀걸이가 되는 정답이 없는 인문사회 계통의 궁금증에 대해 AI가 내놓는 대답을 보면 뭐가 틀렸다고 단언할 수 없는 일입니다. 그러니 그런 관점으로 그 아이는 AI는 무조건 맞는다고 판단할 수 있을 겁니다.

하지만 뭐든 전문 분야로 한발 들여놓으면 AI는 헛소리들을 쏟아내기 시작합니다. 물어서 한번만에 정답을 내놓는다면 AI의 성능은 10점 만점에 10점을 줄 수 있습니다. 하지만 첫 대답에 신뢰가 가질 않아  아홉번, 열번 더 물은 다음에 정답을 내놓는 정도라면 AI의 성능은 10점 만점에 1점 미만이라고 단언할 수 있습니다. 

그런데 그런 경험을 요즘 너무나 자주 경험하고 있습니다. 일렉 기타 연주를 하면서 앰플리튜브(IK Multimedia사의 일렉기타 앰프 가상악기)가 품고 있는 기타톤 프리셋을 에어스텝에 매핑하여 연주를 쉽게 하려고 세팅하는 과정에서 AI의 형편없는 성능을 뼈저리게 경험했습니다. 앰플리튜브가 제공하는 매뉴얼이 있는데 그걸 보면서도 매핑 과정을 영 엉성하고 엉터리로 안내하여 아주 애를 먹었습니다. 주고 받은 문답이 열번이 아니라 수십번에 이르고 심지어는 화면을 스크린 캡처하여 그 그림을 몇번 제공한 다음에야 힌트를 얻어내곤 했습니다. 비단 앰플리튜브 뿐만 아니라 펜더 스튜디오 프로와 큐베이스 사용을 하면서도 그랬고, 유튜브 스트림 세팅, 스트림 덱 세팅 등등, 좌우지간 부딪치는 사사건건 정답을 찾기 위해 시간을 낭비하며 인내를 가지고 AI를 끌고 하드캐리해야 했습니다. AI의 도움을 받아 뭘 해결하려고 허비한 시간을 모두 합치면 근래 두어달 것만 다 합쳐도 백수십 시간이 되지 않을까 싶습니다.

AI를 쓰지 않으면 경쟁에서 처지고 낙오될 수 있다고 허품을 떠는 소위 AI 전문가들을 많이 볼 수 있습니다. 이미 AI가 필요하여 잘 쓰는 사람들은 경쟁이고 뭐고 생각할 필요도 없습니다. 그야말로 괜한 허풍입니다. 세상에는 AI없이 맛있는 밥에 시원한 열무김치 먹으며서 잘 사는 사람들 천지입니다. 제가 AI를 쓰면서 느끼는 점은 AI에 전적으로 뭘 맡기면 낭패를 볼 확률이 백프로입니다. AI를 잘 쓰는 전문가들은 AI를 도구로 잘 사용하면서 시간을 아끼고 능률을 극대화시키는 것이지, AI에 뭘 전적으로 맡길 수 있는 수준으로 AI가 발전한 것이 아닙니다. 아직은 AI를 쓰면서 AI가 헛짓이나 거짓말이나 오류를 범하지 않는지 전문가로서 그것을 발견할 수 있는 능력이 있어야 합니다.

AI에 대해 환상을 가진 사람들은 AI가 있기 때문에 앞으로는 공부도 필요없고, AI에게 물어보고 하면 된다는 말을 합니다. 한심한 생각입니다. AI를 활용하려는 분야에서 전문 지식을 가지고 있지 않으면 AI를 제대로 다룰 수도 없고, AI가 내놓은 결과를 심사할 수 있는 능력을 가지고 있지 않으면 안됩니다. 그런 사람들의 책상 위에 떨어지는 것은 해고통지서입니다. 공부하지 않고, 노력하지 않고, 경험을 쌓지 않고, AI를 통해 절대로 인생을 해결할 수 없다는 것을 심각하게 인지할 필요가 있습니다. 정비를 배우지 않고 AI를 이용하면 정비를 할 수 있다? 단언코 절대로 그렇게 할 수 없습니다.

추론의 기억: 추론에 대하여

AI에 대하여 과장된 소리 또 하나가 있습니다. AI의 추론 능력이라는 것입니다. AI가 학습한 것을 기반으로 스스로 추론한다. 그 기능이 대단한 것처럼 허풍을 떨고 있습니다. 그 추론이 절대적으로 옳은 생각이고, 유일무이한 해결책이면 정말 마술 지팡이 같이 대단한 것이고, 신의 영역에 도달한 것이라고 이야기할 수 있습니다. 하지만 그 추론의 성능이 누구나 상식적으로 생각할 수 있는 수준이고, 뻔한 이야기라면, 반대로 정답이 아니라 잘못 추론한 것이고, 거짓말이고, 해악을 끼칠 수 있는 결과물이라면? 

일반 분야가 아닌, 조금이라도 전문 지식이 필요한 분야에서는 AI가 인도애들처럼 잘 모르면서도 절대로 모른다는 소리하지 않고, 나름대로 추론(추론인지 상상인지, 때려맞추기 겐또인지)한 결과를 마치 정답을 내놓은 것처럼 뻔뻔하게 내놓는데, 그 분야에 어느 수준 이상의 전문 지식만 있으면 한 눈에 봐도 이게 헛소리 수준밖에 되지 않는 것을 내놓을 때가 자주 있습니다. 진정한 추론자(?)라면 언제나 정답만을 내놓는 것은 물론이고, 더 좋은 것을 추천하고, 한 걸음 더 나아가 완성형의 그림을 그려 소개할 줄도 알아야 사람 머리 위에 앉아있다고 할 수 있습니다. 하지만 지금 AI 수준은 어림 반품없는 수준입니다. 예를 들면 에어스텝(XSonic사의 AirStep)에 있는 다섯 개의 스위치 중에 3개까지 매핑을 마쳤으면, 네 번째 스위치 매핑에 대한 좋은 추천을 내놓을 수 있어야 하는데, 그런 생각이나 추론까지 할 능력은 없습니다. 제가 네 번째 스위치를 루퍼에 매핑하여 쓸 수 있냐고 물어보면 그제야 기가막힌 아이디어라는 입에 바른 소리를 하면서 아는 척 합니다. 설계가 그렇게 되어 있는지 AI가 칭찬 하나는 참 잘합니다. 거기에 넘어가 걔가 사람인 줄 착각하고 좋아하고 심지어는 존댓말까지 쓰는 맹꽁이들을 주변에서 많이 봅니다.

AI가 정말 제대로 된 추론 능력을 가지고 있다면 미군이 사용한 엔트로픽의 추론 능력이 대단하여 이란 전쟁을 벌써 끝냈어야 합니다. 하지만 이스라엘 네타냐후가 이란 지도부를 몰살시키자고 했을 때 AI가 그걸 막는 추론 결과를 내놓지 않았습니다. AI의 추론 능력이 정말 대단하다면 어떻게 해야 미국의 의중대로 이란의 독재정권을 무너뜨리고 자유민주주의가 들어서게 할 수 있을지 올바른 추론을 내놓아야 했습니다. 아직은 AI에게 그런 추론 능력을 기대할 수준이 전혀 되지 못합니다. 그걸 가지고 추론 능력이 대단하다고 너스레를 떨고 있는 꼴은 코미디입니다.

<링크> 철기시대는 타락한 천사들이 열어주었나 - 환타지 소설 에녹서 

<링크> 지엠 5.3L, 6.2L 엔진 서펜타인 벨트 교체하기 

❤️감사합니다❤️

미흡한 글이지만 끝까지 읽어주신 성의와 시간 내어주심에 깊은 감사를 드립니다. 밴쿠버의 시원한 바람처럼 기분 좋은 하루 보내시기 바랍니다.