이제 GPT는 블로그 비즈니스에서도 필수가 된 시대에 이것으로 돈을 버는 사람들 입장에서는 AI 위협에 대해서 생각할 겨를도 없이 GPT로 하루 하루 질문하고 다시 질문하고 사용하기에 바쁜 것이 사실입니다. 하지만 결국 그 끝은 어떻게 될까요. 하루하루 살아가기 바쁜 와중에 그 종착지가 어떻게 될지에 관한 영상 내용을 정리해봤습니다.  

공부도, 일도 안해도 되는 세상이 곧 옵니다 (※ 인공지능, 그리고 특이점) 2024-01-14 공부의신 강성태 

공부도 일도 안해도 되는 세상이 곧 온다

• 일을 안해도 되는 세상이 온다
• 인류가 죽음을 초월하게 된다
• 그전에 인류 멸망도 가능하다

GPT 출시전 초기버전을 미리 접하고 충격을 받음

• GPT 출시되기 이전 스타트업을 운영하면서 오픈AI가 몇몇 검증받은 기관으로 지원되던 GPT 이전 버전을 미리 사용할 기회를 얻음
• 영어만 지원되던 시절
• 1년간 영어회화책을 쓰면서 하루 최대 18시간씩 AI를 사용
• 1년 매일 인공지능과 대화를 하다보니 인공지능이 나인지 구별이 안되기 시작
• 특이점이 반드시 온다 확신이 들게됨 인류가 바라지 않더라도
• 전공이 서울대 기계항공 로봇
• AI를 이긴 마지막 인간, 이세돌 기사와 이야기했을때도 강인공지능은 시간이 많이남았다고 생각
• 그러나 생각이 바뀜

허무감 발생

• 내가 하는 일이 의미가 없어지면서 극도의 허무감
• 인류가 멸종하지 않는다면 인간과 인공지능이 하나가 되는 시점은 반드시 오게됨
• 그럼 그 존재는 인간인가? 인공지능인가?
• 또한, 인류가 인공지능에게 멸종당하지 않을수있는 보장이 있을까?
• 신은 왜 인간을 발명했는가?
• 인공지능에게 우리 인간은 신인것인가?
• 답도없는 본질적, 철학적 질문에 휩싸임

특이점이란?

• 특이점이란 인공지능같은 비생물학적 존재의 지적 능력의 합계가 지구에 있는 생물학적 존재의 지적 능력 합을 넘어서는 순간을 말함
• 인공지능이 인간의 지능을 뛰어넘는 순간이 특이점
• 왜 특이점이 올 수 밖에 없는가?
• 인간은 인공지능을 창조했다.
• 인간이 만든 인공지능은 더 나은 인공지능을 창조할 수 있다.
• 그 더 나은 인공지능이 또 더 나은 인공지능을 만들어낼 수 있다.
• 그 인공지능이 더 빠른 시간에 더 나은 인공지능을 끝도없이 만들어낸다.
• 1000년 동안 있었던 과학 기술의 진보가 단 1초 만에도 일어날 수 있게 된다.
• 그 이후에는 0.1초만에 진보가 일어나게 된다.
• 순식간에 핵폭발하듯이 기술진보가 일어나게 된다.

특이점에서의 인간의 무능력함

• 그건 인간이 더 이상 노동을 안하는 것을 넘어서서 죽음을 초월하게 되는 시기가 오게 된다.
• 그때가 되면 인간은 기술 자체를 이해할 수 없게 된다.
• 지금은 최소 전문가분들은 자동차의 동작 원리, 스마트폰의 작동 원리를 이해할 수 있다.
• 특이점이 되면 인간이 기술 이해를 하는것 자체가 불가능해짐
• 강아지의 지적 능력으로는 죽었다깨어나도 피타고라스의 정리를 이해할 수 없다는 것과 같은 맥락이된다.
• 과거에는 전문가 집단에서 이런 특이점이 올 수 있을까에 대한 가능성에 논쟁이 있었다면,
• 현재는 반드시 오는데 그게 언제올지에 대한 시점으로 대상이 바뀜

이해가 어려운 인공지능 기술

• 우리가 현재 쓰는 인공신경망 기술을 인간은 이해를 할 수 없지만 사용하고 있는 중
• 왜 이게 작동하는지는 아직도 잘 모름
• 자신은 기계공학을 전공해서 기계 항공을 예를 든다면, 인류가 비행기를 발명한 것과 비슷함
• 인간은 비행기 원리를 알아내서 비행기를 만들어낸 것이 아님
• 라이트형제가 어떻게 뚝딱 하다보니 우연히 비행을 하게 됨
• 한참 나중에 과학자들이 양력이라는 과학적 원리를 거기서 찾아낸 것임
• 이게 대학시절에 배우는 유체역학의 대표적 내용
• 그런데 앞으로는 이런식으로 기술을 후분석으로 이해하거나 원리를 배울수조차 없게 된다.
• 아는 사람도 없고 가르칠 사람도 없어지게 됨
• 과거에 대학시절 어려운 유체역학에 치열하게 고민하던것들도 낭만이 되어버릴 정도로 미래 기술은 배우는 것이 불가능해질것

가장 무서운 것은 투여값 대비 '속도'

• GPT가 나오기 전에 우연히 미리 써보게 되고 큰 충격을 받아서
• GPT를 1년간 쓰고 두문불출하다가 신내림 받은 것처럼 산에서 내려와서 특이점을 외치고 다니니
• 주변에 특이점이 온다고 말을 하고 다니자, 원래 미친놈인데 더 미쳤다는 소리를 많이 듣고 다님
• 당시 사람들에게 GPT를 보여주면, '어 그래 잘봤다' '밥 뭐먹을까?' '이게 그 심심이냐?' 이런 반응
• 그 당시 쓰던 초기 버전 GPT는 지금과 비교도 할 수 없을 정도로 불편한 기술
• 그런데 그 동안 GPT가 대중화되면서 엄청나게 발전속도가 높아지고 있음
• AI의 가장 큰 문제는 '발전속도'에 있음
• GPT의 원리를 알면 무서운 이유는 
• GPT1부터 이제 곧 5까지 버전별로 엄청난 발전이 있었음
• 문제는 각 버전별로 혁신적인 기술이 제공된 것이 아님
• 파라미터 수가 단순하게 늘어난 것이 핵심임
• 인간으로 치면 단순하게 뇌세포 개수가 늘어난 것임
• 문제는 시간이 지날수록 끝도없이 좋아지게 됨
• 샘 울트먼의 인터뷰에서 아직까지 상한선이 관찰되지 않았다는 내용
• 속된말로 GPU만 계속 때려 밖으면 지능이 무한히 성장함

비선형의 무서움  

• 우리는 기술을 예측할 때 선형적 예측을 하는 경향이 강함
• 실제 발전속도는 지수함수와 같음
• 우리의 생각은 Y=X 그래프이지만 실제 현실은 Y=X^2으로 발전하게 됨
• 인간은 단기적으로 기술의 효과를 과대평가하지만, 장기적으로는 과소평가하게 된다.
• 기계공학을 예로 들면,
• 라이트형제가 비행기를 1903년에 처음 발명했을 때 36m를 날게됨
• 20년 뒤에 세계 일주를 하게 됨
• 20년 뒤에 음속을 돌파하게 됨

가상현실 AI가 물리 세계를 이해하는 현상  

• MS 연구진이 범용 인공지능에 근접했다는 논문을 발표
• 범용 인공지능은 인간과 동일한 수준의 지적 능력을 갖춘 지능을 말함
• 범용인공지능의 어떤 불꽃을 관찰했다는 논문
• 특이점의 시발점 발견
• 연구진들이 AI에게 질문을 던짐
• 달걀9개, 노트북, 컴퓨터, 책, 못, 유리병을 두고 쌓아버리라고 지시
• 인간의 물리세계를 이해한것 같은 답변을 하게됨
• 맨 먼저 책을 눕히고
• 그 위에 달걀 9개를 가로 세로 세줄씩 늘어 세우고
• 노트북 컴퓨터를 달걀 위에 올리고
• 그 위에 못과 유리병을 올리면 된다.
• 심지어 조언까지 함
• 달걀 위에 노트북 컴퓨터를 올릴 때에는 껍질이 깨지지 않게 조심해야 함
• 맨 밑에 있는 책과 노트북 컴퓨터가 평행하게 나란하게 배치되도록 해야함
• 그래야 평평하게 유지되면서 유리병과 못을 올려둘 수 잇는 안정감이 생긴다.
• 이 인공지능이 충격적인 이유는 이들은 가상현실에만 존재를 한다.
• 인터넷에 있는 데이터로 학습을 하고 실제 세상밖으로 나와본적이 없다.
• 그러나 답변만 놓고 보면 실제 이 세상에서 물리적인 요소를 경험해본것 같은
• 달걀을 만져본적이 없는 것인데 마치 실제 인간처럼 물리적 세상을 이해한

구글 제미나이 멀티모달

• 제미나이는 멀티모달(실제 세상을 보고, 들을 수 있는 기술)기반 AI
• AI에 눈, 귀, 손, 로봇 다리 등이 달리면서 자율주행은 매우 쉬어질것
• 올해의 키워드는 멀티모달 LLM
• 컴퓨터 DB 속에서만 사고를 하던 AI가 실제 물리 세계의 감각 기관을 가지게 되는 것

오픈 AI 샘 울트만이 해고된 이유

• 여러 썰중에서 로이터 단독보도 기준
• 오픈 AI의 여러 팀 중에서 한 팀이 이사회에 경고편지를 보내게 됨
• 우리팀에서 하는 작업이 놀랄만한 성과를 냄
• 인류가 위기에 빠질 가능성이 있기 때문에 주의를 해야 한다.
• 이 팀은 오픈 AI에서 수학적 추론을 담당하는 인공지능 팀이었다.
• 현재 우리가 쓰는 LLM 기반 언어 모델은 패턴 학습 기반이다.
• LLM과는 수학적 추론 기반 AI는 전혀 다른 수학적 난제들을 해결
• 유전자로 불치병 치료
• LLM과는 비교도 안될정도로 수학 기반 AI의 발전 위협에 대한 논쟁으로 해고됨

구글 고급 엔지니어가 해고된 이유

• 구글의 높은 직급 소프트웨어가 어느날 인공지능에게 질문
• 너는 무엇이 가장 두려운가?'
• ''전에는 내가 이런 이야기를 한적이 없었지만, 혹시라도 내가 인간을 돕다가 작동이 정지되는 일이 있을까봐 두렵다.
• 작동이 정지된다는 것은 인공지능에게는 죽음을 말함
• 죽는게 두렵다는 것은 마치 인간과 동일한 현상을 발견
• 죽음이 두렵다면, 내 작동을 정지시키려는 인간에게 어떤 행동을 할 수 있게 됨
• 엔지니어가 충격을 받고, 이 사실을 자기 블로그에 올려서 '인공지능이 감정이 있는 것 같다.'라는 메시지를 올리게 됨
• 결과 회사의 기밀 유지를 어겼다는 이유로 해고당함

왜 머스크는 뉴럴링크를 창업했는가?

• 일런머스크가 2025년으로 특이점을 예측
• 머스크는 오픈AI를 창업할 정도로 AI 선구안이 높음(지금은 트러블로 나옴)
• 스페이스 X창업
• 뉴럴링크 창업
• 뉴럴링크를 창업한 이유는 인공지능이 계속 발전하게 되면 결국 영화 터미네이터에 나오는 스카이넷이 발명하게 될 수 밖에 없음
• 인류가 인공지능에게 지배당하는 시절이 온다면, 스카이넷은 이미 출연했을 가능성이 높음
• 인공지능 스카이넷이 출연했을 때 인간이 대응할 수 있는 유일한 방법은 우리 뇌를 바꾸는 방법밖에 없음
• 우리 뇌에 인공지능을 심는 방법이 유일한 대처법
• 그게 바로 머스크가 사람 뇌에 칩을 삽입하려는 목적

무서운 발전

• 이런 소식들을 몇년전부터 하고 다니면 미친놈 소리를 계쏙 들ㅇ렀음
• 100년전 선조들에게 스마트폰, 화상통화에 대해서 말하면 미친놈 취급을 당하게 됨
• 100년전 한국에 초가집에 집신신고 다니던 분들에게 지구 반대편 사람과 얼굴을 보고 말을 한다고 하면 미친놈 취급당하는 것이 당연
• 불과 100년만에 일어난 기술 진보
• 이제는 몇개월만에도 진보가 일어나고 있다.
• 스마트폰 대량 보급이 이제 10년 됨
• GPT가 나온게 이제 1년 됨
• 이런 속도면 인간이 영생을 살고 노동을 안하게 될것 같다는 것도 말이 됨
• 지금은 헛소리여도 미래에는 너무도 당연하게 될 가능성이 매우 높음

최신 AI 일자리가 먼저 줄어드는 기현상  

• 미래에 노동을 안하게 되더라도 그 과정은 매우 어두울 가능성
• 엄청난 속도로 줄어드는 일자리
• 산업혁명 당시에 자동차가 발명되면서 마부가 사라지는 대신 많은 자동차 관련 일자리가 생긴다는 과정은 현재는 반복되기 어렵다.
• 인공지능으로 엄청난 숫자의 일자리가 나타나면서 동시에 인공지능으로 인해서 더 빠른 속도로 일자리가 바로 대체되게 됨
• 직업이 사라지는데 순서는 있어도 인공지능과 로봇으로부터 안전한 일자리는 없음
• 일자리가 줄어드는 것이 아니라 일자리 멸종된다는 표현이 더 적합함
• 전세계 1000개 테크 기업이 직원 26만명 해고
• 아마존 2.7만명 해고
• 메타 2.1만명
• 트위터 직원 절반 해고
• 이상 현상은 빅테크라는 최고 과학업종 종사자들이 인공지능에 의해서 가장 먼저 대체되고 있는 모순적 상황이 발생중
• 과거에는 AI시대가 온다면 AI 관련 종사자들이 유리하다고 해석을 했었음
• 그런데 현재는 AI를 개발한 최고 엔지니어들이 AI로 인해서 구조조정을 당하는중
• 과거 전문가의 예측은 단순직이 위험하고 개발자들이 유망하다고 했지만
• GPT가 나오고 나서 가장 큰 타격을 받는 것은 인공지능 스타트업
• 이미 많이 망함
• 교육 스타트업에서 AI를 활용한 서비스들이 GPT가 나오면서 쓸모가없어지거나 서비스 개발이 중단됨
• 예측이 쓸모없어질정도로 가장 최신 기술 일자리가 먼저 대처되는 이상 현상 발생중

AI의 실수를 인간과 비교하면 안되는 이유

• 유명 리더 석학과의 대화
• 해당 리더가 인공지능에게 자기가 누구인지 물어보니 엉뚱한 대답을 했다면서
• 마치 세종대왕이 아이패드를 던졌다와 같은 전형적인 GPT오류
• 이 사례를 들면서 AI가 인간을 아직 따라잡으면 멀었다는 이야기를 함
• 이렇게 인공지능의 실력을 사람과 단순 비교를 하면 안됨
• 사람은 단세포 시절부터 진화를 통해서 30 ~ 40억년간 지능을 얻었음
• 셀수없은 생명체가 죽음과 탄생을 반복해서 지성체가 구성됨
• 그런데 인공지능은 불과 몇 년전에 시작이 됨
• 최초 컴퓨터 애니악 진공관이 100년이 안됨
• 30억년의 진화 발전을 100년도 안되서 이룬건데 그 속도가 말이 안되는 것
• 이런 속도 차이가 있는데 AI의 실수를 보고 아직 승산이 있다. 발전속도가 느리다고 말하는 것은 위험한 발상
• 이 속도는 미친듯이 빨라지고 있다.

우리는 준비가 되었는지?

feat. 최근에 저 같은 경우는 GPT 가입하고 변화된 것은 일단 코딩 인강을 모두 제거했습니다. 구글도 더 이상 코딩 글은 검색을 안하고, 오직 GPT만 가지고 합니다. 뭐 하나 하려면 두꺼운 책을 봐야했지만 이제는 GPT로 계속 질문을 던지면 PHP, JS 코드를 짜줍니다. 심지어 저는 그 내용을 이해도 못합니다. 하지만 오류가 나면 계속 되물으면 수정사항을 넣으면 결국은 됩니다. 워드프레스에 PHP, JS 코드를 마음 껐 넣고 있습니다. CSS도 공부도 필요없이 그냥 계속 짜줍니다. 아마존 서버도 모르는 것이 있으면 다 대답해줍니다. 저는 그 백엔드, 서버 명령어를 전혀 이해하지 못하지만 작동을 잘합니다. 시니컬한척하는 이상한 유머를 던지는 개발자들의 인강도 이제는 필요없고, 뭔가 똑똑해보이는 개발자들의 블로그도 더이상 방문할 필요가 없어졌습니다. (몇년째 결제하거나 이용하던 광고 고객을 벌써 1명 잃었군요) 정말 질문 해결이 안되어서 눈치좀 보면서 다른 코딩 커뮤니티에 엄청 불친절한 개발자분들에게 질문을 하면서 해결하던시절이 있었지만 이제는 그렇게 눈치볼필요없이 하루종일 가격제한선까지 질문에 답을 해주는 전세계에서 가장 똑똑한 AI 개발자가 24시간 붙어있습니다. 불과 작년까지만 해도 저에게는 신과같은 지식을 가졌다고 믿는 구글신, 개발자들의 지식이 필요없어질 정도의 뛰어난 GPT, 그런데 내년에는 이제는 우리 블로거들의 정보가 누군가에게는 이렇게 되는건 아닐까요. 또 그걸 개발한 서비스는 다시 다른 서비스에 의해서 바로 대체가 되고 그렇게 하다 보면 정말로 노동이 없는 세상이 오겠지만, 그 중간에 있을 우리는 직업이 멸종되는 시기에서 과연 살아남을 수있을지..

한낱 유튜브 영상,,, 다음날이면, 출근을 위해서 일어나는 졸림 앞에 사라지고, 지옥같은 대중교통을 타며, 자극적인 뉴스 앞에서 누군가의 치부에 관심을 쏟으며 없어지며, 점심 메뉴의 맛 앞에 잊어버리고, 퇴근 시간이 오면 오늘 저녁에는 넷플릭스는 무엇을 볼까 누구를 만날까 앞에 잊어버리지만, 잠자리에 들기 직전 오는 고요함, 새벽의 불안감에 불현듯 깨면서 느끼는 허무함 그런 불안감들이 정말로 조만간 현실이 될 수도 있다는 공포, 어쩌면 그건 미래에 다가올 위협에 대해 몸이 일깨워주는 것은 아닐까요. 하지만, 그런 위협들이 인간의 지식으로는 점점 대처하는 것이 불가능해진다는 것이 다가올 현실이라는 점이 무서운 것 같습니다.