DeepSeek...

Written by Keith
on 

며칠 전에 DeepSeek 덕택에 내가 가진 주식들이 단번에 20%씩 빠지고 난리가 났다. 물론 지금은 다시 서서히 회복중이지만. 아니 빠르게 회복되고 있지만. 그게 좀 신기하지만. 어쨌든.

AI 모델 하나가 새로 나왔다고 이 난리가 날 정도로 세상이 AI에 대한 관심이 지대한 시절이다.

내가 DeepSeek을 좀 써본 결과로는 Llama나 Gemma 보다 여러 가지로 낫다라는 생각이다. 추론 하드웨어 성능이라든가 이런 건 내 관심 사항이 아니고 내 입맛에 맞는 결과가 잘 나오느냐 아니냐가 중요하다 나에겐. 단지 내가 좋은 GPU를 갖고 있지 않은 이유로 로컬에서 LLM을 돌리진 않지만 뭐랄까 지금 좀 어정쩡한 애플 인텔리전스도 차라리 DeepSeek 기반으로 만들면 어떨까 하는 생각까지 하게 된다. 애플 사람들이 또 이런 쪽으로는 머리가 빠르게 돌아가니까 조만간 무슨 일이 벌어질지는 아무도 알 수 없지만. 일단 대개의 추론 서비스를 해주는 업체에서는 DeepSeek 모델을 사용할 수 있게 해놓았다.

그러다보니 여력이 된다면 로컬에서 굴려보고 싶지만, 당장의 LLM들은 성능이 좋으면 많은 RAM을 필요로 하는 관계로 가뜩이나 RAM이 인색하기로 소문난 mac에서 돌리기는 좀 뭐하다. 아마 올해 하반기나 내년초에 나오는 프로세서들을 쓰면 또 RAM을 적당히 달아주면 집에서 편하게 쓸 수 있는 환경이 큰 돈 들이지 않고도 구성될 것 같기도 하고.

groq 같은 데서 70b 짜리 모델을 써보면 결과가 나머지 모델들보다 훨씬 쓸만하다. 몇년 후면 개인용 PC에서 local LLM을 적어도 한 개씩 굴리게 될텐데 그걸 생각하면 적어도 평소 업무 효율은 크게 올라가게 되지 싶다. 더구나 사람들이 저마다 이런 저런 모델을 써보다가 가장 맘에 드는 것을 고르게 될텐데 당장 deepseek이 모델을 공개해버렸고 성능도 괜찮다보니 이 발전은 더더욱 가속화될 수 밖에 없다고 본다.

당장의 openAI니 하는 것들이 모델을 폐쇄적으로 굴리긴 하겠지만 저작권이니 하는 거 우습게 여기는 이들이 자기들 입맛에 맞게 따로 최적화한 모델들이 결국엔 돌아다니게 될텐데 그 때가 되면 누가 좋은 ai 모델을 가졌냐에 따라서 일의 성과 같은 것도 크게 차이가 나게 될거라고 본다.

당장엔 API를 사용해서 인터넷으로 접속해야 뭔가를 할 수 있지만, 아직 로컬로 돌릴 수 없다고 하더라도 당장에 인트라넷에 빠른 LLM 서버가 돌고 있다고 하면 그냥 스크립팅 수준으로 하기 어려운 일들도 locally API를 이용해서 빠르게 할 수 있으니까 여러 모로 좋지 싶다.

사실 다른 사람에게 일을 맡겨놓고 그걸 내내 이래라 저래라 하면서 관리하는 게 체질에 맞는 사람들에겐 AI는 뭐랄까 별 도움이 안되는, 그러니까 일을 빠르게 잘하기는 하지만 다루기는 불편한 그런 존재일지 몰라도 나처럼 사람과 사람으로 만나서 뭔가 지시하고 확인하고 하는 일을 부담스러워하는 이에게 AI는 정말로 좋은 도구라고 생각한다. 이렇게 말하면 문제가 있는 것은 알지만, 능력이 모자르는 사람을 새로 고용해서 일을 시키고 가르치고 힘들 게 가는 것 보단 AI에게 일을 시키는 것이 나는 훨씬 스트레스 덜 받고 좋다. 돈을 주고 말고를 떠나서.

아니 음성지원이 확실하게 될테니까 되려 말로 지시내리는 게 불편한 나 보단 누군가에게 지시내려서 일 시키는 작업이 빠른, 그러니까 자신의 하는 일이 지시내리고 보고 받는 거라 이게 편한 사람들이 더 좋은 성과를 낼 수 있을지도 모를 일이다. 글로 쓰는 것보다 입으로 말하는 게 훨씬 빠르니까 말이다. 더구나 남이 해놓은 일을 가지고 이렇다 저렇다 불평 잘 하고 완벽주의를 가지고 있다면 더 좋은 성과를 낼 수 있지 않을까?

LLM과 일을 해보면 알겠지만, 사람보다 말을 더 잘 알아듣고 더 확실한 결과를 엄청나게 빠르게 갖다준다. 사람은 그저 개념과 해야 할 일을 AI에게 잘 이야기해주고 AI가 판단 내리기 힘든 일들, 그러니까 authority를 갖고 있어야만 할 수 있는 결정만 해주면 된다. 나를 고용한 회사도 마찬가지로 나에게 같은 생각 - 그러니까 돈과 시간만 잡아먹고 결과물은 형편없는 - 을 할 수 있을텐데 이런 세상에서 당장에 어떻게든 살아남으려면 AI라도 잘 쓸 수 있어야 되지 싶다. 세상은 그렇게 바뀌어가고 있으니 누굴 탓할 수 없는 거다.

단순한 곱셈 덧셈으로 인간이나 하는 고차원적인 사고를 하게 만들 수 있게 될 줄 누가 알았겠나. 기계가 정말 잘하는 게 곱셈, 덧셈, 그리고 기억하기 인데, 그걸로 어려운 사고를 할 수 있고 이 세상에 널린 지식들을 한꺼번에 통합해서 내 입맛에 맞춰서 필요할 때마다 꺼내쓸 수 있게 된건데, 그런 존재가 인간을 능가하는 것은 너무나도 쉬울 수 밖에.