Command line에서 groq 쓰기...
Written by
Keith
on
on
python module로 groq을 가져다 쓰면 된다.
groq이 web상에서는 굉장히 빠른데 API와 groq module을 이용해서 부르면 제법 느리다.
자동화를 시키면 복잡한 일을 한꺼번에 시킬 수는 있는데, 역시나 한계가 있어서 어쩔 수 없이 multithread로 부르는 게 빠르긴 하다.
아직 한국어를 다루는 솜씨는 커다란 LLama3.1을 사용해도 좀 아쉽다. 그래도 무료인게 어디냐 하면서 쓰는 거다.
일단 오늘을 처음으로 책도 번역시켜보고 했는데, 결과는 많이 아쉽지만 나에게 LLM으로 뭔가 자동화를 꾀하는 것은 사실 이제 처음이다보니 향후로 더 많은 응용을 할 수 있겠지 한다.