Splunk with LLM - 2nd

로컬 LLM 플랫폼 Ollama 설치.

모델 설치.

1 2 3 4 5 6 7 8 9 10 11 12 13

PS C:\WINDOWS\system32> ollama pull qwen2.5-coder:7b pulling manifest pulling 60e05f210007: 100% ▕███████████████████████████████████████████████████████▏ 4.7 GB pulling 66b9ea09bd5b: 100% ▕███████████████████████████████████████████████████████▏   68 B pulling 1e65450c3067: 100% ▕███████████████████████████████████████████████████████▏ 1.6 KB pulling 832dd9e00a68: 100% ▕███████████████████████████████████████████████████████▏  11 KB pulling d9bb33f27869: 100% ▕███████████████████████████████████████████████████████▏  487 B verifying sha256 digest writing manifest success PS C:\WINDOWS\system32> ollama list NAME                ID              SIZE      MODIFIED qwen2.5-coder:7b    dae161e27b0e    4.7 GB    About a minute ago

cs

동작 테스트.

AI Toolkit > Connection > Ollama 설정에서 모델 등록.

제법 그럴듯하게 동작한다.

보안 데이터 분석에 특화됐다는 모델로 바꿔봤는데 차이를 느끼진 못하겠고,

그런데 너무 느리다(..)

관련 글

• Splunk with LLM
• 머신러닝의 한계? - 2nd