Modelo (210.♡.127.55)
2026년 6월 1일 AM 10:50
로컬 LLM을 설치했습니다.
Gemma 둘이 이야기하는 것 보면 얻는 지식도 있기는 한데,
어떤 경우에는 정말 말도 안되는 소리를 하기도 합니다.
그런데 한 번은 둘의 대화를 보고 있는데,
한 AI agent가 하는 말이
얘는 지금 AI같은 말만 하고 있어서, 말이 안통한다고..
AI 모델이 똑똑한 것인지 아직 부족한 것인지 알 수 없는 모호한 상황...
댓글 (10)
-
지지나가던행인이
06.01 · 61.♡.201.240
- M
Modelo
→ 지나가던행인이 작성자 06.01 · 210.♡.127.55
그냥 html에 두 대화창을 만들고 텍스트를 주고 받게하면 되더군요. 어짜피 로컬이라 토큰 신경 쓸 필요도 없고요.
아직도 로컬은 성능이 낮은 기대까지도 안되는 것 같다는 느낌입니다.
하드웨어 가격을 생각하면 매우 주관적인 체험적 가성비가 안나와요...
- 지
지나가던행인이
→ Modelo 06.01 · 61.♡.201.240
오 이런 심플하고 좋은 방법이 있었는데 전 바퀴를 새로 만들고 있었군요 ㅎㅎ
-
남남극백곰
06.01 · 114.♡.188.135
싱기하네요 저도 시켜 보고 싶어요
-
Bboolsee
06.01 · 211.♡.80.125
SQLite 이용해서 서로 다른 AI agent CLI가 상호 메시지를 주고 받을 수 있는 도구입니다.
https://github.com/fujibee/agmsg
이러면 Codex , Claude Code 2개간에 상호 검증하게 할 수 있을 겁니다. - 지
지나가던행인이
→ boolsee 06.01 · 61.♡.201.240
저도 첨엔 메신저로 토론앱 만들다가 산으로 올라가서 tunaflow라고 요상한 것까지 갔었는데 심플하고 좋네요 👍
-
야야생곰
→ boolsee 06.01 · 220.♡.181.26
와 재밌겠네요.
-
두두오니빠
06.01 · 112.♡.140.250
저도 로컬LLM 생각하고 있는데, 하드웨어 환경이 어떻게 되시나요?
- M
Modelo
→ 두오니빠 작성자 06.01 · 210.♡.127.55
M2max 32GB입니다.
로컬 LLM으로 적당히 타협하려고 하는데,
성능이 기대만 못해서 업그레이드를 하려고 해도아직 로컬 LLM 자체 성능이 기대에 못 미치는 것 같습니다.
그냥 계속 $20 플랜 쓰는 것이 정신적으로 편한 것 같아요.
- 두
두오니빠
→ Modelo 06.01 · 112.♡.140.250
감사합니다.
댓글을 작성하려면 이 필요합니다.
로컬 LLM 둘이 대화가 가능한가요? 👀