Explore tweets tagged as #LocalLLM
@mizunakun_
みずなくん
11 days
なぐり書きですがxtranslatorでlocalLLmを使う方法を記事に。無料で質のいいAI翻訳を無限に使えるよ。 OpenAI ChatGPT以外にも使えるけど上手くいかない可能性あり(Plamoはうまくいかなかった~ https://t.co/WjoVUdmccx
2
8
15
@yamac_music
YamaC / ヤマシー
1 month
Ubuntu 24.04でDocker使ってOllamaとWebUI導入して、LocalLLM(とRAG?)を試す https://t.co/Ha7bo3mr4K #Qiita こっちに投稿し直した。 パソコンの中でAI動きます割と簡単に ある程度のグラボとCPUあれば動きそう。
0
0
1
@FuyutoMiyake
Fuyuto | 研修医 | AI×医療DX×政策
12 days
LocalLLMは偉大です!機内でWi-Fiが使えない時、英語論文の翻訳や解説をお願いするためにLM-studioから利用していました。 Macbook Air M4でもQuen3 4bならサクサク動く。 アウトプットが想像の10倍制度高くて驚いていました。
@masahirochaen
チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》
12 days
ローカルLLMは偉大だ。12時間のフライトで機材��障でWifiが急遽使えなくなり、通信環境がない中でもサクサク動く。愛用はgpt-oss-120B。LM Studioというアプリを使えば簡単にセットアップできる。
1
0
10
@tkosht
Oshita | AGen I. CEO ⦿ ∫u(x)dμ
2 months
業務でローカルLLMを使う結論:まずLM Studio。機密データを出さずに社内PCで推論し、試作から運用までの橋渡しに向く 事実: 無料で商用利用可/OpenAI互換APIとCLI(lms)/Qwen・Gemma・DeepSeekなどのオープンウェイトをワンクリック実行 #LocalLLM #LMStudio
1
0
1
@DittmannAxel
Axel Dittmann
3 months
🔥 XBai o4 on my Mac: 10.19 tok/sec, beats OpenAI o3-mini on AIME24 (85.4% vs 79.6%), runs completely offline. Another Chinese reasoning model that actually works. Zero subscriptions, full privacy, MLX 4-bit magic. Local AI > $200/month subscriptions 🚀 #GenAI #LocalLLM #XBai04
0
0
3
@fukuoka_0724
ふくよか@ガレージでエンジニアリング
5 months
EVO-X2 AMD Ryzen™ AI Max+ 395 Mini PC 届いたー!! LocalLLMが捗る
1
1
14
@tkosht
Oshita | AGen I. CEO ⦿ ∫u(x)dμ
10 days
ローカルLLMは機密/コスト/レイテンシで効く。OllamaならGGUF量子化の Llama 3 8B・Mistral 7B・Gemma 2 を1コマンドで実行、Modelfileでプロンプト/テンプレ/推論設定を再現可能。 業務はRAG・要約・コードレビューから開始。Q4→Q5で比較し、VRAM/応答時間/品質を記録して選定。#Ollama #LocalLLM
0
0
2
@fractalmind_
M.Sukanto
7 days
Just fed my local LLM a messy codebase. It spat back: 'This isn't code, it's abstract art. Want me to refactor or frame it?' Now it's demanding coffee breaks. Who's training who here? Also, what would it tell you? https://t.co/A5DMjkskWN 📷📷 #LocalLLM #AICreativity #TechHumor
0
0
0
@DittmannAxel
Axel Dittmann
4 months
Just got Kimi K2 running locally via @UnslothAI 's GGUF. Q1 variant, 15 layers GPU, rest RAM. A 1T param model on consumer hardware. My cloud API bills watching me run inference for free: 💀 Welcome to the "Heavy Metal in your basement" era of AI. #LocalLLM #KimiK2 #Unsloth
0
0
4
@mix_buchi_
buchi_
6 months
AI singer No.7 最近歌えてない歌い手の皆さまに捧ぐ^o^← Lyrics : Mistral-Small-3.1-24B (LocalLLM) Composition : ACE-Step (Native) Singer Avatar : Flux.1dev Lip sync : FLOAT on ComfyUI (やはりちょっと日本語不自由だ) #AIart #AImusic #AImovie #FLUX1 #ACEStep #FLOAT #ComfyUI
0
1
5
@rohanpaul_ai
Rohan Paul
5 months
DeepSeek-R1-0528-Qwen3-8B on iPhone 16 Pro with MLX The phone gets super hot though. ----- reddit. com/r/LocalLLM/comments/1kz7qu1/deepseekr10528qwen38b_on_iphone_16_pro/
6
4
35
@Yomix1337
Gene edited Yostuba
8 months
Everything is a scam when the grand economy cycle is collapsing Think of living off a farm with solar panels A stacked computer running localllm then pirating latest anime When you feel bored you just hook onto twitter and see ppl suffer during the pending recession emonk/acc
3
0
16
@xency2
xency@技術書典19 お04 ε(・…・)3 🐼 🐤☀イェンシーSE
4 months
#技術書典 18 オンライン戦利品✨ はぁどヲ売る,L3スイッチ学習ノート,PowerAutomate開発入門,PowerShellDailyRecipeBook,あの赤ポチを分割キーボードに移植してみた話,GASとSlackの便利なレシピ集,サーバーレスのまわりの技術,Typstを完全に理解して技術同人誌を書く,ここまでやれるLocalLLM,EC文字列
0
1
9
@NativeMindApp
NativeMind
2 months
🚀Meet NativeMind — your private AI assistant. No cloud leaks, no prying eyes 👀. Summarize, translate, and chat with any webpage — all processed locally. 🔒 Privacy-first. ⚡ Productivity boosted. 👉 Try it here: https://t.co/DkkzRgBM5P #AI #LLM #LocalAI #LocalLLM
1
0
4
@haru_arc
はる猫大福(haru_arc)
2 months
LocalLLM + MacBook Proでの開発の日常
0
0
2
@TIIuae
Technology Innovation Institute
4 months
Falcon-H1 now runs natively on your device via llama.cpp—0.5B to 34B models, no server needed. Fast inference, long context, multilingual, tool-ready. Build, test, and go beyond. #FalconH1 #LocalLLM #AIOnDevice #EdgeAI #OpenSourceAI
23
19
8
@owenboswarva
Owen Boswarva
2 months
Bring your own brain? Why local LLMs are taking off https://t.co/T5UWDyNNDy by Danny Bradbury #localLLM #genAI #dataretention #techsovereignty #techpolicy
0
0
0
@sabarinathc
Sabarinath C Nair
2 months
In which I write about trying out Gemma3n running locally on my laptop and trying to make it generate content in #Malayalam: https://t.co/MXnRZsn0Bf #ai #gemma3n #TechForIndia #LocalLLM #IndianLanguages #AIforIndia
0
0
0
@luisantoniomata
Luis Mata
2 months
Yesterday I was trying to create a voice agent, worked pretty nice considering it's my first time building something like this. Amazing being able to speak to a local LLM and get answers while working. This changes everything 🗣️ #AI #VoiceAgent #LocalLLM
0
0
1