Holy-fox/子狐
@Holy_fox_LLM
Followers
2,270
Following
155
Media
17
Statuses
653
15yo/AI愛好家・にわかプログラマ/Arrowシリーズ開発者/ChatVector・Model Merge Hugging face → Qiita →
Tokyo,Japan
Joined January 2023
Don't wanna be here?
Send us removal request.
Explore trending content on Musk Viewer
Luka
• 300745 Tweets
#วอลเลย์บอลหญิง
• 131562 Tweets
Mavs
• 110320 Tweets
Eminem
• 81676 Tweets
ワールド
• 49365 Tweets
#WorldNoTobaccoDay
• 48916 Tweets
ワイルズ
• 38006 Tweets
Mourinho
• 29091 Tweets
Hayırlı Cumalar
• 27349 Tweets
アイルー
• 26397 Tweets
カロスfit
• 20293 Tweets
FokusPRABOWO SiapkanTERBAIK
• 20026 Tweets
JelasPASTI UntukNEGERI
• 19255 Tweets
#يوم_الجمعه
• 18842 Tweets
マッドマックス
• 14904 Tweets
フレグランス
• 14852 Tweets
フュリオサ
• 14052 Tweets
ドジャースとコラボ
• 12841 Tweets
アイスボーン
• 12693 Tweets
KINGKONG ON ITS LIVE
• 11921 Tweets
危機契約
• 10412 Tweets
Pinned Tweet
個人的に隠れたLLMの特技としては定性データを定量データにできることだと思う（逆もしかり）
0
4
33
自分の記事ができました。
1
183
769
7Bにおいて日本語能力最強のモデル、ArrowPro-7B-KUJIRAができました。Elyza-task100においては約3.8をマークしています！AItuber用途を主眼において設計されています（それ以外もできるよ！）
4
194
749
新しいモデルであるArrowPro-7B-RobinHoodをリリースできることをうれしく思います。Elyza-task100においては約3.84をマークしており、7Bにおいて日本語能力最強のモデルです。今まで高い志をもって開発してくれたすべての人に心より感謝を申し上げます。
2
115
452
今夜、日本最強の7Bモデルがリリースできそうです。
スコアはElyza-task100で約3.8です（llama3-70B概算）
お楽しみに！
1
46
267
長らくシステムにGeminiを組み込んでいた僕から見ても、Geminiの過小評価感は否めない。LLMを使って何かシステムを作りたいって思ったら、まずはGemini APIを使ってみることを強くお勧めする。
1
24
176
ローカルLLM界隈は熱いです。
個人でも企業に勝てる可能性があるし、なにりGiverが多いので自分の成長にもいい界隈だなって思ってます。
時間があればローカルLLMと一度でもいいので遊んでみてください。
1
21
126
自分はこのツイートをきっかけにローカルLLMに興味を持った。
あの時の自分に今の状況を聞かせたら、びっくりしすぎて飛ぶんじゃないかな？
LLM最前線に受験期高校生がいるの、普通におかしい
しかも追いつける気がしない。多分彼の言ってることをニコニコ聞いてる人になると思う僕は
1
4
102
0
11
111
第三者による評価の結果､未だにKUJIRAの天下は揺るがなさそうです。今後も開発はを頑張ろうと思います。
7Bにおいて日本語能力最強のモデル、ArrowPro-7B-KUJIRAができました。Elyza-task100においては約3.8をマークしています！AItuber用途を主眼において設計されています（それ以外もできるよ！）
4
194
749
1
6
69
AItuberを動かした感想について書こうと思います。
まず、AItuberをコンテンツとして見るときに大きな欠点があるように感じました。
その大きな欠点とは、AIが能動的ではないことに起因します。つまりコメントがないときは黙り込んでしまうということです。
3
16
69
思い付きなんですけど、
自分の学校の授業、1コマ50分なんです。
それを全部動画とってGeminiに投げてノートを出力させれば、
俺ノートとる必要なくね？
5
7
66
0
13
56
何なら、もうあるんですけど、、、
AIがマウスとキーボードを操作できるようになるのはいつだろう？
これができたらやれること100倍になるんだけどｗ
技術的にはもう出来そうだけどセキュリティーの問題でいつになってもできなそうな気がするな。少なくともOpenAIが一般公開はしない気がする。
1
0
9
0
4
48
感謝を忘れず、その時点における最適な行動をとり、
それを社会に還元するとことがAIを、人類を次のステップに導くための最善の方法だとひしひしと感じています。
2
6
47
これが無料で使えるのは凄いし､具体的なテキストを渡して、「具体的な根拠も示しながら回答しなさい。」って打つと根拠まで示されるから、小難しいテキストを読んで解答する手間もないし、知りたい事があっても質問するだけで高品質な回答が出てくる。最高
1/ GW是非 で"Gemini 1.5 Pro"をお試しください。このスレに色々使用例を載せます。に3日前評価がのり、 GPT-4やClaude 3と同等の世界一の性能、と同時に日本語生成も超速いです。
9
209
1K
0
4
43
Nyan!データセットを作りました。
1
10
37
プログラミングを全て独学で学んだ身からすると、
全てググるだけで無料で学べるコンテンツが出で来るんだからプログラミングってコスパのいい趣味だなと感じています。
記事や動画の作成者にマジ感謝。
0
3
39
まさか自分のモデルが載ることになるとは、、、
0
8
38
データサイエンスってどんなもんかなって思ってとりました。優秀なデータサイエンティストになるために これからも勉強していきます！
1
1
35
なんか、少年漫画みたいな展開になってきた。
当然ながらNinja、vecteusを日本語性能2位3位で終わらせる気はありません。
体感性能で1位、ベンチ性能で1位
首位奪還を目指します。
0
8
92
1
2
32
「LOCAL AI HACKATHON」における、チームDataPilotの成果品第一弾である「ArrowSmart_1.7b_instant_sft」をリリースしました。このLLMはLine社が開発した「japanese-large-lm-1.7b-instruction-sft」をウィキブックの内容をもとファインチューニングを行いました。
0
10
29
さるどらさんのサーバーがなかったら、私は今でもChatGPTで遊んでる普通の高校生だったと思ってるので感謝してもしきれません。
0
2
32
今回の問題は自分の作ったモデルが他人を不幸にしてはいけないという思いからでした。たくさんの皆様を振り回してしまったことを反省しています。ライセンスだけにとらわれず、ほかの方法も模索してみます。
0
0
26
KUJIRAとロビンフッドの使用について。
当該LLMを使用したシステムが不幸にすることはあってはならないと感じています。ぜひルールやモラルを守ってお使いください。
0
3
26
ファインチューニングがうまくいかないので、高校範囲のデータセットを公開いたします。 #ローカルAIハッカソン
1
10
23
このようなスペックでも動く。ollamaとggufならね。
それが真の自由だ！
これも試したいんだけど、果たして自分の
CPU: Core i7-9700K
GPU: GeForce RTX 2070 8GB
っていう環境でも動くのだろうか…
めっちゃ遅いけど我慢すればなんとかなる、みたいな感じになるんかな？
今から出かけるので帰宅したら色々やってみよう…
0
0
3
1
4
24
team DataPilot2つ目のモデルとして、「ArrowSmartPlus_3.6B_instant_sft_JSHVer」をリリースいたします。このLLMはLine社が開発した「japanese-large-lm-3.6b-instruction-sft」をウィキブック中学全範囲を用いてファインチューニングし完成しました。
1
5
23
KUJIRAを「にゃん！」データセットでファインチューニングしたArrowPro-7B-Nyanを公開します。
1
11
28
ChatGPTがリリースされる前に投稿されたLLMの論文なんて超古代の聖書物扱いですよw
AIの進化早すぎて、たった一年前から見ても予想できないスピードで進歩してます。
AI開発者って恐ろしい
元々ChatGPT登場前の深層学習ブームの時からこの傾向は強かったんですが，最近の生成AI関連の議論では「3ヶ月前のモデル/手法なのでちょっと古典的ですが」みたいのが真顔で出てきたりするので，うーんみが深い
（他の研究分野の人の前で言ったら古典的の定義で殴られそう）
0
75
323
1
3
22
DataPilot,3つ目のモデルとして「ArrowSmartPlus_3.6B_instant_sft」をリリースいたします。中学、高校の全範囲のウィキブックを学習させたオープンモデルです！#ローカルAIハッカソン
1
6
20
新モデル出来ました！今回は初の mistralベースで chat vectorにより作られました。何より軽量でプロンプトインジェクションにも耐性があります。
0
4
21
何とは言いませんが、AIは常に自由であるべきだと考えます。(いいぞもっとやれ)
0
2
19
まだまだ至らない点がございますが、今後ともArrowProをよろしくお願いいたします。
今回の問題は自分の作ったモデルが他人を不幸にしてはいけないという思いからでした。たくさんの皆様を振り回してしまったことを反省しています。ライセンスだけにとらわれず、ほかの方法も模索してみます。
0
0
26
0
2
19
増えてる身からしてみれば、ただただ恐怖でしかない。
話題のHoly-foxくん、プロフ開くたびに100人単位でフォロワー増えててついに1700人になってるww
なるほど、フォロワーたくさん欲しい諸氏は強強モデル作って公開するのが最強って結論になりましたね
0
1
17
1
0
18
個人的にシェインさんとGoogleには頑張ってほしい。
初めて作ったシステムに入れたLLMがGeminiだったから、かなり思い入れがある。
0
2
17
フォロワー数に見合った上品な行動ができるようにこれからも精進したいです。
0
2
17
もうこれプログラマで持っていない人いないじゃろ
0
2
16
フルスクラッチで100Bとかまじでとんでもない。
やばいとしか言えない。
ストックマークは、1000億パラメータの日本語LLMモデル「Stockmark-100b」を公開しました。
既存のモデルにデータ追加を行いチューニングしたものではなく、ゼロからフルスクラッチで開発したモデルであり、国内では(現状はダントツで)最大、グローバルでも最大級サイズのOSSモデルとなります。
6
199
711
0
0
15
昨夜12時からGPUを使って回している作業の3/2が終わりました。今日中に残りの作業も終わる予定なので､期待しておいてください。
0
0
15
これでさらにAIの民主化が加速する気がする
GPT-4超え精度でスマホ上実行できるオンデバイス生成AI「Octopus v2」、Google「生成AIは大きければいいってものではない」など重要論文5本を解説（生成AIウィークリー） クラウドなしでスマホ上だけで完結するスマホ自動操作AI「Octopus v2」精度99％遅延0.38秒でGPT-4以上
1
107
535
0
3
15
ninja-v1とnike-ChatVRMを用いたAItuberの配信が始まりました！ 6時くらいまで開けとくので来てください！
1
5
13
(絶対後々強くなるやつだこれ)
ポイントは
「Fugaku-LLMは一から独自のデータを用い学習を行っているため、学習の全学習工程を把握でき、透明性と安全性の観点から優れている。」
というあたりで、今後アドバンスな研究をしていく上でのよいベースを広く提供できたのではないかと考えています。
0
32
83
1
0
13
神の領域！
ArrowPro-7B-KUJIRAの評価出た！僕の手元でも3.80でした！神の領域！額面通り受け取れば日本語能力がメチャクチャ賢い7Bモデルがマジで登場！！
0
38
174
0
3
12
LLMの次世代って何？
ほんとそれ！！！！！
次世代 AI を作りたい学生さんは、LLM の次世代のことやりましょう！！！！！！！
0
29
194
2
2
13
まじでここ1週間で開発競争激化しすぎ
0
1
10
よく新人Vtuberの配信を身からすると、
単純に明るくて、ちょっとうるさいくらいに元気なVの方は伸びやすい印象があります。（配信者が明るいと、コメント欄も明るくなって居心地がよくなるんですよね。）
最近Vの配信良く見てるんだけど、同接が多いVは何となくわかる魅力がある、言語化はできないけど
ちなみに~3万人くらいまでは正直登録者数当てにならない
普通に万超えてても微妙な人いれば数千でも良い感じの人いる
1
0
10
1
1
10
gemini proで採点するとスコアが出にくいっぽいんですが、日本最強の7Bモデルであることは確実に言えます。
（LLaMa3-70B概算とはVecteusをベースにし、LLaMa3で採点したらこのくらいのスコアが出るという予測です）
0
1
11
配信において沈黙が続くというのはあまりにも致命的です。それにいつもコメントがあるとは限りません。
そのために自分がコメントを続けるという解決策をとりましたが、それはAituberの最大のメリットである「長時間配信できる」ことをつぶしてしまうと考えます。（自分が持たないため）
1
5
11
前回の出場者からのアドバイスです、ご参考までに。
・Ubuntuの使い方に慣れること
・学習用データは多めに用意しておくこと
・複数GPUの使い方を学んでおくこと
この3つ結構大事。 #ローカルAIハッカソン
2
3
8
このデータセットはあくまで､語尾の変更を目的としたものです。
1
1
10
一から独自データで学習したとのことだけれど、これが意味するのはどのGPT2モデルとマージしても性能が簡単に出るということ､めちゃくちゃすごいじゃないか
0
1
9
出ようかな、、、
Gemini API デベロッパー コンペティション開催！
Gemini APIを使用したアプリを開発しよう！
提出〆切は2024年8月12日
グランプリは電気自動車！
部門賞などでの賞金総額は100万$
(約1億5500万円)
インパクト、創造性、有用性、効果、実装のクオリティなどで審査
0
32
160
1
2
10
ローカルAIハッカソン優勝できなかったけど、いろいろな挑戦ができたので感謝です！ ありがとう！中学生活最後のいい思い出になったと思います。#ローカルAIハッカソン
1
0
9
やっぱり、既存の”AItuber”という殻を破るためには能動的にエピソードトークを話したりする”新しい”アプローチが求められるんじゃないかなと個人的には思うので、
1週間以内にはシステムの改善を終えて、新システムで配信したいな。
> AITuberはコメント拾ってそれに回答するもの、みたいなイメージがある
これなんですけど「コメント拾って回答するまで繋げられれば後はどうとでもなる」ということで本ではそこをゴールにしたのもあったんですよね
1
22
96
0
1
9
RobinHoodの結果は残念でしたけれど、今後も開発は継続されるので、それ次第ですね。ただ､FUGAKUはまだチャットベクターっていう飛び道具を残してるので、今後に期待です。
Fugaku-LLM-13B-InstructのElyzaTasks100スコアは2.68でした。まあCPUで学習頑張ったで賞ですね。ちなみにQwen1.5-14Bは3.64です。で、ArrowPro-7B-RobinHoodは僕の手元では3.84じゃなくて3.67でKUJIRAより低くなりました。まあ回答は毎回変わるし評価もAIによる自動評価だからブレがあるのでしょう
0
32
84
0
0
9
みなさんに誤解を与えてるかもしれないので、一応説明しておくのですが、僕はArrowProの開発においてファインチューニング(モデルの訓練)はしていません。
1
0
8
0
3
4
地元にはいい意味で変な人がいっぱい居ます
1
0
8
かっこよすぎだろ。
0
0
7
使ってみたけど、すぐに文字起こし終わるし、訂正するとこが無かったのはまじで衝撃。
ReazonSpeech のデータセット使って Whisper large-v3 をいい感じに性能上げたやつらしいんだけど『large-v3 と同じくらい低いエラー率を維持しながら、large-v3よりも 6.3 倍高速』←←←あまりにも GOD………神
2
27
136
0
1
7
16時30分から、AItuberの初配信をします！
ぜひ来ていただけると嬉しいです。
LLMにはninja-v1を搭載しています！
0
3
7
強いなぁ
0
0
7
それこそGPT-4oの出番なのでは？
これから年1の歯科定期検診行ってきます
ポーランド語話せない私 VS 私がポーランド語喋れると思っててポーランド語でガンガン話しかけてくるポーランド語しか話せない歯科医師
基本「タク タク （Tak, Yesの意）」言ってやり過ごします
ﾌｧｲｯ!!
4
1
22
1
0
7
「ArrowSmartPlus_3.6B_instant_sft_JHSVer」のファインチューニングに用いたデータセットを公開いたします。ライセンスはウィキメディア財団に準じます。#ローカルAIハッカソン
1
2
7
次回の特化モデルでは、感情も一緒に出力できるように計画してます。
同意
出力がオーディオ形式だとAITuberはやりづらいんだよね
Cotomoやデモのアプリみたいな形式ならそのまま音声返すだけで良いんだけど、独自音声を使いたかったり表情や動き用のパラメータが必要だと都合が悪い
metadata形式でそれらも一緒に返せるなら良いけど私はinputの方だけ使うこと考えてる
0
0
26
1
0
7