三行要約LLM のファインチューニングでは事実の学習ができないという話があったので、事実の学習の例として、シェイクスピアのRomeoをBobに置き換える実験を行った実験では、訓練対象とする層による結果の違いを確認した。アテンション層のみを訓練した場合は、Bobへの置き換えはできなかった。一方、全結合層を含めて訓練した場合は、学習率を調整するとBobへの置き換えができたファインチューニングが事実の学習に向いているかはさておき、工夫次第でファインチューニングも事実の学習に利用できる可能性はある 背景先月 ChatGPT(GPT-3.5 Turbo) のファインチューニング...

LLMのファインチューニングで事実の学習ができないのは本当か？ちょっと実験してみた

７月6日〜14日の9日間、ABCIの主催で 第1回大規模言語モデル分散学習ハッカソン が開催されました。自分はいいだしっぺ 兼 チューターとして参加したのですが、今回のイベントは個人的な学びも多かったし、なにより楽しかったので、忘れないうちに振り返っておこうと思います。いいだしっぺというのは、3月に上記の tweet をしたら NVIDIA の @sfuruyaz さんが拾って諸々進めてくれた、という話です。自分はイベント内容の案をだしたり、技術検証やサンプルプログラムを作成したりしました。 イベント概要イベント概要は以下の通りです期間: 2023/07/06 - 202...

ABCIの大規模言語モデル分散学習ハッカソンを振り返る

世の中には受験者毎に最適化された問題が出題される試験があります。例えば日本人向けの英語テスト CASEC では、「日本初のアダプティブ（適応型）なテスト！」を謳っており、従来のペーパーテストと比べて短時間で正確な測定が可能となっている[1]そうです。CASEC のこちらのページでは、その仕組みを視力検査に準えてわかりやすく説明してくれています。以下の図のように、それまでの解答履歴を元に、出題する難易度を調整する、というのが基本方針のようです。CATの仕組み 引用元: CASECさて、こういった試験はコンピューター適応型試験（Computer Adaptive Test, 以下 ...

受験者毎に適切な問題を出しわける試験の仕組みをAutoEncoderとみなして実装する

!この記事は Ubie Engineers & Designers Advent Calendar 2022 の17日目です。今年の11月に開催された数理最適化ソルバーの SCIP の ワークショップ において、 SCIPのライセンスが Apache 2.0 になることが発表されました。 SCIP は元々 ZIB という独自のライセンスで、学術利用でのみフリーで利用可能でしたが、今回のライセンス改定により、無償での商用利用も可能となります。アナウンスのあった11月の時点では、あくまで次期バージョンからの改訂という話だったのですが、先日その 8.0.3 がリリースされ、名実と...

Apache2.0 ライセンスとなった数理最適化ソルバー SCIP と Cbc を手持ちの問題で比較する

フリーの混合整数計画モデラーとしては PuLP が有名ですが、最近は Python MIP も人気です。Python MIP には以下の特徴があります[1]。高レベルなモデリングができる: Pythonの演算子をオーバーロードしており、直感的にモデリングできるソルバーの機能を十分に活用できる: カットの逐次追加と遅延制約機能、解プールや初期解の設定といったソルバーの機能を利用できる高速: CFFIを使ってソルバーを直接呼び出すため、無駄なオーバーヘッドがなくなる複数のソルバーに対応: Cbc と Gurobi をサポート先日の Advent Calendar の記事...

M1 Mac に Python MIP をインストールする

この記事は数理最適化アドベントカレンダー2022三日目の記事です。一年というものは短いものですね。ついこないだ2022年を迎えたかと思いきや、もうすぐ2023年のお正月です。さて、年の初めはさだまさし♪年の終わりもさだまさし♪ということで、さださんの楽曲名でしりとりをしたいと思います。ご存知の通り、さださんはこれまでに非常に多くの曲を発表されていて、その数は優に500曲を超えています。しりとりをするにはちょうど良い曲数でしょう。しりとりをしながらさださんの曲を聴いて、元旦の今夜も生でさだまさしにそなえましょう。急ぐ人はこちらの結果をご利用ください。 最長しりとり問題と巡回セール...

さださんの楽曲でしりとりをする

Streamlit は、お手軽に簡単なウェブアプリを構築できるPythonのフレームワークです。 とても便利で気に入っているので、昨年のAdventCalendarの記事で、使い方をいくつか紹介しました。その中で、Python で非同期処理を行う場合は、threading や multiprocessing を使って、スクリプト内で別スレッド/プロセスを立ち上げるのが普通ですが、Streamlitでは、その仕組み上そういったことができません。ということを書いたのですが、「あれ？久々にやってみたら普通にできたぞ。」となったので、サンプルコードを紹介したいと思います。 threa...

Streamlit で threading や multiprocessing を使った非同期処理を行う

この記事は BrainPad Advent Calendar 2021 9日目の記事です。2020年頃より、機械学習エンジニアやデータサイエンティストが Python でお手軽にウェブアプリを構築できる Streamlit が流行っていて、最近では業務で使っている人も多いのではないかと思います。Streamlit は、その設計思想から、シンプルな可視化であればほとんど困ることはありませんが、ちょっと手のこんだことをしようとすると、「あれ、どうしたらいいんだっけ？」と思うことがちょくちょくあります。この記事では、そういった時にどうしたらよいか、というのをいくつか紹介したいと思います。 ...

Streamlitの使い方の細かいところ

Streamlit は、データの可視化に特化した Python のフロントエンドフレームワークです。機能を絞っている分、JavaScript などの知識が不要で、お手軽にUIを作成できます。他のフロントエンドフレームワークと同様、 Streamlit にも自動リロード（ファイルの更新を監視して、自動的にリロードしてくれる機能）が実装されています。普通、下図のように、モデルの構築後に Streamlit を使って UI を構築し、可視化するような使い方が多いと思うのですが、Streamlit で可視化しながらモデルを構築していくと結構たのしかったので紹介します。 Keras モデ...

Keras と Streamlit で深層学習モデルの構築をいい感じにする

Google Colaboratry は機械学習向けの実験環境で、とても便利なんですが、そこで構築したモデルやツールのデモなどで、Colaboratry 上でウェブアプリや API を一時的に公開したいことがあります。そんな時、今までは ngrok などの外部サービスを使って、半ば強引にポートを公開していたのですが、実はそんなことする必要がないことを知りました。https://colab.research.google.com/drive/1KxWdqqdBleno4przwP_9xmCWtwOQC9Eq?usp=sharing サーバーの立ち上げまずは公開したいサーバーを立ち...

Colabでウェブアプリを実行する

本記事は数理最適化 Advent Calendar 2020 18日目となる予定だった記事です。容量制約付き配送計画問題（Capacitated Vehicle Routing Problem, CVRP）の混合整数計画法を用いた定式化について整理しました。 容量制約付き配送計画問題とは複数のトラックを使って荷物を集積所（デポ）から各店舗に配送するときに、どのトラックがどの店舗をどの順番で回るのが最適か、という問題を配送計画問題と呼びます。何をもって「最適」とするかは問題に依存しますが、移動費用や車両数とすることが多いようです。各トラックには積載量の上限があるので「各トラッ...

MIPソルバーによる容量制約付き配送計画問題の解法についての簡単なまとめ

この記事は BrainPad Advent Calendar 2020 初日の記事です。突然ですが皆さん、 半沢直樹（新シリーズ） はご覧になりましたか？ 私は見ました。前作も見ていなかったので、あわせて見ました。さて、半沢直樹の第三話にこんなシーンがありました。証券取引等監視委員会の黒崎氏がシュレッダーで裁断された書類を見つけて、その場で復元してしまう話です。裁断された書類の山を持ち帰ろうとする部下と「ここでおやんなさいよ」と言い放つ黒崎氏。河野大臣のブログ 危機に直面する霞が関 でも指摘されている通り、今若手の国家公務員離れが問題になっています。いや、全然くわしくないのです...

量子アニーラと数理計画ソルバーでシュレッダーに立ち向かう

[論文紹介] U^2-Net: Going Deeper with Nested U-Structure for Salient Object DetectionタイトルU^2-Net: Going Deeper with Nested U-Structure for Salient　Object Detection著者Xuebin Qin, Zichen Zhang, Chenyang Huang, Masood Dehghan, Osmar R. Zaiane, Martin JagersandURLhttps://doi.org/10....