開催日時: 2026/11/25 20:00 ~ 22:00 開催場所: Discord

引き続き、現代の LLM の原型である GPT-2 を題材に、「テキストを入力して次の単語を予測する」推論の仕組みを、Python の実装コードを追いながら解説します。

お気軽にご参加ください。

【注意】 主催者は AI の専門家ではありません。 あまり凄いことは期待しないでください。

テキスト

【簡約版】GPT-2 推論エンジン入門(「Q, K, V への変換」セクションから)

扱うのは推論のみで、学習は対象外です。

数式の厳密な導出よりも、コードと図で直感的に理解することを重視します。

参加方法

参加登録後、「参加者への情報」欄にDiscordの招待リンクが表示されます。

進め方

Discordのボイスチャットを利用します。

本文を読みながら、出て来たトピックスについて議論します。

事前にスライド等は用意しません。

スケジュール

【完了】埋め込みモデルを触ってみよう

GPT-2 推論エンジン入門 (1) (2) (3) ← 今ここ!

ICL(文脈内学習:In-Context Learning)

RAG(検索拡張生成:Retrieval-Augmented Generation)

LLM を制御するハーネスの初歩

MCP(Model Context P…