LLM

AIエージェント

【Awesome GitHub Copilotの使い方2】MCP・Hooks・Workflowsで開発フローを再設計する

前回は「Copilot の出力を整える」話でした。Instructions、Agents、Skills、Plugins を使って、GitHub Copilot を単なる補完ツールではなく、日常開発に寄り添う対話相手として育てるところまでを扱...
AIエージェント

【Awesome GitHub Copilotの使い方1】GitHub Copilotを完全に使いこなすための実践ガイド

GitHub Copilot を導入してから、コード補完は確かに速くなった。けれど、設計の検討、レビューの観点整理、テストケースの洗い出し、調査の効率化まで含めて考えると、まだ使いこなせている実感がない。そう感じている中級エンジニアは少なく...
事前学習

LLM 事前学習:Transformer シリーズ総集編 vol.1

このページでわかることこのページは、大規模言語モデルの「事前学習:Transformer」シリーズ全体の案内ページです。ブログ A 〜 E を 1 ページにまとめ、一目で把握できるように整理しています。何を知りたいときにどのシリーズを見れば...
データセット戦略

LLM【事前学習:データセットC-8】

データブレンディングの基礎:マルチデータセット配合の科学1.1 なぜブレンディングが必要か1つのデータセットだけで、あらゆるタスクに強いモデルを作るのは難しくなってきました。そこで重要になるのが、複数ソースをどう組み合わせるかです。単一デー...
データセット戦略

LLM【事前学習:データセットC-7】

特化データセット戦略とドメイン最適化:医療・法律・コード・金融への応用汎用LLMを特定ドメインに特化させることで、専門タスクでの性能を大幅に向上できます。本記事では、ドメイン特化の戦略と注意点を詳解します。1. FineWeb-edu:教育...
データセット戦略

LLM【事前学習:データセットC-6】

データセット選択ガイダンス:組織ニーズに合わせた意思決定フレームワークプロジェクトマネージャーや意思決定者にとって、データセット選びは技術課題であると同時に経営判断でもあります。本記事では、組織のニーズに合わせて選びやすくするための意思決定...
データセット戦略

LLM【事前学習:データセットC-5】

Common Crawl、C4、The Pile、Dolma、FineWebの前処理戦略を系統的に比較分析。各フィルタリング手法の効果と、品質・多様性・コストのトレードオフを可視化
データセット戦略

LLM【事前学習:データセットC-4】

FineWebと学習効率の最前線:70+実験から導かれた最適パイプライン2024年、Hugging Faceが公開したFineWebは、データセット設計に新しい見方を持ち込みました。理論で方針を決めるだけでなく、実験で一つずつ確かめながら最...
データセット戦略

LLM【事前学習:データセットC-3】

Dolmaと前処理の体系化:再現可能な6段階パイプライン2023年、AllenAIが公開したDolmaは、データセット前処理を「職人技」ではなく、再現可能な手順として整理しようとしたプロジェクトです。本記事では、透明性と再現性を重視した6段...
データセット戦略

LLM【事前学習:データセットC-2】

The Pileと多様性の発見:22ソース統合がもたらした性能革命2020年、EleutherAIが公開したThe Pileは、LLMデータセット設計の見方を少し変えました。単に量を増やすのではなく、どんな種類のテキストをどう混ぜるかが重要...