いっかくのAI仕事術チャネル

ローカルLLMにPDFを貼ったら、いきなりエラー。その原因になっている「コンテキスト長」を、作業机の広さにたとえて解説します。コンテキスト長はAIが一度に見渡せる量のことで、指示も会話も資料も答えも、すべてその中に収める必要があります。広げるほどメモリを食って遅くなるため、Ollamaなどのソフトは最初から狭めに設定されていること、はみ出したときのエラーと「黙って読み飛ばす」パターンの違い、必要なところだけ渡す...

ローカルLLMのモデル名に付く「7B」「26B」の意味を、やさしく解説します。Bは10億のことで、7Bならパラメータが70億個。この数字が読めると、自分のPCで動くかの見当がつきます。4ビット版なら「Bの数字の半分」がギガバイトの目安になること、Gemma 4の「26B-A4B」や「8x7B」といったMoE型の見分け方、仕事でのモデルの選び方、環境構築をCodexやClaudeに任せるコツまでお話ししています。冒頭では、GMOあおぞらネット銀行のAPI...

CUDA（クーダ）とは何かを、やさしく解説します。前回お話しした「ローカルLLMはNVIDIAのGPUを積んだWindowsのほうが速い」の理由編です。そもそもGPUとは何か、CUDAの役割、NVIDIA向けに長年積み重なったソフト、MacのMetalとMLX、そして速さのNVIDIA・大きさのAppleという違いまでをお話ししています。 🕐タイムスタンプ 00:00 オープニング：NVIDIAがAIで速い理由はCUDA 01:27 前回のおさらい：ローカルLLMに100万円は必要か 01...

ローカルLLMを入れたクリニックの実例です。東京・文京区のクリニックで、院長がClaude Codeでシステムを作り、患者のデータは院内のMac Studioで動くローカルLLMで読んでいます。作るのはクラウドのAI、データは院内という役割分担と、AIは補助で最後に決めるのは人という考え方、効果とお金、そして保守の覚悟までをお話ししています。 🕐タイムスタンプ 00:00 オープニング：ローカルLLMを入れたクリニックの話 01:05 外に出せ...

ローカルLLMには100万円の専用マシンが必要、というイメージは変わってきています。30万〜40万円のゲーミングPCにStrataのような推論エンジンを入れれば、実用的な速さで動きます。WindowsとMacの比較、今のうちに手元で触っておく3つの理由に加えて、冒頭ではGrokボットとMuseのどちらを使うかもお話ししています。 🕐タイムスタンプ 00:00 オープニング：ローカルAIに100万円は必要か 00:31 GrokボットとMuse、今使うならどちら...

ローカルLLMを入れてみて「動いたけど物足りない」と感じるなら、原因はモデルや推論エンジンより、手足にあたる「ハーネス」かもしれません。私が実際にローカルで使っていることと速度、Open WebUIでもたつくところ、DeepSeekが8月に公開したDeepSeek Harnessを入れて別物になった話をしています。 🕐タイムスタンプ 00:00 オープニング：ジェンスン・ファンの「ローカルが当たり前に」 01:00 出先から収録しています 01:47 私が...

ローカルLLMのモデルは無料で落とせますが、仕事で使っていいかは「ライセンス」次第です。オープンウェイトとオープンソースの違い、名前ではなく誰が出したどのバージョンかで確認する理由、無検閲モデルを仕事で選ばないほうがいい理由をお話ししています。 🕐タイムスタンプ 00:00 オープニング：ローカルLLMは仕事で使っていい？ 01:04 雑談：デザイナーの知見を詰め込んだLP作成スキル 04:27 本題：無料で落とせることと、仕...

ローカルLLMの「推論エンジン」とは何か、言葉の定義からお話ししています。モデルはファイルで、それを動かすのが推論エンジン。音楽のMP3とプレイヤーにたとえながら、同じモデルでも動かす仕組みで速さが変わる理由と、遅いと感じたときに見直す順番を整理しました。 🕐タイムスタンプ 00:00 オープニング：推論エンジンって何？ 00:53 OllamaとStrataは何が違うのか 01:13 結論：モデルはファイル、動かすのは推論エンジン 01:...

ローカルLLMは本当に外に出ないのか、よく聞かれる質問についてお話ししています。「外に出ない」というより「外がない」状態をどう作るのかを、つながない環境で動かすことと、必要なものしか与えないことの2つに分けて整理しました。 🕐タイムスタンプ 00:00 オープニング：ローカルLLMは外に出ないのか 01:42 1つ目：ローカルLLMはつながなくても動く 02:40 出ないように気をつけるより、外をなくす 03:26 社内LANに置くだけで...

「RAG（ラグ）」は、AIに資料を見ながら答えさせる仕組みです。資料持ち込みOKの試験にたとえて中身を整理し、ローカルLLMとの相性、Difyでの作り方、Gemini Notebookとの違いをお話しします。 🕐タイムスタンプ 00:00 オープニング：RAGって何？ 00:30 うちの資料をAIに使わせたい、という相談 01:04 名前の意味：探す・足す・答えを作る 01:57 たとえるなら資料持ち込みOKの試験 02:53 RAGの中で起きていること 03:50 なぜRAGが...

ローカルLLMが遅いと感じたら、「MoE型」のモデルを試してみてください。全員出席の会議にあたるDense型と、担当者だけが出る会議にあたるMoE型の違い、速さの目安、モデル名での見分け方についてお話しします。 🕐タイムスタンプ 00:00 オープニング：モデルの2つのタイプ 02:51 前回の振り返りと今日のテーマ 03:27 Dense型とMoE型、結論から 04:00 Dense型は全員出席の会議 04:44 MoE型は担当者だけが出てくる会議 05:35 MoE型...

「ローカルLLM」は、どんな現場で求められているのか。今日参加したセミナーの熱気も踏まえて、外に出せない情報を持つ医療・士業・設計・自治体から広がっていく理由と、メモリが高騰している今の試し方についてお話しします。 🕐タイムスタンプ 00:00 オープニング：ローカルLLMはどの現場で求められる？ 01:16 ここ数回のローカルLLMの話の続き 01:34 今日参加したローカルLLMのセミナー 02:12 なぜローカルモデルを入れたいの...

「情報漏洩」は、もう完全には防ぎきれない時代になってきました。個人情報保護委員会の最近の動きも踏まえて、会社が今から整えておきたい「被害を小さくする設計」と「起きた時に説明できる体制」についてお話しします。 🕐タイムスタンプ 00:00 オープニング：情報漏洩は防ぎきれない前提で 01:09 最近いちばん多い相談「どうやって守ればいい？」 01:27 結論：被害を小さくする設計と、説明できる体制 01:54 Claude Codeでアプ...

ニュースでよく見る「量子化」「4ビット版」「1ビットで動く」を、スマホ写真の画質にたとえて一言で説明します。本来は自宅のパソコンに入らないほど大きなAIが、なぜ手元で動くのか。画質を落としすぎるとどうなるのか、用途での選び方までお話しします。 🕐タイムスタンプ 00:00 オープニング：大きなAIがなぜ普通のパソコンに入るのか 01:09 前回さらっと出した「量子化モデル」 01:43 手元で動くAIには、サイズの壁がある 02:...

情報漏洩が起きても、謝罪と「お見舞い3000円」で終わってしまう。そんな今の仕組みにうんざりしている理由を、正直にお話しします。「周りも出ているから仕方ない」という空気、自分で動いても守られない被害者の現状、漏れた免許証の画像で本人確認が通ってしまう問題。そして、チームみらいの安野貴博さんの提言から、社会全体で変えていきたい方向を3つ紹介します。 🕐タイムスタンプ 00:00 オープニング：情報漏洩騒ぎにうん...

「ローカルLLM」、100万円のマシンを買う前に余ったPCで試す。顧客情報や社内データを外に出さずにAIを使うなら、社内で動かすローカルLLMが現実的な選択肢です。高額なマシンをいきなり買わず、余っているマシンで試すこと、大事なのはメモリの容量であること、クラウドとは難易度で使い分けることをお話しします。 🕐タイムスタンプ 00:00 オープニング：社内用AIにローカルLLM 01:13 結論：クラウドの代わりではない。まず余っ...

証券口座、パスキーだけで大丈夫？金融系が今、本格的に狙われています。PayPayの送金被害、証券会社のパスキー切り替え、GMOのFX用サーバーへの不正アクセスの3つから、証券口座はパスキーにしてパスワードログインを無効にする、送金の上限と通知を見直す、という今日やっておくことをお話しします。 🕐タイムスタンプ 00:00 オープニング：金融系が狙われている 00:39 前回の予告どおり、金融系が本格的に狙われている 01:03 今...

ChatGPTを見せるだけで驚かれる。XのAI界隈はほんの一部の層の話で、一般の人や多くの仕事の現場とは大きな差があります。月100ドルのAIを自腹で使う人は少なく、会社ではClaude Codeも使えないことが多い。だからこそ、簡単なことを形にして見せるのが一番伝わり、仕事にもつながる、というお話です。 🕐タイムスタンプ 00:00 オープニング：AI界隈と一般の世界のギャップ 00:23 雑談：タブを押すだけの人間になってきた 01:41 X...

パスワードの使い回し、どう直せばいいのか。1Passwordに今あるパスワードを集めて、ウォッチタワーで現状を見る。金融、漏洩が報告されたサイト、仕事、メール、よく使うものの順に、1日数件ずつ直していく。使っていないサイトは変えずに退会。今日からできる手順をお話しします。 🕐タイムスタンプ 00:00 オープニング：パスワードの使い回しの直し方 00:47 私も、かなり使い回していた 01:08 全部一気には直せない。大事なもの...

「PHPの脆弱性」騒ぎは、これで一段落ではありません。AIが24時間セキュリティホールを探し続け、攻撃する側も同じAIを使える今、同じような問題はこれからバンバン起きます。同じ日にはNode.jsやBINDでも修正が出ました。大変なのはバージョンを上げることではなく、上げた後の確認と説明。起きる前提で、さっと閉じて、さっと戻す体制の話です。 🕐タイムスタンプ 00:00 オープニング：PHPの脆弱性のような問題は、これからバン...

PHPの脆弱性騒ぎで、「保守契約を切るから悪い」と突き放すエンジニアの反応を見かけました。困ったときにスポットで頼むのは悪くありません。問題は、保守契約と同じ料金と速さを期待すること。エンジニアが反発したくなる3つの理由と、エンジニアは条件を出し、経営者は予算と記録で備える、というお話です。 🕐タイムスタンプ 00:00 オープニング：保守契約を切るから悪いんですよ 01:28 困るのは、保守を外部に頼んでいるパタ...

PHPの重大な脆弱性「PHP2Shell」で、多くのサイトが一斉にメンテナンスに入りました。サイトを使うだけの方は、端末で何かする必要は基本的にありません。直すのはレンタルサーバーなどの運営会社です。AIが10年眠っていた穴を掘り起こした話と、私が忘れていたWordPressをAIにメールをたどらせて見つけ、消した話をします。 🕐タイムスタンプ 00:00 オープニング：PHPの脆弱性とWordPressの話 01:14 何が起きたのか：PHPのクリテ...

Claudeのプロジェクト機能が新しくなりました（ベータ版）。プロジェクトの会話がまとめ役になり、スレッドはクラウドで動きます。触った初日の気づきとして、前のネタの続きが言いやすくなったこと、依頼・返事・成果物が一本の流れで見えるようになったことをお話しします。 🕐タイムスタンプ 00:00 オープニング：Claudeの新しいプロジェクト機能 00:57 自分のプロジェクトがアップグレードされた 01:46 大前提：まだベータ版、...

AIはこんなに便利なのに、なぜ企業では禁止されるのか。技術だけ見れば、GoogleもAIも外の会社に預ける点はそんなに違いません。禁止の本当の理由は、契約に名前が載っているか、会社が管理できるか、法務にとって割に合うか。怖さの正体は、漏れたときに説明できないことだ、というお話です。 🕐タイムスタンプ 00:00 オープニング：企業でAIを禁止される理由 00:43 雑談：採用の営業が急に増えた 01:32 AIを使っていない会社もま...

OpenAIのdotsからxAIのGrokボットに乗り換えた話です。動作が軽く、ボットを複数作れて、プライマリーボットに頼めば子ボットが動く。Xに直接アクセスでき、文章もいい。予約投稿までつなげば、ネタ探しから投稿までのルーティンがクラウドで回ります。dotsへの不満と、Grokボットの注意点もお話ししました。 🕐タイムスタンプ 00:00 オープニング：Grokボットは、X発信者に今一番いい環境 00:30 雑談：テスラの新型ロードスターに...