150分の音声ファイルを98秒で文字起こし。OpenAI Whisperの精度はそのままに、推論速度だけを最大23倍に引き上げるCLIツールがInsanely Fast Whisperだ。Hugging FaceのVaibhav Srivastav氏が開発し、2026年7月31日時点でGitHub Stars 12,997・Apache-2.0ライセンス。録音済みの音声をGPUで一括処理する用途向けで、リアルタイム字幕には向かない。
LLM・ローカルAIの全体像は LLMとは？仕組み・主要モデル比較・ローカル実行・量子化を一気にまとめる2026年版 をご覧ください。
- 何ができる：FP16＋バッチ処理＋Flash Attention 2でWhisper large-v3を最大19倍、distil-large-v2を最大23倍（下の表の割り算では約24倍）に高速化（A100 80GB・公式ベンチ）
- 何を解決する：会議録・講義・ポッドキャストの文字起こしを、
pipx installと1コマンドで済ませる - 何を代替する：自前のTransformers pipeline設定や、従量課金の音声認識API。ただしGPU（CUDAまたはApple Silicon）が要る
- 注意：リポジトリの最終コミットは2024-05-27で、新規採用では更新停止を織り込む
最新コミットは 2024-05-27（2026年7月31日に確認）。GitHubのArchivedフラグは立っておらず、pipxでの導入もできるが、新しいGPUや新しいtransformersで詰まっても上流の修正は期待しにくい。長期運用の新規採用では、継続的に更新されているfaster-whisperも比較してほしい。
Insanely Fast Whisperとは｜高速化の仕組みと使いどころ
Hugging Face Transformers・Optimum・Flash Attention 2を組み合わせ、Whisperの推論速度を引き上げるCLIだ。モデルの精度には手を加えず、OpenAI Whisperやdistil-whisperのチェックポイントをそのまま読み込む。新モデルが出たら --model-name を差し替えるだけで使える。
THREE LAYERS高速化の中身
モデルは変えず、3つの実行設定だけで速くする
-
FP16推論
重みと計算をFP32からFP16へ
-
バッチ処理
30秒チャンクをバッチ24で並列処理
-
Flash Attention 2
--flash True で有効化（NVIDIA GPU向け）
| 最適化 | 効果 | 仕組み |
|---|---|---|
| FP16推論 | メモリ削減・スループット向上 | 重みと計算をFP32からFP16に変える |
| バッチ処理 | GPUを使い切る | 音声を30秒チャンクに分け、既定のバッチ24で並列処理 |
| Flash Attention 2 | メモリ使用量とアテンション計算の削減 | --flash True で有効化。未指定ならPyTorchのSDPA（現行CLIのソースで確認） |
主な使いどころは4つだ。
・ファイル／URLの高速文字起こし（出力は output.json）
・Pyannote.audioによる話者分離（--hf-token が必要）
・--task translate による英語への翻訳
・--timestamp word によるワード単位のタイムスタンプ（字幕作りは動画の字幕生成ツールpyvideotransと組める）
Insanely Fast Whisperのベンチマーク｜150分の音声が何分で終わるか
公式READMEがNvidia A100（80GB）で150分の音声を処理した値だ。BetterTransformerの行はREADMEの測定時の比較構成で、現行CLIの既定（--flash 未指定時はSDPA）とは別物である。
150 MIN AUDIO処理時間の比較
150分の音声が1分18秒〜31分で処理される差
| 構成 | 処理時間 | large-v3 fp32比 |
|---|---|---|
| large-v3 fp32（Transformers） | 31分01秒 | 1.0x |
| large-v3 fp16＋バッチ24＋BetterTransformer | 5分02秒 | 約6.2x |
| large-v3 fp16＋バッチ24＋Flash Attention 2 | 1分38秒 | 約19x |
| distil-large-v2 fp16＋バッチ24＋BetterTransformer | 3分16秒 | 約9.5x |
| distil-large-v2 fp16＋バッチ24＋Flash Attention 2 | 1分18秒 | 約24x |
| large-v2（Faster Whisper）fp16 beam=1 | 9分23秒 | 約3.3x |
| large-v2（Faster Whisper）8bit beam=1 | 8分15秒 | 約3.8x |
倍率は上の処理時間から割り算した値で、READMEの見出し（最大23倍）とは丸め方が異なる。この数字はA100＋バッチ24＋Flash Attention 2の条件で、手元のGPUでは変わる（RTX系や Apple Silicon での実測は本記事では行っていない＝未検証）。distilモデルは蒸留のため、精度重視なら large-v3 を選び、重要な議事録では両方で比べる。
Insanely Fast Whisperとfaster-whisperの違い｜「fast whisper」で探す人へ
名前は似ているが、開発元も高速化の方式も別物だ。なお fast whisper / fast-whisper という名前の公式プロジェクトは無く、多くは faster-whisper か本ツールを指す。
SIMILAR NAMES名前が似た別物
GPUで一括処理か、CPUでも組み込みか
Insanely Fast Whisper
Vaibhavs10・CLI中心
- Transformers+FP16+バッチ+FA2
- GPU前提（CUDA・MPS）
- 最終コミット 2024-05-27
faster-whisper
SYSTRAN・ライブラリ中心
- CTranslate2+量子化
- CPUでも実用的
- 最新リリース v1.2.1（2025-10-31）
| Insanely Fast Whisper | faster-whisper | |
|---|---|---|
| リポジトリ | Vaibhavs10/insanely-fast-whisper |
SYSTRAN/faster-whisper |
| スター | 12,997 | 24,642 |
| ライセンス | Apache-2.0 | MIT |
| 高速化の方式 | Transformers＋FP16／バッチ／Flash Attention 2 | CTranslate2による推論エンジン置き換え＋量子化 |
| 実行環境 | GPU前提（CUDA／MPS） | CPUでも実用的（int8量子化） |
| 提供形態 | CLI中心 | Pythonライブラリ中心 |
| 直近の更新 | 最終コミット 2024-05-27 | 直近push 2025-11-19／最新v1.2.1（2025-10-31） |
選び分けは「GPUがあるか」と「ライブラリとして組み込むか」で決まる。GPUがあり録音済み音声をコマンド一発で処理したいなら本ツール、CPUしかない・Pythonアプリに組み込みたい・更新が続く方がよいならfaster-whisperだ。「faster-whisper 精度」を調べる場合も、土台はどちらもWhisperのモデルで、精度が変わるのは量子化（int8など）やモデル選択の側だ。
Insanely Fast Whisperの使い方｜pipxでの導入と基本コマンド
導入はpipxで行う（仮想環境が分かれ、システムのPythonを汚さない）。READMEによれば、Flash Attention 2は --no-build-isolation 付きで入れる。
pipx install insanely-fast-whisper
pipx runpip insanely-fast-whisper install flash-attn --no-build-isolation # NVIDIA GPUのみ
insanely-fast-whisper --file-name audio.mp3 --flash True --batch-size 24
話者分離は、Hugging Faceでモデルの利用条件に同意したうえでトークンを渡す。既定の分離モデルは pyannote/speaker-diarization-3.1 だ（ソースの既定値を確認済み）。
insanely-fast-whisper --file-name interview.mp3 --hf-token $HF_TOKEN --num-speakers 2
| オプション | 説明 | 既定値 |
|---|---|---|
--file-name |
音声のパスまたはURL | （必須） |
--model-name |
モデル | openai/whisper-large-v3 |
--batch-size |
OOM時は下げる | 24 |
--flash |
Flash Attention 2 | False |
--device-id |
GPU番号。Macは mps |
0 |
--task |
transcribe / translate | transcribe |
--timestamp |
chunk / word | chunk |
--transcript-path |
出力JSONの保存先 | output.json |
日本語を指定し、ワード単位のタイムスタンプで出す例と、全引数の確認コマンドは次のとおり（導入せず試すなら pipx run insanely-fast-whisper ... でもよい）。
insanely-fast-whisper --file-name meeting.wav --language ja --timestamp word
insanely-fast-whisper --help
macOSでは --device-id mps が必須で、READMEは --batch-size 4 程度を勧めている。この記事のコマンドはREADMEとCLIのソースで引数名と既定値を突き合わせたもので、GPU上での実行は行っていない（実行は未検証）。
Insanely Fast Whisperの制限事項とトラブル対処
・GPU必須：CPUのみでは動かない。NVIDIA GPU（CUDA）かApple Silicon（MPS）が前提
・リアルタイム非対応：ファイル単位のバッチ処理が前提。会議中の同時字幕にはWhisperLiveKitのようなストリーミング系を使う
・更新停止：最終コミットは2024-05-27。新しい環境での互換性は自分で確かめる
・話者分離：Hugging Faceのトークンと、モデル利用条件への同意が要る
| 症状 | 対処 |
|---|---|
| CUDA out of memory | --batch-size を下げる。nvidia-smi で他プロセスの占有も確認する |
| flash-attnのビルド失敗 | --no-build-isolation で入れ直す。入らなければ --flash 無しで動かす |
| MacでOOM・遅い | mpsはCUDAほど最適化されずメモリを食う。--batch-size 4 から試し、--device-id mps を必ず付ける |
| 話者分離でエラー | Hugging Faceでpyannoteモデルの利用条件に同意し、トークンを取り直す |
| Python 3.11でpipxが古い版（0.0.8）を入れる | pipx install insanely-fast-whisper --force --pip-args="--ignore-requires-python"（README記載） |
Windowsで Torch not compiled with CUDA enabled |
仮想環境にCUDA版torchを入れ直す（README記載） |
Windowsでflash-attnを入れるのは難しいと言われるが、本記事では未検証。
他の音声認識ツールとの使い分け
| 用途 | 向くツール | 理由 |
|---|---|---|
| 会議録・ポッドキャストの事後処理（GPUあり） | Insanely Fast Whisper | バッチ処理に特化 |
| CPUのみ／Pythonに組み込み | faster-whisper | CTranslate2＋int8でCPUでも動く |
| 会議中のリアルタイム字幕 | WhisperLiveKit | ストリーミング対応 |
| サーバーを持たず手軽に | クラウドの音声認識API | GPU管理が不要 |
文字起こし後の要約はLLMに渡す形が一般的で、出力JSONの text を取り出して渡せる。録音済みでGPUがあるなら本ツール、そうでなければ上の表から選ぶ、で足りる。
参照ソース
- GitHub: Vaibhavs10/insanely-fast-whisper — README・CLIソース・ベンチマーク
- GitHub: SYSTRAN/faster-whisper — 比較対象
- OpenAI Whisper Large v3（Hugging Face） — モデルカード
- distil-whisper（Hugging Face） — 蒸留モデル
- Flash Attention 2（GitHub） — 高速アテンション実装
