Apple、iOS 26.4でオンデバイスLLMのコンテキストウィンドウ管理APIを追加

何が起きたか

AppleがiOS 26.4のRelease Candidateで、Foundation Modelsフレームワークにコンテキストウィンドウ管理APIを追加した。オンデバイスで動作するAppleのLLMは4096トークンのコンテキストウィンドウを持つが、これまで開発者がその使用状況を把握する手段は限られていた。新APIにより、コンテキストの残り容量を動的に確認しながら効率的にプロンプトを管理できるようになる。

どう動くのか

iOS 26.4で追加された主なAPIは2つ。①SystemLanguageModelのcontextSizeプロパティ：利用可能なコンテキスト容量を返す。②tokenCount(for:)メソッド：任意の入力が消費するトークン数を測定する。これにより、開発者はプロンプト送信前にトークンコストを見積もり、コンテキストウィンドウのオーバーフローを防止できる。将来的にコンテキストサイズが変更された場合にも、ハードコードせず動的に対応可能だ。

エンジニアへの影響

• オンデバイスLLMの実用性向上：チャット形式のアプリで蓄積される会話履歴のトークン管理が容易に
• リソース管理の発想：Appleはコンテキストウィンドウを「メモリやCPUサイクルのように有限リソースとして予算管理する」アプローチを推奨
• 将来への互換性：4096トークンのハードコードを避け、動的に取得することで、モデル更新時の対応コストを削減
• 業界全体の課題：200,000トークンを謳うモデルでも実効的な容量は60〜70%程度。コンテキスト管理は全プラットフォーム共通の課題

試してみるには

Xcode 16.4以降でiOS 26.4 SDKを使用。Foundation ModelsフレームワークのSystemLanguageModelクラスから新APIにアクセスできる。Apple Developerサイト（developer.apple.com）で詳細ドキュメントを確認。

参考リンク

• ソース
• Apple Developer

この記事はAI業界の最新動向を速報でお届けする「AI Heartland ニュース」です。