何が起きたか

ニュージーランドのHealth NZ（国営医療機関）が職員に対し、ChatGPT、Claude、Geminiなどの無料AI生成ツールを臨床記録作成に使用しないよう指示した。ロトルア湖精神保健・依存症サービスの管理者が発出したメモが発端で、違反は懲戒処分対象となる。患者の機密情報が外部企業のサーバーに送信されるデータセキュリティリスク、プライバシーリスク、アカウンタビリティの問題が禁止の根拠である。

禁止の具体的な範囲

Health NZの方針は、無料AI生成ツールの臨床利用を包括的に禁止している。注目すべき点は、患者情報を匿名化した上でAIツールに入力し、その結果を転記する手法も明示的に禁止されていることである。匿名化が不完全な場合のリスクや、入力データの外部保存リスクを考慮した判断とみられる。

Health NZのデジタルイノベーション・AI部門ディレクターのソニー・テイト氏は、無料AIツールが「データセキュリティ、プライバシー、アカウンタビリティにリスクをもたらす」と述べている。外部AI統合には事前のセキュリティレビューが必須であり、National Artificial Intelligence and Algorithm Expert Advisory Group（NAIAEAG）に登録されたツールのみが使用を許可される。

承認済みの代替手段

Health NZは医療事務負担の軽減効果自体は認識しており、承認済みのAIツールの展開を進めている。

ツール 種類 用途 状態
Heidi AIスクライブ 診察記録の自動作成 救急部門で展開中
NAIAEAG登録ツール 各種 承認済みAIツール 審査通過済み

一方で、公務員協会（PSA）のフラー・フィッツシモンズ全国書記長は、懲戒処分による威嚇は逆効果であると批判している。職員が無許可のAIツールを使用する根本原因は怠慢ではなく、業務負荷の過大さとリソース不足にあると指摘し、Health NZがデジタルシステム担当チームを削減してきた経緯を問題視している。

医療AIのデータフロー問題

無料AI生成ツールを臨床環境で使用する場合のデータフローは以下のようになる。

graph LR A[患者データ入力] --> B[外部AIサービス] B --> C[外部サーバーで処理] C --> D[応答返却] C --> E[データ保持リスク] E --> F[第三者アクセスリスク]

医療データが外部サーバーに到達した時点で、データの保持期間、学習データへの利用可否、第三者へのアクセス権限など、医療機関側の制御が及ばない領域が生まれる。これはニュージーランドの医療情報プライバシー法制に抵触する可能性がある。

エンジニアへの影響

  • 企業向けAIツール需要の急増：データ保護を前提とした医療AI設計が競争力の源泉に。オンプレミスまたはプライベートクラウドでの運用が標準要件化
  • オンプレミスLLMの市場拡大：OllamaでMistral 7BやLlama2をローカル実行し、データを社内に留める方式への需要が顕在化
  • 監査証跡の必須化：AI出力の監査証跡システムが医療向けAIの標準機能となり、誰がいつどのAIツールを使い、どのような入出力があったかの完全な記録が求められる
  • 規制対応エンジニアの市場価値上昇：医療データ保護要件に対応したAI実装経験者の採用競争が激化

試してみるには

プライベートLLM環境の構築手順として、Ollama（ollama.ai）をダウンロードし、Mistral 7BやLlama 3をローカル実行する方法がある。FastAPI経由でカスタムアプリケーションに統合可能。Hugging Faceの医療特化モデル（BioBERT、SciBERT）も選択肢となる。

参考リンク

この記事はAI業界の最新動向を速報でお届けする「AI Heartland ニュース」です。