熱力学理論でAIの忘却問題を解明、Part II公開

import numpy as np
import torch
import torch.nn.functional as F

def calculate_task_interference(model, task_a_data, task_b_data, device="cuda"):
    """
    タスクAとタスクB間の学習干渉をエントロピーベースで定量化
    
    Returns:
        interference_score: 0に近いほど干渉が少なく、継続学習が容易
        1に近いほど干渉が大きく、破局的忘却のリスクが高い
    """
    model.eval()
    
    # タスクAのパラメータ勾配を計算
    gradients_a = []
    for x, y in task_a_data:
        x, y = x.to(device), y.to(device)
        loss_a = F.cross_entropy(model(x), y)
        loss_a.backward()
        grad = [p.grad.clone().flatten() for p in model.parameters() if p.grad is not None]
        gradients_a.append(torch.cat(grad))
    
    model.zero_grad()
    
    # タスクBのパラメータ勾配を計算
    gradients_b = []
    for x, y in task_b_data:
        x, y = x.to(device), y.to(device)
        loss_b = F.cross_entropy(model(x), y)
        loss_b.backward()
        grad = [p.grad.clone().flatten() for p in model.parameters() if p.grad is not None]
        gradients_b.append(torch.cat(grad))
    
    model.zero_grad()
    
    # 勾配の余弦類似度を計算
    grad_a_mean = torch.stack(gradients_a).mean(dim=0)
    grad_b_mean = torch.stack(gradients_b).mean(dim=0)
    
    cosine_sim = F.cosine_similarity(
        grad_a_mean.unsqueeze(0),
        grad_b_mean.unsqueeze(0)
    ).item()
    
    # 干渉スコア：余弦類似度が-1（完全逆方向）のとき最大干渉
    interference_score = (1 - cosine_sim) / 2
    
    # 情報エントロピーで補正
    # 勾配の分布のエントロピーが高いほど、干渉の影響が広範囲に及ぶ
    grad_dist_a = F.softmax(grad_a_mean.abs(), dim=0)
    entropy_a = -(grad_dist_a * torch.log(grad_dist_a + 1e-9)).sum().item()
    
    entropy_normalized = entropy_a / np.log(len(grad_a_mean))  # 正規化
    
    return {
        "interference_score": interference_score,
        "gradient_cosine_similarity": cosine_sim,
        "entropy_a": entropy_normalized,
        "risk_level": "HIGH" if interference_score > 0.7 else "MEDIUM" if interference_score > 0.4 else "LOW"
    }

# EWC（Elastic Weight Consolidation）の熱力学的解釈
# タスクAのフィッシャー情報行列 = パラメータの「熱的重要度」

import torch
import torch.nn as nn

class EWCLoss(nn.Module):
    """
    EWC正則化損失
    熱力学的には「タスクAのエネルギー極小点付近に留まる拘束力」として解釈できる
    """
    def __init__(self, model, task_a_data, lambda_ewc=1000):
        super().__init__()
        self.lambda_ewc = lambda_ewc
        
        # フィッシャー情報行列の対角成分を計算（重要パラメータの「熱的重量」）
        self.fisher_info = {}
        self.optimal_params = {}
        
        for name, param in model.named_parameters():
            self.optimal_params[name] = param.data.clone()
        
        # タスクAのデータからフィッシャー情報を推定
        model.eval()
        for x, y in task_a_data:
            output = model(x)
            loss = F.cross_entropy(output, y)
            loss.backward()
            
            for name, param in model.named_parameters():
                if param.grad is not None:
                    if name not in self.fisher_info:
                        self.fisher_info[name] = param.grad.data.clone() ** 2
                    else:
                        self.fisher_info[name] += param.grad.data.clone() ** 2
        
        # フィッシャー情報の正規化
        for name in self.fisher_info:
            self.fisher_info[name] /= len(task_a_data)
    
    def forward(self, model):
        """EWC正則化項：熱力学的「拘束ポテンシャル」に相当"""
        ewc_loss = 0
        for name, param in model.named_parameters():
            if name in self.fisher_info:
                # 重要パラメータが最適値からずれるほどペナルティが増加
                ewc_loss += (
                    self.fisher_info[name] * 
                    (param - self.optimal_params[name]) ** 2
                ).sum()
        
        return self.lambda_ewc / 2 * ewc_loss