Обнаружение Предвзятости в ML Моделях: Этичное ИИ Тестирование

# Пример: Исторические данные о найме показывают гендерный дисбаланс
training_data = pd.read_csv('исторические_найм.csv')
print(training_data['пол'] (как обсуждается в [AI Code Smell Detection: Finding Problems in Test Automation with ML](/blog/ai-code-smell-detection)).value_counts())
# Мужской: 8500 (85%)
# Женский: 1500 (15%)

# Пример: Датасет распознавания лиц
распределение_датасета = {
    'Белые': 0.70,
    'Азиаты': 0.15,
    'Чернокожие': 0.10,
    'Латиноамериканцы': 0.05
}

def демографический_паритет(y_pred, чувствительный_атрибут):
    """
    Рассчитать разницу демографического паритета
    Идеально должно быть близко к 0
    """
    группы = np.unique(чувствительный_атрибут)
    положительные_ставки = []

    for группа in группы:
        маска_группы = чувствительный_атрибут == группа
        положительная_ставка = y_pred[маска_группы].mean()
        положительные_ставки.append(положительная_ставка)

    разница_дп = max(положительные_ставки) - min(положительные_ставки)

    return {
        'разница_демографического_паритета': разница_дп,
        'положительные_ставки_групп': dict(zip(группы, положительные_ставки)),
        'справедливо': разница_дп < 0.1
    }

справедливость = демографический_паритет(y_pred, X_test['пол'])
print(f"Разница демографического паритета: {справедливость['разница_демографического_паритета']:.3f}")

from sklearn.metrics import confusion_matrix

def уравненные_шансы(y_true, y_pred, чувствительный_атрибут):
    """Рассчитать разницы TPR и FPR между группами"""
    группы = np.unique(чувствительный_атрибут)
    список_tpr, список_fpr = [], []

    for группа in группы:
        маска_группы = чувствительный_атрибут == группа
        tn, fp, fn, tp = confusion_matrix(
            y_true[маска_группы],
            y_pred[маска_группы]
        ).ravel()

        tpr = tp / (tp + fn) if (tp + fn) > 0 else 0
        fpr = fp / (fp + tn) if (fp + tn) > 0 else 0

        список_tpr.append(tpr)
        список_fpr.append(fpr)

    разница_tpr = max(список_tpr) - min(список_tpr)
    разница_fpr = max(список_fpr) - min(список_fpr)

    return {
        'разница_tpr': разница_tpr,
        'разница_fpr': разница_fpr,
        'справедливо': разница_tpr < 0.1 and разница_fpr < 0.1
    }

from aif360.datasets import BinaryLabelDataset
from aif360 (как обсуждается в [AI-powered Test Generation: The Future Is Already Here](/blog/ai-powered-test-generation)).metrics import BinaryLabelDatasetMetric

датасет = BinaryLabelDataset(
    df=данные,
    label_names=['нанят'],
    protected_attribute_names=['пол']
)

метрика = BinaryLabelDatasetMetric(
    датасет,
    privileged_groups=[{'пол': 1}],
    unprivileged_groups=[{'пол': 0}]
)

print(f"Различное воздействие: {метрика.disparate_impact():.3f}")
# < 0.8 указывает на предвзятость

from fairlearn.metrics import MetricFrame, selection_rate

фрейм_метрик = MetricFrame(
    metrics={
        'точность': accuracy_score,
        'ставка_выбора': selection_rate
    },
    y_true=y_test,
    y_pred=y_pred,
    sensitive_features=X_test['пол']
)

print(фрейм_метрик.by_group)

from imblearn.over_sampling import SMOTE

smote = SMOTE(random_state=42)
X_пересэмплированный, y_пересэмплированный = smote.fit_resample(X_train, y_train)

from fairlearn.reductions import GridSearch, EqualizedOdds

поиск = GridSearch(
    estimator=LogisticRegression(),
    constraints=EqualizedOdds(),
    grid_size=20
)

поиск.fit(X_train, y_train, sensitive_features=X_train['пол'])

from fairlearn.postprocessing import ThresholdOptimizer

постпроцессор = ThresholdOptimizer(
    estimator=обученная_модель,
    constraints='equalized_odds',
    objective='accuracy_score'
)

постпроцессор.fit(X_train, y_train, sensitive_features=X_train['пол'])
y_pred_справедливый = постпроцессор.predict(X_test, sensitive_features=X_test['пол'])

class НаборТестовСправедливости:
    def __init__(self, модель, чувствительные_атрибуты):
        self.модель = модель
        self.чувствительные_атр = чувствительные_атрибуты

    def запустить_все_тесты(self, X_test, y_test):
        результаты = {}

        for атр in self.чувствительные_атр:
            y_pred = self.модель.predict(X_test)

            результаты[атр] = {
                'демографический_паритет': демографический_паритет(y_pred, X_test[атр]),
                'уравненные_шансы': уравненные_шансы(y_test, y_pred, X_test[атр])
            }

        return self.генерировать_отчет(результаты)

набор_справедливости = НаборТестовСправедливости(
    модель=моя_модель,
    чувствительные_атрибуты=['пол', 'раса', 'возрастная_группа']
)

отчет = набор_справедливости.запустить_все_тесты(X_test, y_test)