머신러닝과 인공지능에서 편향된 결과가 나는 이유는 다음과 같다.

첫째, 데이터의 편향이다. 머신러닝과 인공지능은 데이터에 기반하여 학습이 진행된다. 데이터가 편향되어 있다면, 그에 따른 결과도 편향될 가능성이 크다.

둘째, 알고리즘의 한계이다. 머신러닝과 인공지능에서 사용되는 알고리즘은 완벽하지 않기 때문에, 결과에 편향이 생길 수 있다.

셋째, 인간의 편향이다. 머신러닝과 인공지능을 개발하는 개발자들이 가진 편향이나 사고방식이 결과에 반영될 수 있다. 이러한 편향을 최소화하기 위해서는 다양한 데이터와 알고리즘을 사용하는 것이 중요하다. 또한, 개발자들의 편향을 인식하고, 이를 개선하기 위한 노력이 필요하다.

편향된 결과 생성 이유

• 데이터 불균형 (Data Imbalance)
  학습 데이터셋 내에서 클래스 간의 빈도수가 불균형하게 분포될 경우, 모델은 다수 클래스를 더 잘 예측하게 되고 소수 클래스는 무시되거나 부정확하게 예측될 가능성이 높아진다. 예를 들어, 사기 탐지 시스템에서 정상 거래 데이터가 사기 거래 데이터보다 훨씬 많을 경우, 모델은 대부분의 거래를 정상으로 분류하는 편향을 보일 수 있다.

• 샘플링 편향 (Sampling Bias)
  데이터 수집 과정에서 특정 집단이나 특성이 과도하게 표본화되거나 반대로 과소 표본화될 때 발생한다. 이는 실제 인구 집단의 다양성을 반영하지 못하고 특정 부분만을 과도하게 대표하는 결과를 낳는다. 예를 들어, 인종별로 편향된 데이터 수집은 모델이 특정 인종이나 배경에 불리하게 작용할 수 있다.

• 알고리즘 및 하이퍼파라미터 설정 (Algorithmic and Hyperparameter Choices)
  사용하는 머신러닝 알고리즘과 그에 따른 하이퍼파라미터 설정이 결과에 큰 영향을 미친다. 일부 알고리즘은 특정 유형의 패턴을 더 잘 학습하는 경향이 있어, 모델 선택이 부적절하거나 하이퍼파라미터 튜닝이 부족하면 특정 유형의 편향이 발생할 수 있다. 예를 들어, 규제가 부족한 선형 모델은 과적합(overfitting)을 일으켜 훈련 데이터의 잡음이나 편향을 반영할 수 있다. 이는 실제 테스트 데이터에서 일반화 능력 저하와 편향된 예측으로 이어질 수 있다.