예측 결과가 같은 환경에서 사람마다 다르게 나오는 이유

딥러닝에서 ResNet34와 같은 모델을 사용할 때 예측 결과가 사람마다 다르게 나오는 이유는 몇 가지 요인에 의해 영향을 받을 수 있습니다. 모델의 동작을 완전히 일정하게 하려면 여러 요소들에 대한 고려가 필요합니다.

1. 난수 초기화(seed): 시드(seed)를 고정했다고 하셨지만, 시드는 라이브러리 및 실행 환경에 따라 다르게 적용될 수 있습니다. PyTorch, TensorFlow 등 사용하는 딥러닝 프레임워크에 따라 GPU 연산이나 다른 내부 알고리즘에서 난수를 다루는 방식이 달라질 수 있습니다. 또한, 시드 고정은 해당 프레임워크 내에서만 유효할 수 있으며, OS나 하드웨어 레벨에서의 랜덤성에 대해 제어할 수 없습니다.

2. 하드웨어 차이: 사용하는 하드웨어(특히 GPU)에 따라 결과가 달라질 수 있습니다. 다른 GPU 아키텍처는 내부적으로 수행하는 연산의 순서나 방식이 약간씩 다를 수 있으며, 이는 최종 결과에 영향을 미칠 수 있습니다.

3. 병렬 처리 및 비결정적 연산: 딥러닝 모델에서는 특히 GPU를 사용할 때 병렬 처리가 이루어집니다. GPU에서는 연산을 병렬로 처리하는 과정에서 동일한 입력에 대해 순서가 바뀌거나, 경합 조건(race condition) 등으로 인해 작은 차이가 발생할 수 있습니다. 또한, 일부 연산은 비결정적(non-deterministic)일 수 있어 동일한 입력에 대해서도 다른 결과를 생성할 수 있습니다.

4. 라이브러리 및 프레임워크 버전 차이: 사용하는 라이브러리나 프레임워크의 버전 차이도 결과에 영향을 줄 수 있습니다. 각 버전에서 성능 최적화나 버그 수정 등이 이루어지면서 내부 알고리즘이 변경될 수 있기 때문입니다.

5. 초기화 및 입력 데이터 처리: 모델의 가중치 초기화 방식이나 입력 데이터의 전처리 과정에서도 약간의 차이가 발생할 수 있습니다. 예를 들어, 이미지 크기 조정, 정규화 방법 등이 각 환경에서 약간씩 다르게 적용될 수 있습니다.

따라서 완벽하게 일관된 결과를 얻기 위해서는, 시드 고정 외에도 실행 환경을 표준화하고 모든 외부 요인에 대한 제어를 극대화하는 것이 중요합니다. 모든 참여자가 동일한 하드웨어와 소프트웨어 환경에서 코드를 실행하는 것이 이상적입니다.