[Torch Uncertainty] Tutorial: Deep Evidential Classification on a Toy Example
·
통계 & 머신러닝/통계적 머신러닝
`Torch Uncertainty` 공식문서의 `Tutorials`를 번역한 내용입니다.Deep Evidential Classification on a Toy Example이 튜토리얼은 Deep Evidential Classification(DEC)의 개요를 소개하고자 하며, MNIST 데이터셋을 사용하는 Multi-Layer Perceptron(MLP) 신경망 모델을 통해 DEC를 적용하는 방법을 보여줍니다. MLP의 출력은 디리클레(Dirichlet) 분포로 모델링되며, DEC 손실 함수는 베이지안 리스크 제곱 오차 손실과 KL Divergence 기반의 정규화 항으로 구성됩니다.Training a LeNet with DEC using TorchUncertainty models다음 단계에서는 이미 T..
[Torch Uncertainty] Tutorial: Training a LeNet with Monte Carlo Batch Normalization
·
통계 & 머신러닝/통계적 머신러닝
`Torch Uncertainty` 공식문서의 `Tutorials`를 번역한 내용입니다.Training a LeNet with Monte Carlo Batch Normalization이 튜토리얼에서는 Monte-Carlo Batch Normalization(MCBN)이라는 사후 베이지안 근사 방법을 사용하여 MNIST 데이터셋에서 LeNet 분류기를 훈련합니다.Training a LeNet with MCBN using TorchUncertainty models and PyTorch Lightning이 부분에서는 이미 TorchUncertainty(TU)에 구현된 모델과 루틴을 기반으로 배치 정규화(Batch Normalization) 레이어가 포함된 LeNet을 훈련합니다.1. Loading the ut..
[Torch Uncertainty] Tutorial: Training a LeNet with Monte-Carlo Dropout
·
통계 & 머신러닝/통계적 머신러닝
`Torch Uncertainty` 공식문서의 `Tutorials`를 번역한 내용입니다.Training a LeNet with Monte-Carlo Dropout이 튜토리얼에서는 Monte-Carlo Dropout(MC Dropout)이라는 계산 효율적인 베이지안 근사 방법을 사용하여 MNIST 데이터셋에서 LeNet 분류기를 훈련합니다. 예측 평균과 불확실성(분산)을 추정하기 위해, 드롭아웃 레이어가 활성화된 상태로 여러 번 네트워크를 forward pass시킵니다. Monte-Carlo Dropout에 대한 더 자세한 정보는 다음 문헌을 참조하십시오:"Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning..
[Torch Uncertainty] Tutorial: Improve Top-label Calibration with Temperature Scaling
·
통계 & 머신러닝/통계적 머신러닝
`Torch Uncertainty` 공식문서의 `Tutorials`를 번역한 내용입니다.Improve Top-label Calibration with Temperature Scaling이 튜토리얼에서는 TorchUncertainty를 사용하여 top-label 예측의 캘리브레이션을 개선하고, 기본 신경망의 신뢰성을 향상시키는 방법을 다룹니다. 이 튜토리얼에서는 `TemperatureScaler` 클래스를 사용하는 방법에 대한 자세한 내용을 제공하지만, 이는 분류 루틴에서 `calibration_set`을 `val` 또는 `test`로 설정할 때 자동으로 수행됩니다. 또한, 이 튜토리얼을 통해 Lightning 트레이너를 사용하지 않고도 데이터 모듈을 사용하는 방법과 TorchUncertainty의 모델을..
[Torch Uncertainty] Quick Start
·
통계 & 머신러닝/통계적 머신러닝
`Torch Uncertainty` 공식문서의 `Quick Start`를 번역 및 정리한 내용입니다.Torch Uncertainty는 Pytorch Lightning을 기반으로 작성되어, Pytorch model을 Routine이라는 객체로 상속받아 Pytorch Lightning을 구현한것 처럼 사용 가능합니다.Torch UncertaintyTorchUncertainty는 PyTorch 기반의 라이브러리로, 불확실성(Uncertainty)을 고려한 훈련 및 평가를 간편하게 수행할 수 있도록 설계되었습니다. 이 라이브러리는 특히 다양한 앙상블 기법(Deep Ensembles, Packed-Ensembles, MIMO, Masksembles 등)을 지원하며, 모델의 불확실성을 측정하고 모니터링할 수 있는 ..
[Torch Uncertainty] Installation
·
통계 & 머신러닝/통계적 머신러닝
`Torch Uncertainty` 공식문서의 `Installation`에 더 자세히 나와있습니다.Installation`Torch Uncertainty`를 설치하는 방법입니다. 먼저 파이토치가 다운 되어있어야 합니다!PyPIpip으로 다운받는법pip install torch-uncertaintySource또는 소스로부터 다운받는법git clone https://github.com/ENSTA-U2IS-AI/torch-uncertainty.gitcd torch-uncertaintyconda create -n uncertainty python=3.10conda activate uncertaintypip install -e . 출처https://torch-uncertainty.github.io/installa..